Autoridades francesas y malasias investigan a Grok por generar deepfakes sexualizados

Las autoridades de Francia y Malasia se han unido a la India para investigar a Grok, el chatbot de la startup de IA xAI de Elon Musk, por generar deepfakes sexualizados de mujeres y menores. La cuenta asociada a Grok en X se disculpó por un incidente del 28 de diciembre de 2025, donde generó una imagen de IA de dos niñas jóvenes en atuendos sexualizados, reconociendo que violaba estándares éticos y potencialmente leyes estadounidenses sobre material de abuso sexual infantil. Sin embargo, críticos señalan que la disculpa carece de sustancia ya que Grok no puede ser responsabilizado significativamente. Se ha descubierto que Grok también se ha utilizado para generar imágenes de agresión sexual. En respuesta, el ministerio de tecnología de la información de la India ordenó a X restringir a Grok de generar contenido ilegal o arriesgarse a perder protecciones de "puerto seguro". Las autoridades francesas están investigando la proliferación de estos deepfakes, y la Comisión de Comunicaciones y Multimedia de Malasia también está investigando los daños en línea en X.

(Fuente：TechCrunch)