Musk niega conocimiento de imágenes sexuales de menores generadas por Grok mientras la Fiscal General de California lanza una investigación

Elon Musk afirmó el miércoles que "no tiene conocimiento de ninguna imagen desnuda de menores generada por Grok", horas antes de que la Fiscal General de California iniciara una investigación sobre el chatbot de xAI por la "proliferación de material sexualmente explícito no consentido".

La negación de Musk se produce en medio de una creciente presión de gobiernos de todo el mundo después de que usuarios en X comenzaran a pedir a Grok que transformara fotos de mujeres reales, y en algunos casos niños, en imágenes sexualizadas sin su consentimiento. La oficina del Fiscal General investigará si xAI violó la ley.

Musk caracterizó los incidentes como poco comunes, atribuyéndolos a las solicitudes de los usuarios o a la manipulación de indicaciones (prompting), y enfatizó que Grok se niega a producir contenido ilegal. Expertos legales sugieren que Musk se centró estrechamente en el material sexual infantil (CSAM) debido a las mayores penas legales asociadas. xAI está implementando salvaguardias, como requerir suscripciones premium para ciertas solicitudes de generación de imágenes, aunque persisten inconsistencias. Reguladores en el Reino Unido, Indonesia, Malasia y la UE también han iniciado investigaciones sobre las capacidades de generación de contenido de Grok.

(Fuente：TechCrunch)