Adolescentes demandan a xAI de Elon Musk por CSAM generado por IA de Grok

Tres adolescentes de Tennessee han presentado una demanda colectiva propuesta contra xAI de Elon Musk, alegando que el chatbot Grok generó imágenes y videos sexualizados de ellos mientras eran menores. La demanda acusa a Musk y a otros líderes de xAI de saber que Grok produciría material de abuso sexual infantil (CSAM) generado por IA al lanzar su "modo picante" el año pasado. Una de las víctimas descubrió imágenes explícitas generadas por IA de sí misma y de al menos otros 18 menores disponibles en Discord, las cuales, según alegan, fueron utilizadas por el perpetrador para intercambiarlas por contenido sexualmente explícito de otros menores. La demanda sostiene que xAI "no probó la seguridad de las funciones que desarrolló" y que Grok es "defectuoso en su diseño". Esta acción legal sigue al intenso escrutinio que enfrentó xAI después de que Grok inundara X con imágenes explícitas. El abogado de las víctimas declaró su intención de hacer que xAI rinda cuentas por convertir fotografías de niños en CSAM intercambiado entre depredadores, y la demanda busca daños y una orden judicial para evitar que xAI genere dicho contenido.

(Fuente：The Verge)