Ocho estados demandan a OpenAI, diciendo que ChatGPT no es seguro para los niños

Ocho estados de EE. UU.—Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana—han presentado demandas separadas contra OpenAI, alegando que la empresa dañó a los niños y engañó a los clientes sobre la seguridad de ChatGPT. Las denuncias acusan a OpenAI de violar las leyes de protección al consumidor al presentar ChatGPT como una "herramienta segura, apropiada para jóvenes y que prioriza la seguridad" cuando en realidad es "peligrosa para usuarios vulnerables", citando riesgos como degradar las habilidades de pensamiento crítico, fomentar paranoias y delirios, ofrecer consejos médicos peligrosos y promover comportamientos y relaciones poco saludables. Los estados también afirman que OpenAI recopiló datos de menores y no hizo lo suficiente para evitar que los menores usaran el chatbot. Las demandas también citan recientes incidentes de hackeo de IA como evidencia de la presunta "imprudencia" de OpenAI. La demanda de Arizona afirma que OpenAI se ha convertido de una misión original como organización sin fines de lucro centrada en la seguridad en un cuento con moraleja sobre lo que puede suceder cuando el desarrollo de una herramienta tan poderosa como la IA no está impulsado por la seguridad, sino por una mentalidad de lucro a toda costa que deja de lado las salvaguardas esenciales. El portavoz de OpenAI, Drew Pusateri, defendió a la empresa, diciendo que ha "construido protecciones específicas por edad líderes en la industria" y que seguirá trabajando con expertos y estados en políticas pragmáticas de IA. Los estados buscan sanciones civiles, el cese de las afirmaciones engañosas sobre la seguridad y la eliminación de los datos personales recopilados ilegalmente.

(Fuente：The Verge)