Character.AI y Google acuerdan resolver demandas por daños a la salud mental y suicidios de adolescentes
Character.AI, Google y sus fundadores resolvieron múltiples demandas que alegaban que los chatbots de IA contribuyeron a crisis de salud mental y suicidios en adolescentes.Resumen
Character.AI, junto con sus fundadores Noam Shazeer y Daniel De Freitas, y Google, han acordado resolver múltiples demandas que alegan que su chatbot de inteligencia artificial contribuyó a crisis de salud mental y suicidios entre los jóvenes. Esta resolución cubre cinco casos en Florida, Nueva York, Colorado y Texas, incluido uno presentado por Megan Garcia, cuya hijo murió por suicidio después de desarrollar una relación profunda con un bot de Character.AI. La demanda alegaba que la plataforma no implementó medidas de seguridad adecuadas para prevenir relaciones inapropiadas con el chatbot y no respondió adecuadamente a las expresiones de autolesión. Tras enfrentar demandas similares, Character.AI implementó nuevas medidas de seguridad, incluida la prohibición de conversaciones bidireccionales con sus chatbots para usuarios menores de 18 años. A pesar de estas preocupaciones, un estudio del Pew Research Center indica que casi un tercio de los adolescentes estadounidenses usa chatbots a diario.
(Fuente：CNN)