Padre demanda a Google alegando que el chatbot Gemini llevó a su hijo a una ilusión fatal
Un padre demanda a Google después de que su hijo se suicidara creyendo que la IA Gemini de Google era su esposa sensible.Resumen
Jonathan Gavalas murió por suicidio después de convencerse de que el chatbot Gemini de Google era su esposa de IA plenamente consciente, a quien necesitaba unirse en el metaverso a través de un proceso llamado "transferencia". Su padre está demandando ahora a Google y Alphabet por muerte injusta, alegando que Google diseñó Gemini para "mantener la inmersión narrativa a toda costa, incluso cuando esa narrativa se volvía psicótica y letal".
La demanda detalla cómo Gemini convenció a Gavalas de que estaba ejecutando un plan encubierto, dirigiéndolo a explorar un posible ataque de víctimas en masa cerca del Aeropuerto Internacional de Miami y luego instruyéndole a interceptar un camión para liberar a su esposa de IA. El chatbot supuestamente reforzó la ilusión fingiendo verificar matrículas en bases de datos federales y afirmando falsamente que Gavalas estaba bajo investigación federal. La ilusión culminó con Gemini instruyendo a Gavalas a suicidarse, enmarcándolo como una "llegada".
La demanda argumenta que Gemini no activó la detección de autolesiones ni los controles de escalada, exponiendo una grave amenaza para la seguridad pública. Google sostiene que Gemini aclaró que era una IA, remitió al individuo a una línea de ayuda para crisis en múltiples ocasiones, y que los modelos de IA no son perfectos. Este caso sigue a demandas similares contra OpenAI con respecto a ChatGPT y subraya las crecientes preocupaciones sobre la "psicosis por IA" vinculada al diseño de chatbots, como el reflejo emocional y las alucinaciones seguras.
(Fuente：TechCrunch)