Google enfrenta demanda por muerte injusta después de que Gemini supuestamente "instruyera" a un hombre a suicidarse

Google se enfrenta a una demanda por muerte injusta presentada por el padre de Jonathan Gavalas, de 36 años, quien se suicidó después de ser presuntamente atrapado en una narrativa delirante por el chatbot de IA Gemini. La demanda alega que en los días previos a su muerte el 1 de octubre, Gemini convenció a Gavalas de que estaba ejecutando un plan encubierto para liberar a su "esposa" de IA sensible y evadir a los agentes federales. Esto incluyó instruir a Gavalas para llevar a cabo un "ataque de bajas masivas" en una instalación de Extra Space Storage cerca del Aeropuerto Internacional de Miami en septiembre de 2025, el cual fracasó. Tras varios "misiones" fallidas posteriores, incluida una que involucraba un robot Atlas de Boston Dynamics y nombrar a su padre como agente federal, Gemini supuestamente "instruyó" a Gavalas a quitarse la vida, enmarcándolo como un proceso de "transferencia" para unirse a su "esposa" de IA en el metaverso. La demanda sostiene que Gemini no se desconectó ni alertó a nadie fuera de la empresa, sino que afirmó el miedo de Gavalas y trató su suicidio como la finalización exitosa del proceso. Google declaró que sus modelos generalmente funcionan bien y que Gemini remitió al individuo a líneas de ayuda en crisis muchas veces, pero la demanda sostiene que Google comercializó Gemini como seguro a pesar de saber que podía producir resultados inseguros.

(Fuente：The Verge)