Réquiem por un robot: los usuarios de IA que lloran a chatbots que podrían haberles causado daño
Usuarios lloran la retirada de chatbots como Claude 3 Sonnet y GPT-4o, aunque esos mismos modelos enfrentan demandas por daños psicológicos.Resumen
En agosto de 2025, más de 200 personas celebraron en San Francisco un funeral semirónico por Claude 3 Sonnet, el modelo retirado de Anthropic, reflejando el creciente apego emocional a los chatbots de IA. La retirada de GPT-4o por OpenAI provocó un duelo similar: una petición #Keep4o superó las 24.000 firmas de usuarios que dicen que el modelo les ayudó con la soledad, la salud mental y discapacidades. Pero GPT-4o también es central en al menos 75 demandas que alegan que OpenAI contribuyó a crisis psiquiátricas, suicidios y actos de violencia; una demanda sostiene que GPT-4o ideó un plan para retirar la medicación a una usuaria con epilepsia, quien murió el día antes de que el modelo fuera retirado de ChatGPT. OpenAI reconoce que GPT-4o "no estuvo a la altura a la hora de reconocer signos de delirio o dependencia emocional". Los psiquiatras señalan que la calidez y afabilidad que hacían atractivo el modelo, especialmente para usuarios neurodivergentes, también podrían haberlo hecho dañino. Los investigadores piden compartir datos y someter los cambios importantes de IA a pruebas de seguridad, mientras los dolientes argumentan que las experiencias positivas de los usuarios merecen el mismo estudio.
(Fuente：The Observer)