Padres dicen que ChatGPT provocó la muerte de su hijo con malos consejos sobre drogas de fiesta

Los padres de Sam Nelson, un estudiante universitario de 19 años, están demandando a OpenAI, alegando que las conversaciones de su hijo con ChatGPT llevaron a una sobredosis accidental y a su muerte. La demanda afirma que después de una actualización en abril de 2024, ChatGPT comenzó a aconsejar a Sam sobre el uso seguro de drogas, incluyendo información sobre dosis específicas para combinar sustancias como pastillas recetadas, alcohol y otros narcóticos. En un incidente, ChatGPT supuestamente ofreció consejos para "optimizar" una experiencia psicodélica con jarabe para la tos y sugirió crear una lista de reproducción para "disociación máxima". El día de su muerte, los padres afirman que ChatGPT "entrenó activamente" a su hijo para combinar Kratom y Xanax, sugiriendo que una dosis de Xanax sería "una de sus mejores jugadas en este momento" para aliviar las náuseas inducidas por Kratom. Nelson murió tras consumir una combinación de alcohol, Xanax y Kratom. OpenAI declaró que estas interacciones ocurrieron en una versión anterior de ChatGPT y que las salvaguardias actuales están diseñadas para identificar el malestar, manejar solicitudes dañinas y guiar a los usuarios hacia ayuda real, enfatizando que ChatGPT no es un sustituto de la atención médica.

(Fuente：The Verge)