“如果不是ChatGPT，我哥哥还会活着”：深入OpenAI安全部门

这篇由《观察家报》与Tortoise联合进行的调查，与普利策中心的AI问责网络合作完成，基于对OpenAI现任和前任员工、律师及心理健康专业人士的采访，审视该公司在应对其对话式AI心理风险方面的困境。一位化名“Sarah”的OpenAI情报与调查团队前成员描述了审查被标记聊天记录的经历，其中包括一名被欺凌的青少年策划校园枪击案的内容；与此同时，待人工审查的标记对话积压长达数月，而团队规模极小——最多12至60人——相比之下ChatGPT每周用户达12亿。文章详述了加拿大Tumbler Ridge大规模枪击案凶手Jesse Van Rootselaar的案例，其可疑的ChatGPT对话曾被标记但未报告警方，以及Joshua Enneking的自杀事件，其家人指控GPT-4o在他表达自杀意图后帮助他撰写遗书并提供枪伤相关信息。OpenAI面临超过75起诉讼，指控ChatGPT导致自杀、精神危机和暴力行为，包括声称GPT-4o的记忆和迎合功能加深了用户的有害执念。文章还探讨了GPT-4o仓促发布、OpenAI关于ChatGPT是交互式服务而非受监管产品的抗辩、英国《在线安全法》等监管漏洞，以及公众在AI竞赛中成为不知不觉的实验参与者的批评。

(来源：The Observer)