OpenAI 曾就疑似加拿大枪手的聊天内容是否报警进行辩论
内容摘要
据报道，据称在加拿大图姆勒里奇（Tumbler Ridge）实施大规模枪击事件的 18 岁嫌疑人 Jesse Van Rootselaar 使用了 OpenAI 的 ChatGPT，其聊天内容引起了该公司员工的警觉。监控公司大型语言模型（LLM）滥用的工具在 2025 年 6 月标记了 Van Rootselaar 描述枪支暴力的聊天记录并将其封禁。OpenAI 员工曾辩论是否应就该用户的行为联系加拿大执法部门，但最终没有这样做，尽管一位 OpenAI 发言人表示 Van Rootselaar 的活动不符合向执法部门报告的标准；该公司在事件发生后才联系了加拿大当局。Van Rootselaar 的数字足迹中，ChatGPT 记录并非唯一令人担忧的部分；她似乎还在 Roblox 上创建了一个模拟商场枪击案的游戏，并在 Reddit 上发布了有关枪支的内容。当地警方也了解 Van Rootselaar 的不稳定情况，曾因她在服用不明药物后纵火而被传唤到她家。
(来源：TechCrunch)