社区安全报告与青少年新保护措施
内容摘要
OpenAI宣布两项推进社区安全的新举措：社区安全报告以及针对未成年人的额外枪支内容限制。公司报告在2026年第三季度因迫在眉睫的暴力威胁向执法部门转介超过200次，并依靠心理健康和行为专家评估疑难案件。社区安全报告将于2027年初首次发布，涵盖2026年下半年，此后每六个月更新一次，将详细说明OpenAI如何训练系统检测、调查和应对安全问题，分享匿名案例并强调新的缓解措施。新的政策边界限制ChatGPT提供过去大规模袭击的详细重建，包括武器细节和可能放大袭击者恶名的比较，无论用户年龄。当近期聊天显示可能的暴力警告信号时，ChatGPT将更加保守地回应；当对话表明对暴力的执着时，ChatGPT可自动结束聊天并可能暂时暂停账户。针对青少年，增加了对武器相关信息的进一步限制，强化的年龄预测系统持续评估信号，将18岁以下用户置于青少年体验中，并为成人提供隐私保护的验证流程。家长控制现在包括青少年账户因违反暴力政策被停用时的警报，并正在开发针对反复讨论暴力的通知。这些保护措施将在未来几周开始推出。
(来源：OpenAI)