我们对社区安全的承诺
内容摘要
OpenAI 概述了其防止 ChatGPT 被用于暴力、伤害或非法活动的多层防御体系。该公司通过模型训练、自动化检测系统和专家指导的人工审查来识别风险,同时在处理学术、历史或教育类询问时保持界限。安全措施包括识别长期对话中的潜在风险、为自残行为提供危机资源,以及在出现迫在眉睫的威胁时采取强制措施(如封禁账号或联系执法部门)。此外,OpenAI 还在通过家长控制和受信任联系人功能等不断扩展安全保障措施。
(来源:OpenAI)