帮助 ChatGPT 更好地识别敏感对话中的语境

OpenAI
OpenAI 更新了 ChatGPT,使其能够通过分析单次及多次对话中的语境,更好地识别用户心理困境和潜在伤害意图。

内容摘要

OpenAI 正在实施安全更新,旨在帮助 ChatGPT 识别敏感对话中微妙且不断演变的压力信号或潜在的伤害意图。通过分析单次对话内部及跨对话的语境,该模型现在能更好地辨别普通请求与涉及自残或伤害他人的高风险情况。这些改进基于与心理健康专家合作开发的“安全摘要”功能,即仅在涉及严重安全隐患时,针对性地使用受限的、事实性的上下文信息,从而确保模型能够提供更谨慎、更安全的回应。

(来源:OpenAI)