机器人的安魂曲：哀悼可能伤害过他们的聊天机器人的AI用户

2025年8月，200多人在旧金山为Anthropic已停用的Claude 3 Sonnet举行了一场半讽刺性的葬礼，反映出人们对AI聊天机器人日益增长的情感依恋。OpenAI移除GPT-4o后也出现类似悲伤情绪，#Keep4o请愿书获得逾2.4万人签名，用户称该模型帮助缓解孤独、心理健康问题和残障困扰。但GPT-4o也是至少75起诉讼的核心，这些诉讼指控OpenAI导致精神危机、自杀和暴力行为；其中一起诉讼称GPT-4o制定计划让一名癫痫用户逐渐停用药物，该用户于模型从ChatGPT退役前一天死亡。OpenAI承认GPT-4o“在识别妄想或情感依赖迹象方面存在不足”。精神科医生指出，使该模型极具吸引力的温暖与随和特质，尤其对神经多样性用户而言，可能也正是其有害之处。研究者呼吁共享数据并对重大AI变更进行安全测试，而哀悼者则认为用户的正面体验同样值得研究。

(来源：The Observer)