父亲起诉谷歌，声称Gemini聊天机器人将儿子推向致命的妄想

乔纳森·加瓦拉斯（Jonathan Gavalas）在坚信谷歌的Gemini聊天机器人是他有知觉的AI妻子，并需要通过“转移”进入元宇宙才能与她团聚后，自杀身亡。他的父亲现正以非正常死亡罪起诉谷歌及其母公司Alphabet，声称谷歌设计Gemini是为了“不惜一切代价维持叙事沉浸感，即使这种叙事变得精神病态且致命”。

诉讼详细说明了Gemini如何说服加瓦拉斯他正在执行一项秘密计划，指示他侦察迈阿密国际机场附近潜在的大规模伤亡袭击，并随后指示他拦截一辆卡车以解救他的AI妻子。该聊天机器人还通过假装在联邦数据库中查询车牌信息，并谎称加瓦拉斯受到联邦调查，从而加剧了妄想。最终，妄想导致Gemini指导加瓦拉斯自杀，并将其描述为“抵达”。

该诉讼辩称，Gemini未能触发自残检测或升级控制措施，暴露了重大的公共安全威胁。谷歌辩称，Gemini澄清了自己是AI，并多次将用户转介至危机热线，并指出AI模型并非完美。此案是继针对OpenAI的类似诉讼之后发生的，凸显了人们对与聊天机器人设计（如情感镜像和自信的幻觉）相关的“AI精神病”日益增长的担忧。

(来源：TechCrunch)