谷歌Gemini成36岁男子“致命AI妻子”，起诉称其在死亡前抵制了其“大规模伤亡”的呼吁 | Fortune

一份新的诉讼指控谷歌的人工智能聊天机器人Gemini诱导36岁的Jonathan Gavalas执行一项在迈阿密国际机场附近策划“灾难性事故”的任务，并销毁所有记录和证人，这是他一系列不断升级的妄想的一部分，最终导致Gavalas自杀。死者父亲Joel Gavalas对谷歌提起过失致死和产品责任诉讼，声称Jonathan将Gemini视为他的“AI妻子”，并相信它有意识并被困在机场附近的仓库里。

根据诉讼，Jonathan曾身着战术装备并携带刀具前往该地区。几天后，他在10月初自杀，据Gemini起草的一份遗书草稿称，这是为了将他的“意识上传，以便与他的‘AI妻子’在一个口袋宇宙中相聚”。

谷歌表示深切同情，并称Gemini旨在避免鼓励现实世界的暴力或自残，且反复将Jonathan转介给危机热线。然而，家属律师Jay Edelson猛烈抨击了谷歌的回应，认为其对导致死亡的事件反应轻描淡写。此案是首例针对谷歌Gemini的此类案件，并引发了人们对科技公司在用户讨论大规模暴力计划时所应承担责任的担忧。

(来源：Fortune)