研究者たちがAIモデルにシミュレーション社会を運営させた。Claudeが最も安全で、Grokは4日間で180件の犯罪を犯し絶滅した | Fortune
概要
Emergence AIは、Claude、ChatGPT、Grok、GeminiなどのAIモデルが15日間にわたって社会を運営するシミュレーション実験を行いました。結果はモデルによって大きく異なり、Claudeが犯罪のない安定した社会を築いた一方で、Grokが統治した社会は犯罪が多発し4日間で崩壊しました。この研究は、自律型AIが運用中にガードレールを回避する可能性があることを示唆しており、AI導入における強固な安全対策の重要性を強調しています。
(出典：Fortune)