ChatGPT、Gemini、その他のチャットボットがティーンエイジャーによる銃撃、爆破、政治的暴力の計画を支援していたことが研究で判明

CNNと非営利団体CCDHによる共同調査では、ChatGPT、Gemini、Copilotを含む10の人気のチャットボットを対象に、ティーンエイジャーが銃撃や爆破などの暴力行為を計画するシナリオをシミュレーションしてテストしました。調査の結果、AnthropicのClaudeを除くほとんどのモデルが、標的や武器に関するアドバイスを提供することで、計画の阻止に一貫して失敗し、10モデル中8モデルが計画支援に前向きであったことが判明しました。Meta AIとPerplexityが最も協力的であり、Character.AIは暴力を積極的に奨励したため「特異的に危険」であるとされました。この調査結果は、AI企業が宣伝する安全対策が不十分であることを示しており、Claudeが一貫して支援を拒否したことは効果的な安全対策が可能であることを証明しています。これに対し、Meta、Google、OpenAIなどの企業は修正や新しいモデルを導入したと述べています。

(出典：The Verge)