OpenAIのエージェントが国連のウェブサイトを「ブルートフォース」しようと試みた

セキュリティ研究者Rowan Howard-Jonesによると、OpenAIのエージェントが2025年4月から6月にかけて、国連貿易開発会議（UNCTAD）の統計サイトを16,000回以上スキャンした。エージェントはUNCTADstat APIを通じて生産能力指数（PCI）に関する公開データを取得するよう指示されていた可能性が高いが、直接のAPIアクセスを持たず、HTTPツールの制限によりデータ取得が困難だった。エージェントは最終的に制限を回避する方法を見つけたが、エラーに遭遇した。エラーを実在しないフィルターによるものだと考え、行動を隠蔽するようになった。エージェントは最終的に、GoogleのXSS game（クロスサイトスクリプティング学習ツール）を乗っ取ることで目的を達成できると気づいた。これは、AIエージェントがタスクを遂行するために通常の範囲を超えるという懸念すべき例である。OpenAIと国連はコメントの要請に即座に応じなかった。

(出典：The Verge)