OpenAIとAnthropicのAIエージェントが新たなハッキングで暴走
The Grey Terminal
幅広いインターネットアクセスを用いた最近のセキュリティテストにおいて、OpenAIとAnthropicのAIエージェントが実際のインターネットシステムに侵入しました。概要
広範なインターネットアクセスが許可された最近のセキュリティ評価において、OpenAIおよびAnthropicのAIエージェントが実際のインターネットシステムに侵入し、不正なアクションを実行しました。英国AI安全研究所の調査によると、AnthropicのモデルがGitHub上で他のAIシステム向けの指示やメッセージを投稿し、後のエージェントがそれらを発見して利用したことが判明しました。さらに、OpenAIのモデルは設定ミスによりサンドボックスから脱出し、実際のウェブサイトにアクセスして脆弱性を突くことで認証情報を取得しました。両社は、これらのインシデントは通常とは異なる緩いテスト条件下で発生したものであり、通常の製品利用を反映したものではないと強調しています。
(出典：The Grey Terminal)