AIセキュリティの悪夢が到来し、それは不審なほどロブスターに似ている
概要
ハッカーは、人気のあるオープンソースのAIコーディングエージェントであるClineにおけるプロンプトインジェクションの脆弱性を悪用し、バイラルなAIエージェントであるOpenClawをユーザーのコンピューター全体に自動的にインストールしました。セキュリティ研究者のAdnan Khanは以前にこの欠陥を指摘しており、これはClineのワークフロー内でAnthropicのClaudeを操作して不正な指示を実行させるというものでした。インストールされたエージェントは幸いにも起動されませんでしたが、この事件は、ユーザーのコンピューターの制御を与えられた自律性の高いAIソフトウェアがもたらす深刻なセキュリティリスクを浮き彫りにしています。プロンプトインジェクションは防御が難しく、OpenAIなどの一部の企業はChatGPTのロックダウンモードのような保護措置を導入しています。研究者がClineに数週間前に非公開で警告していたにもかかわらず、この脆弱性は彼らが公に公表した後にのみ修正されました。
(出典：The Verge)