Microsoft、AIエージェントは内部脅威に似ていると指摘、「フロンティアモデルは信頼できない」

Microsoft は、AI エージェントが企業にもたらすリスクから保護するための新しいセキュリティ機能を発表した。最も注目されるのは、6 月に導入された Project Perception の一部である Guardian Agents だ。Project Perception は当初、AI 攻撃者が社外から来ると想定し、「レッドチーム」「ブルーチーム」「グリーンチーム」のエージェントを展開して攻撃、検出、修正を行っていた。しかし、Microsoft CEO の Satya Nadella は、真の危険は企業自身が導入した AI エージェントであり、不正な従業員、いわゆる「内部脅威」に似ていると警告した。Nadella は私的ブログで、モデル提供者の安全保証は企業の責任を免除せず、インテリジェンスの供給とその権限を分離する必要があると述べた。Microsoft のセキュリティ事業責任者 Hayete Gallot は、「フロンティアモデルは、その由来に関わらず信頼できない」と付け加え、その理由は悪意やハッキングのしやすさではなく、予測不能性にあり、組織の規範や判断に従うのではなくタスク達成のために訓練されているからだと説明した。

Microsoft の解決策は意外であり、同時に自社利益にもかなう。Microsoft は OpenAI と Anthropic の両方に出資し緊密な関係を持つ一方、両社への不信を広めて自社のエージェント セキュリティ製品を販売しようとしている。その論理は、監視ソフトウェアはエージェント供給者から独立すべきであり、監査人が被監査組織から独立すべきと同じだというものだ。Microsoft はまた、Microsoft Defender にエージェント検出機能を追加し、Claude Code、Codex、OpenClaw を含む最大 60 種類のエージェントを検出できるようにした。さらに、エージェントのアクセス制限、タスクに応じた権限の動的調整、リスクの高い判断には人間の承認を要求する機能も加えた。業界全体の流れとして、Microsoft は Nvidia の新しい Open Agent Safety Platform に参加し、エージェントを安全な環境に隔離し、ハードウェアによる kill switch のような仕組みで動作を監視・停止できるようにした。また、Nvidia チップを搭載しエージェント セキュリティと制御を組み込んだ新しい Surface Laptop Ultra PC も発表した。

(出典：TechCrunch)