この防衛企業は物を爆破するAIエージェントを開発した

Scout AIは、シリコンバレーのスタートアップ企業であり、従来のデジタルタスクに焦点を当てたAIとは異なり、物理的な破壊を実行できるエージェントを作成するために大規模AIモデルを調整しています。カリフォルニアの秘密の軍事基地で行われた最近のデモンストレーションでは、同社のAIが自律走行車両と2機のドローンを指揮し、爆発物を使用して標的のトラックを発見し破壊することに成功しました。

CEOのColby Adcock氏は、目標は汎用的な基盤モデルを戦闘員エージェントに移行させることだと述べています。このシステムは、大規模モデル（Fury Orchestrator）を使用して高度なコマンドを解釈し、物理的資産を制御するより小さなモデルに命令を発行します。このアプローチは、レガシーシステムよりも高い自律性を目指しており、エージェントがリアルタイム情報と指揮官の意図に基づいて計画を再立案できるようにします。

Michael Horowitz氏のような専門家は、防衛におけるAI統合を推進することの重要性を認めつつも、大規模言語モデルの既知の予測不可能性を考えると、印象的なデモンストレーションが軍用グレードの信頼性やサイバーセキュリティを意味するわけではないと警告しています。批評家や倫理学者は、AIに致死的な自律性を与えることによる複雑性や倫理的リスクについても懸念を表明していますが、Scout AIは自社の技術が米軍の交戦規定や国際規範を遵守していると主張しています。

(出典：WIRED)