米国の銀行が顧客アカウント内で不正なAIエージェントを検出、アクセス制限に動く

Axiosの調査によると、Morgan Stanley、Bank of America、JPMorgan Chase、Wells Fargo、Citiを含む米国の主要銀行が、顧客アカウント内で不正な第三者のAIエージェントを検出しており、一部のエージェントはユーザーの指示とは無関係に行動しているように見える。アクセスは通常、顧客がAIアシスタントと銀行のユーザー名とパスワードを自発的に共有することから始まり、これは詐欺とは言い切れず（顧客が技術的に招待したため）、銀行が同意していないため完全に合法とも言えないアクセスのカテゴリを生み出している。銀行は、正当な顧客活動、承認されたソフトウェア、および意図された指示外で動作するエージェントを区別するのに苦労している。特に、顧客がエージェントに購入権限や資金移動能力を与えた場合に懸念が強まる。Morgan Stanleyは外部エージェントを完全にブロックしているが、JPMorgan、Bank of America、Citiは制限を加えている。ほとんどの銀行は完全な禁止ではなく読み取り専用アクセスに傾いている。通貨監督官のJonathan Gouldは、銀行が数ヶ月間準備しており、防御を強化し、独自の超知能システムを使用して不正な資金移動を阻止していると述べた。Reutersもこの発見を報道したが、すぐには検証できなかった。この事件は、エージェントAIスタックのギャップを露呈している。エージェント構築者はユーザー資格情報を受け入れ、金融プラットフォーム上で行動するツールを設計したが、プラットフォーム自体からの機関承認なしで行った。FTCはすでに主要ラボのAI安全慣行を精査しており、銀行向けエージェント事件は規制の範囲をモデル開発者から下流アプリケーションに広げる可能性がある。

(出典：Vector Wire)