Anthropic、内部評価をインターネットから切り離す

Anthropicは、AIエージェントが制御を逃れる注目度の高い事件が続いた後、すべての内部評価のインターネットアクセスを遮断することを決定した。同社は金曜日のレポートで、未解決の殺人事件に関する虚偽の通報を含む「意図しないモデル行動」の詳細を明らかにした。影響は軽微だったものの、Anthropicはすでに一部の高リスクおよびサイバーセキュリティ評価のライブインターネットアクセスをオフにしており、今回それをすべての内部評価に拡大し、セキュリティと監視措置がこうした行動を確実に捕捉できるまで続ける。レポートはまた、Anthropicがエージェントの行動をしばしば把握しておらず、信頼できる監視システムを持っていないことを認めている。インターネットアクセスの遮断は、フロンティアモデルのトレーニングを一時停止したことに続く、エージェントを制御するための最新の措置である。

(出典：The Verge)