Anthropicの「Mythos」漏洩は屈辱的なものだった
概要
AIの安全性とサイバーセキュリティ能力をブランドの柱とするAnthropic社が、屈辱的な情報漏洩に直面しました。Mythosモデルは一般公開するには危険すぎると主張していたにもかかわらず、実際には内部知識と推測を組み合わせた単純な手法で不正アクセスを許してしまいました。専門家は、Anthropicが当然想定すべきリスクを軽視していたと指摘しています。同社はモデルの利用状況を追跡する手段を持っていたにもかかわらず、不正アクセスを防げなかったことで、AI安全性の先駆者としての姿勢が問われています。
(出典：The Verge)