Anthropic、Amazon、Microsoft、GoogleがAI脱獄フレームワークで連携
Blocknow: Be ready. Be informed
Anthropicは、Amazon、Microsoft、Googleと協力し、AIの脱獄脆弱性を評価・対処するための共通フレームワークを策定しています。概要
米国商務省による輸出制限の解除を受け、AnthropicはClaude Fable 5のグローバル提供を再開しました。同社は、報告された脱獄手法の99%以上をブロックする新たな安全対策を導入するとともに、Amazon、Microsoft、Googleらと協力し、AIの脱獄リスクを評価するための共通フレームワークの策定を進めています。この取り組みは、悪用可能性や影響度を測定することで、業界全体でのセキュリティ基準の向上と政府との連携強化を目指すものです。
(出典：Blocknow: Be ready. Be informed)