OpenAI locks down Astra after model raises first-ever critical cyber capability fears
概要
OpenAIは、次期AIモデル「Astra」の内部テストにおいて高度な攻撃的サイバー能力の保有が示唆されたため、同社の「Preparedness Framework」における最高レベルのサイバーセキュリティ・リスクカテゴリーに分類しました。この評価を受け、同社は開発環境における厳格な保護措置の導入やセキュリティの強化を進めています。Astraが安全基準を満たした上で一般公開され、デジタル防御の強化に活用されるよう、政府機関や外部の安全性評価グループとの連携も予定されています。
(出典：Interesting Engineering)