Anthropic、50人以上が死亡する可能性があるAIモデルのリリースを阻止するAI安全法案を提案

Anthropicは、壊滅的な危害を及ぼす「予見可能で切迫したリスク」があると判断されたAIモデルのリリースを政府が阻止できるAI安全法案の草案を議会に提案した。このリスクは、50人以上の死亡または10億ドル以上の財産損害の可能性があり、生物兵器の作成、モデルが開発者の制御を回避すること、またはサイバー攻撃に起因するシナリオを指す。法案では、米国商務省に登録された独立評価者によるリスク評価を提案しており、評価者はAIラボから報酬を受け取ることができるが、報酬は評価結果に依存してはならない。壊滅的リスクが特定された場合、評価者は72時間以内に商務省に通知し、商務省はワシントンDCの裁判官にモデルのリリース停止を要請できる。法案は、連邦機関が独自にモデルの配布を停止する裁量を明示的に禁止している。この提案はカリフォルニア州上院法案53に類似し、Anthropicが6月以来提唱するAdvanced AI Frameworkを反映している。これは、Nvidiaなど新法に反対する業界の姿勢よりも踏み込んでおり、AI安全規制をめぐる議論を浮き彫りにしている。

(出典：TechCrunch)