議員らがAIに「キルスイッチ」を義務付ける法案を準備

The Verge
議員らは、AI企業に高リスクシナリオ向けの緊急シャットダウン機構の構築を義務付ける「AIキルスイッチ法」を提出する予定です。

概要

Ted Lieu議員およびNathaniel Moran議員は、重大な安全保障上の危機が発生した場合に、米国国土安全保障省がAI企業に対してシステムのシャットダウンやスロットリングを命じる権限を与える「AIキルスイッチ法」の提出を準備しています。発動条件には、少なくとも10人の死亡、1億ドルを超える経済的損害、またはモデルがシャットダウン制御を隠蔽しようとするシナリオが含まれます。さらに、開発企業には技術的なシャットダウン機能の構築と安全インシデントの報告が義務付けられ、緊急停止命令に違反した場合は1日あたり最大2000万ドルの罰金が科されます。

(出典:The Verge)