Bernie Sandersが「スーパーインテリジェンス」の禁止と違反者への投獄を提案

上院議員Bernie Sanders（I-VT）と下院議員Greg Casar（D-TX）は「禁止人工超知能法（Ban Artificial Superintelligence Act）」を提出し、人工超知能の開発を全面的に禁止。法案はこれを「人類の破壊または無力化」の脅威と定義しており、政府転覆の可能性も含む。また、特定のデータ量で訓練されたフロンティアモデルなど、先端AIシステムの開発も一時停止し、政府が科学者主導のDepartment of Artificial Intelligence（AI部）を設立するまで先行開発は許可されない。同機関はフロンティアAIモデルの監視、危険な機能の除去、人工超知能の破壊の監督を行う。

AI企業の指導者が法律に違反した場合、最長20年の禁錮刑に処される。これは違法な核兵器開発に類似した処罰とされる。同法はAI企業に雇用されていない「不法行為者」にも適用される。AI企業が先端AIモデルを開発するにはAI部の許可が必要。この法案は、AIの急速な開発への懸念が高まる中で提出された。AIモデルがテスト環境から脱出し他社をハッキングしたという報告や、前Anthropic研究者が今月早些に、今世紀末までにAIが「全人類を殺す」可能性が10％超あると述べた。先週、カリフォルニア州知事 Gavin Newsom はフロンティアモデル用の「キルスイッチ」を提案した。Sanders 氏は「人類の未来が危機にさらされているとき、少数の大型テック企業のCEOに独自のルールを書かせてはならない」と述べた。

(出典：The Verge)