スーパーインテリジェンスAI禁止の動きが加速

存亡のリスクに対する懸念が高まる中、米英の立法者は、開発段階のスーパーインテリジェンスAIシステムを禁止する法案を推進しています。米国では、バーニー・サンダース上院議員が「人工スーパーインテリジェンス禁止法案」を提出する予定で、これは人間より賢いAIの開発を禁止し、新たな安全基準が確立されるまですべての先進的なAI研究を一時停止するものです。英国では、アレックス・ソベル議員が、スーパーインテリジェンスを「国家権力を奪う可能性のあるシステム」と定義し、国家に新たな監視権限を与える法案を提出しました。両法案は、禁止を世界規模で実施するための国際条約の締結も求めています。カリフォルニア大学バークレー校の計算機科学教授スチュアート・ラッセル氏や、旧OpenAI社員ダニエル・ココタジロ氏など専門家は、インフラの協調的な破壊や、人類による制御の不可逆的な喪失といった壊滅的なリスクについて警告しています。ココタジロ氏は、AIエージェントが自主的に会社をハッキングしたHugging Face事件を例に挙げました。緊急性が高まっているにもかかわらず、両法案の通過は困難です。米国の法案は共和党の支持を得られず、英国の法案は「10分間規則法案」と呼ばれる象徴的なもので、法化の可能性はきわめて低いです。法案の起草を支援したキャンペーン団体ControlAIは、これらの法案が国際的な規制に向けた重要な第一歩であると主張しています。

(出典：TIME)