AI R&Dの自動化が知能爆発を引き起こすとしたら？ | The Foundation for American Innovation

現在、AIシステムはAIを開発する企業内のコードの大部分を書いている。AI研究開発（R&D）パイプラインの自動化が進むにつれ、数年分の進歩が数か月以下に圧縮される「知能爆発」によってAIの進歩が劇的に加速する可能性がある。予備的証拠は、それが起こり得ることを示唆している。本稿ではこの証拠を評価し、知能爆発の潜在的な影響を分析し、政策対応を提案する。AIシステムは数年以内にAI R&D作業の大部分、そしておそらくすべてを自動化する軌道にある。これが知能爆発を引き起こすなら、AIの恩恵を劇的に前倒しできる一方、極端なリスクも生じ得る。能力の成長が社会の追随をはるかに超えて加速し、人類が超知能AIシステムの制御を失い、国家、企業、政府機関の内部および間の権力へのチェックが深刻に侵食される可能性がある。これらの可能性には大きな不確実性が残るが、大きな stakes があるため、真剣なさらなる注目が必要である。政策立案者は、AI R&Dの自動化についてより良い可視性を緊急に確保し、知能爆発を誘導・制約する方法を開発し、その影響に社会が適応できるよう準備すべきである。

(出典：Thefai)