Anthropicは、AIが間もなく人間の介入なしに自己改善できるようになると警告している
概要
Anthropicの共同創設者であるJack Clark氏と研究者のMarina Favaro氏は、AIシステムが人間の介入なしに後継モデルを開発できる「完全な再帰的自己改善」に近づいていると警告しました。彼らは、これが科学や医療に恩恵をもたらす一方で、人類がAIの制御を失うリスクを伴うと指摘しています。業界には現状、AIの開発を停止させる「ブレーキ」が存在しないため、核軍縮のような国際的な協力体制を築き、安全性を確保するための介入手段を講じるべきだと訴えています。
(出典：CNN)