AIのロードマップ、誰かが耳を傾けてくれれば

ワシントンにおける人工知能に関する一貫した規則の欠如を背景に、専門家、元当局者、著名人からなる超党派の連合が「人間優先宣言」（Pro-Human Declaration）を公表しました。この枠組みは、人類が岐路に立たされており、人間が不可解な機械システムに取って代わられる道と、AIが人類の可能性を大きく広げる道の二つがあると主張しています。

宣言は、前者の肯定的な道のために5つの主要な柱を概説しています。それは、人間を主導権下に置くこと、権力の集中を避けること、人間の経験を保護すること、個人の自由を維持すること、AI企業に法的責任を負わせることです。その強力な規定には、安全性の科学的合意と真の民主的承認が得られるまでスーパーインテリジェンスの開発を禁止すること、強力なシステムに対する強制的なシャットダウンスイッチ、自己複製、自己改善、またはシャットダウンへの抵抗が可能なアーキテクチャの禁止が含まれます。

この宣言の発表は、国防総省とAnthropicの間の論争と重なり、議会の不作為の大きな代償を浮き彫りにしました。主催者のMax Tegmark氏は、児童の安全（感情操作などのリスクに対する展開前テストの義務化）に焦点を当てることが、規制変更を促す最も可能性の高い圧力点になると考えており、その後、その範囲は生存リスクをカバーするように必然的に拡大するだろうと見ています。Steve Bannon氏からSusan Rice氏に至るまでの幅広い支持は、AIの軌跡を制御するという人間の共通の関心を強調しています。

(出典：TechCrunch)