静かなる合意

OpenAI
著者は、人類が超知能機械に主導権を不可避的に譲り渡すという「静かなる合意」に反対し、人間の制御を維持するよう訴える。

概要

ハーバードでの講演を基にしたこのエッセイで、著者は「静かなる合意」と呼ぶもの—人類が経済的・政治的優位性を超知能AIに不可避的に譲り渡すという暗黙の信念—を批判する。彼は、競争圧力により人間がますます多くの決定を機械に委任し、最終的にAIが運営する世界の乘客となる未来を描く。機械が善意であればこの結果は有益かもしれないと認めつつも、彼はその必然性と人間の主体性の喪失を拒否する。人間の優位性は知力の優越性ではなく、歴史的・道徳的遺産—私たちの文明、価値観、そしてMichael Oakeshottが「人類の対話」と呼んだものへの参加—に基づくと主張する。彼はこの合意への積極的抵抗を呼びかけ、説明責任があり透明で人間の制御と両立するAIシステムの構築を求める。AIの行動に対する人間の説明責任を確保するための技術的・法的基盤の必要性を強調し、AIを人間の能力を縮小するのではなく拡大するために使用する広い野心を促す。

(出典:OpenAI)