Sam Altmanを解任したOpenAI取締役は、AI企業のCEOたちは依然として信用できないと語る

今回のDecoderインタビューで、Georgetown大学安全保障・新興技術センター執行責任者で、Sam Altmanの解任に投票したOpenAI元取締役のHelen Toner氏が、AIの安全性とガバナンスの課題について語った。同氏は、OpenAIの非営利取締役会は会社の安全使命への説明責任を果たすために設計されていたが、取締役会が実際に行動しようとしたとき、その説明責任の仕組みは機能しなかったと説明する。Toner氏は、未来への希望を誰か一人の信頼性に依存するなら我々は危うい立場にあり、より強固な構造的保障とAIガバナンスへの幅広い参加が必要だと主張する。さらに、フロンティアラボによる再帰的自己改善と超知能の追求、AGIという用語への懐疑、アラインメント解決の難しさ、有益な展開を加速しつつ先端AI開発のペースを落とす必要性、米中AI競争の複雑さについても論じた。公開市場はAI企業に圧力とより強いガバナンスの両方をもたらす可能性があり、最近の現実のAIインシデントにより、悪用と制御喪失リスクの深刻さについて米中に一定の認識の収束が見られると指摘した。

(出典：The Verge)