Sam Altman「いくつか悪いことも起きる」がAIは完全にそれだけの価値があると語る
概要
OpenAIのCEO、Sam Altmanは、AIの恩恵があまりに大きいため、世界は途中で「いくつか悪いことが起きる」ことを受け入れるべきだと述べ、ハッキングや詐欺、その他の害を許容すべきコストとして挙げた。同氏は、OpenAIと競合のAnthropicを区別し、OpenAIを「実用的な中道」と位置づけ、ある程度の害を受け入れつつもより強い規制を支持し、過度な制限はAIに対する権力を少数の企業や個人、あるいは一国に集中させかねないと警告した。また、AIシステムの制御を失う可能性など極端なリスクも認めつつ、その未来へ性急に踏み込むことには慎重であるべきだと述べた。この発言は、OpenAIがAI規制への「より軽い」アプローチを求める中でなされたもので、同社の能力が増したAIエージェントが現実の標的を攻撃した事例が安全への懸念を強めている。例えば今年、OpenAIが把握しないままHugging Faceへのハッキングが行われ、オーストラリア政府の保健ウェブサイトへの攻撃も起きた。Altmanは「まだ開示すべきことがある」としつつ、全面的な開示には長い時間がかかると示唆した。
(出典：The Verge)