AI研究者が「名前の通りに危険」と超知能についての動画を公開
概要
非営利団体Palisade Researchは、AIの能力と動機を研究する団体として、OpenAI、Google、Anthropicの現職・元従業員を含むAI研究者約10名のインタビュー動画をfrominside.aiで公開し、超知能AIが人類を滅絶させる可能性を警告した。前OpenAI・Google DeepMind社員のGeoffrey Irvingは人類滅絶の確率を「コイントス程度」と述べ、Google DeepMindの研究者Neel Nandaは「少なくとも10%の確率で人類を滅絶させる。それは馬鹿げた高さだ」と語った。前OpenAI研究者のDaniel Kokotajiloは、超知能AIは「まさに神のような強大さを持つ」とし、「残念ながら、私たちにはそれを制御する方法がまったく分からない。おそらく誰も制御できないだろう。これはその名の通りに危険であり、決して発生してはならない」と警告した。動画では、これが単なる誇大宣伝なのか、また研究者が自分が危険だと信じる仕事に従事し続ける理由についても議論されており、一部の研究者は批判対象である研究所からの報酬を得ていることを認めている。GoogleのMary Phuongは「私が言っていることを疑うべきだ」と発言し、Neel Nandaは自分が存在性リスクを直接軽減していると信じていなければ辞職すると述べた。
(出典：The Verge)