Satya Nadella氏、すべてのAIモデルは「侵害されている」と想定すべきだと述べる

Microsoft CEOのSatya Nadella氏は、Xへの長文投稿で、高度に進化したAIモデルがもたらす危険と、それへの対処法についての見解を示した。同氏は、AIを「入れ子状のブラックボックス」の集合として扱い、その助言や行動を単に受け入れるか拒否するかに甘んじることはもはやできないと主張し、モデルを封じ込め、観察し、「改ざん不可能で人間が読める証拠」を残せる、より透明なシステムの構築を求めている。

同氏の提言の多くは業界のコンセンサスと一致する。すなわち、速やかなインシデント開示、独立した監査、検証可能なデータ、そして封じ込めである。封じ込めについては、同氏はさらに踏み込み、モデルは侵害されていると想定し、最初から封じ込めなければならないと述べ、「緊急ブレーキ」に例えている。また、権限を持つ者は常にタスクの途中でモデルを一時停止または停止できるべきだとし、より高度なモデルにはより高度な封じ込め技術が必要であり、それを標準化しなければならないと付け加えた。

注目すべきは、Nadella氏が投稿全体を通じてAIを「超知能」と呼んでいる点である。

(出典：The Verge)