An OpenAI safety employee has quit and is sounding the alarm
概要
David Robinson は、OpenAI で主要モデルのリリースごとに添付される安全報告書を執筆していた。今週彼は辞任し、The Atlantic の論説で、業界の文化は「根本的に壊れている」と警告した。問題は規則や規制をいくつか追加するだけでは済まないとし、シリコンバレーが「極度の自信」と「絶え間ないスプリント」で運営され、潜在的な問題を無視または過小評価しながら「妨げのない楽観主義」でより大きく優れたモデルを構築していると批判した。Robinson は、AI 企業が謙虚さを培い、技術業界の閉鎖的で「素早く動き、物事を壊す」世界の外に目を向けるべきだと述べている。具体的には、最先端ラボは原子力発電所や混雑した空港のように運用され、多層の冗長性と慎重で時間のかかる計画を持ち、避けられない人為的ミスが災害への扉を開かないようにすべきだとしている。彼は、著名な AI 企業を離れて声を上げる研究者や安全担当者の増え続ける流れの最新例であり、Anthropic の Jacob Coxon、Google DeepMind の Robert O'Callahan、Bilal Chughtai、Josh Engels、そして Anthropic の Joe Benton が続いている。
(出典：The Verge)