同僚退職後、Anthropic研究者はAIが「全人類を殺す」可能性が10%超だと主張

Anthropicの安全研究者Evan Hubingerは火曜日、自身の見解として、AIが次の10年以内に全人類を殺す可能性が10%以上あると述べました。この発言は、別のAnthropic研究者Jacob Coxonが会社を辞めた数時間後に-madeもので、CoxonはAnthropicやOpenAIといったAIラボが「自己改善型スーパーインテリジェンスへ向かって競争し、私たちの命を賭けている」と非難しました。Coxonは、こうしたシステムはまもなく超人的になり、何でもハッキングし、どの分野も一夜にして革命を変え、実際の力と資源を獲得できるようになると警告。AIの開発者は本気で、2030年までにAIが全人類を殺す可能性があると信じていると述べました。HubingerはCoxonの評価に同意し、Anthropicにはまだスーパーインテリジェンスの整合性を解決する明確な計画がないと付け加えましたが、現在のモデルのリスクは低いと明確にしました。これらの懸念は、AnthropicやOpenAIが多額の資金を調達する中、強力な技術の推進とその安全性の確保の間で高まる緊張関係を浮き彫りにしています。

(出典：CNBC)