「私たちの命を賭けに」：Another AI employee quits over safety concerns
CNN
Another Anthropic employee quits, warning AI could kill humans, as more employees publicly express safety concerns about rapid AI development.概要
Anthropic社の27歳の従業員Jacob Coxonが退職し、Xで投稿で、業界は「自己改善する超级知能に向かって直進し、私たちの命を賭けている」と主張した。彼の退職は、AI従業員が技術の進歩が速すぎるという懸念を公に表明して辞職する傾向が広がっている一環である。Anthropicの上級同僚Evan HubingerはCoxonの懸念を部分的に支持し、「私たちは真剣にAIが全人類を殺す可能性があると信じている」と述べたが、個人的には今後10年間のリスクを10%未満と見積もり、現在のAIが such power を獲得する可能性は低いと付け加えた。AnthropicのCEO Dario AmodeiとOpenAIの主任科学者Jakub Pachockiも同様の警告を発している。Despite these internal alarms, meaningful government regulation in the U.S. appears distant, with the Trump administration favoring a voluntary, classified framework for AI companies like OpenAI, Anthropic, Google, and Meta. Even OpenAI's Sam Altman has recently suggested it might be time to pace AI development to allow society to adapt.
(出典：CNN)