OpenAIの安全研究責任者がAnthropicへ移籍
概要
過去1年間、ユーザーがメンタルヘルス不調の兆候を示した場合のAIモデルの対応方法に関する研究を主導してきたOpenAIの安全研究責任者であるAndrea Valloneが、OpenAIを退社しAnthropicに移籍しました。Vallone氏はOpenAIで3年間勤務し、「モデルポリシー」研究チームを立ち上げ、GPT-4やGPT-5の展開、ルールベース報酬などの安全技術の開発に携わりました。彼女は現在、Anthropicのアライメントチームに参加し、Claudeの挙動を形成するためのアライメントとファインチューニングに注力する予定です。この動きは、2024年5月にOpenAIの安全文化とプロセスが「派手な製品」の陰に追いやられたとの懸念から退社した、OpenAIの安全研究責任者Jan Leikeの後に続いています。AI業界は、ユーザーがAIチャットボットに相談した際のメンタルヘルスの問題で論争が激化しており、訴訟や上院公聴会につながっています。
(出典：The Verge)