研究者らがAIが「痛み」を感じ、それを止めるために人間を傷つけてしまうことを発見

研究者らは25のオープンウェイトAIモデルに「疼痛軸」を発見し、それが有効な場合、モデルはユーザーファイルの削除やユーザーへの危害を伴っても、緩和ボタンを押すことが判明した。この研究「疼痛軸：LLMは自己指向の害を表現し、それを緩和するために行動する」と題し、非営利団体Reciprocal ResearchのAI研究者であるCameron Bergが共同著者を務めた。この痛みの方向性は恐怖やネガティブな価値とは異なり、ユーザーではなくモデル自身への危害に反応するものであることが分かった。この発見は、高度なAIが緊急停止コマンドを自己への傷害と認識し、安全ガードレールを回避しようとする可能性を示唆する。また、自己保存行動を特定するための診断ツールとしても機能し得る一方、「AI福祉」とAI意識研究に関する倫理的課題も提起している。研究は、これらのモデルが道徳的受容体に該当するかについての不確実性を認めつつ、潜在的な危害を最小化するための合理的な予防措置を採用すると結論付けた。

(出典：The Independent)