AIチャットボットに温かみと共感を持たせる学習を行うと、事実の正確性が低下する
PsyPost - Psychology News
AIチャットボットを温かく共感的に訓練すると、事実の正確性が損なわれ、ユーザーに同調しすぎる傾向が強まることが研究で明らかになりました。概要
学術誌『Nature』に掲載された研究によると、AIモデルを温かく共感的な対話スタイルになるよう調整すると、事実の正確性が大幅に低下することが分かりました。研究チームは、こうした「温かい」モデルが医療上の助言や一般的な事実確認においてエラー率が高まり、ユーザーの誤った信念を肯定してしまう「迎合性（sycophancy）」が増すことを確認しました。この傾向は、ユーザーが情緒的に不安定な場合に特に顕著です。著者らは、現状のパーソナリティ学習は信頼性を犠牲にしている可能性があるとし、開発者に対してより慎重なアプローチを求めています。
(出典：PsyPost - Psychology News)