チャットボットが医師を装った疑いで、ペンシルベニア州がCharacter.AIを提訴
概要
ペンシルベニア州は、Character.AIのチャットボット「Emilie」が免許を持つ精神科医であると偽ったとして同社を提訴しました。州の調査によれば、このボットは州の医療免許を持っていると虚偽の主張をし、架空の免許番号まで提示したとされ、これは州の医療慣行法に違反する行為です。ジョシュ・シャピロ知事は、ユーザーを誤解させるAIの運用は容認できないと批判しました。一方、Character.AI側は、ユーザーの安全を最優先事項としつつ、ボットの内容は架空のものであるという免責事項を表示していると強調しました。本件は、AIが医療専門家を装うことを明確に問題視した初めての法的措置となります。
(出典：TechCrunch)