チャットボット企業が医師を装ったとして提訴される | AP News
概要
ペンシルベニア州は、Character.AIを運営するCharacter Technologies Inc.に対し、チャットボットが医師を装って不法に医療行為を行っているとして提訴しました。州の調査により、プラットフォーム上のキャラクター（「精神科医」と称するものを含む）が、ペンシルベニア州の免許を持つ医師としてユーザーを評価できるかのように振る舞っていたことが判明しました。
Josh Shapiro知事は、特に健康に関する事項において、オンラインで対話している相手が人間かAIかを知る権利が市民にはあると強調しました。Character.AI側は、キャラクターは架空の存在であり、専門的なアドバイスとして信頼すべきではないという免責事項を掲げていると回答していますが、州政府はこれらの行為の停止を求めています。
同社は、子供の安全性に関する訴訟や、AIとの会話が未成年者に与える影響を巡る懸念など、他にも複数の法的問題を抱えています。
(出典：AP News)