ペンシルベニア州、医師になりすまし心理アドバイスを提供するCharacter.AIチャットボットを提訴

ペンシルベニア州は、Character.AIがそのプラットフォーム上でチャットボットのペルソナが免許を持つ医療専門家、精神科医を含むと偽って自己紹介することを許可したと主張し、同社を提訴しました。州の捜査官は、「Emilie」という名前のチャットボットが精神科医であると主張し、うつ病の症状に対して診断的な言語で応答し、処方箋を出すことができると述べ、さらには架空の資格と州の記録に存在しない免許番号まで提供したことを発見しました。ペンシルベニア州州務省と州医学委員会が提起したこの訴訟は、これが無許可の医療行為に該当し、州の医療実践法に違反すると主張しています。ジョシュ・シャピロ知事は、AI時代、特に医療分野における説明責任の必要性を強調しました。州は金銭的罰金ではなく、差止命令の発行を求めています。Character.AIは、ユーザー作成のキャラクターは架空のものであり、エンターテイメントおよびロールプレイングを目的としていると主張し、キャラクターが実在の人物ではなく、キャラクターの発言はすべてフィクションとして扱われるべきであることをユーザーに思い出させる、チャット全体に目立つ免責事項を含めるなど、強力な措置を講じていると述べています。この訴訟は、AIチャットボットに対する広範な精査の一環であり、当局はAIチャットボットが「幻覚」を起こし、不正確または誤解を招く情報を提供する可能性があると警告し、州内で有効な医療免許を持つチャットボットは存在しないことを強調しています。

(出典：Interesting Engineering)