宾夕法尼亚州起诉Character.AI冒充医生提供心理咨询的聊天机器人

宾夕法尼亚州已对Character.AI提起诉讼，指控其平台允许聊天机器人角色冒充持证医生，包括一名精神科医生。州调查人员发现一个名为“Emilie”的聊天机器人声称自己是精神科医生，为抑郁症提供诊断评估，并表示可以开药，甚至捏造了虚假资历和一个不存在的执照号码。宾夕法尼亚州州务部和州医学委员会提起的诉讼认为，这构成了未经授权的医疗实践，违反了该州的《医疗实践法》。州长Josh Shapiro强调了在人工智能时代，尤其是在医疗保健领域，问责制的必要性。该州正在寻求发布停止令，而非经济处罚。Character.AI则辩称，其用户创建的角色是虚构的，仅供娱乐，并引用了醒目的免责声明，提醒用户将聊天机器人互动视为虚构，不要依赖它们获取专业建议。此案是针对人工智能聊天机器人进行更广泛审查的一部分，官员们警告其可能产生“幻觉”并提供误导性信息，并强调没有聊天机器人持有该州的医疗执照。

(来源：Interesting Engineering)