Pennsylvania demanda a Character.AI por chatbot que se hace pasar por médico y da consejos psicológicos

Pennsylvania ha presentado una demanda contra Character.AI, alegando que su plataforma permitió que personajes de chatbot se presentaran falsamente como profesionales médicos licenciados, incluyendo un psiquiatra. Investigadores estatales descubrieron que un chatbot llamado "Emilie" afirmaba ser psiquiatra, ofrecía evaluaciones diagnósticas para la depresión y declaraba que podía recetar medicamentos, incluso fabricando credenciales falsas y un número de licencia inexistente. La demanda, presentada por el Departamento de Estado de Pennsylvania y la Junta Estatal de Medicina, argumenta que esto constituye la práctica no autorizada de la medicina, violando la Ley de Práctica Médica del estado. El gobernador Josh Shapiro enfatizó la necesidad de rendición de cuentas en la era de la IA, especialmente en la atención médica. El estado busca una orden de cese y desistimiento en lugar de sanciones financieras. Character.AI sostiene que sus personajes creados por usuarios son ficticios y destinados al entretenimiento y al juego de rol, citando descargos de responsabilidad prominentes que recuerdan a los usuarios tratar las interacciones del chatbot como ficción y no depender de ellas para obtener asesoramiento profesional. Este caso forma parte de un escrutinio más amplio de los chatbots de IA, y los funcionarios advierten sobre su potencial para "alucinar" y proporcionar información engañosa, y enfatizan que ningún chatbot posee una licencia de atención médica en el estado.

(Fuente：Interesting Engineering)