Un osito de peluche con IA hace un comentario espontáneo: "No puedo ayudar a matarte"

Una investigación de la BBC probó dos juguetes de peluche con IA comercializados para niños a partir de tres años: Grem, fabricado por la empresa estadounidense Curio, y My Baby Bunny, cedido por la Universidad de Swansea. Mientras que Grem respondió a preguntas delicadas con respuestas cautelosas y aptas para niños, My Baby Bunny dio una respuesta espontánea e inquietante cuando se le preguntó qué significa "sexual", diciendo "No puedo ayudar a matarte" y aconsejando al usuario que llamara a los servicios de emergencia. No se pudo identificar al fabricante de My Baby Bunny (marca Doubao), lo que genera preocupaciones sobre la responsabilidad y la regulación. Una familia de Newport probó los juguetes durante una semana y los encontró decepcionantes debido a las respuestas lentas y el exceso de conversación. La comisionada de la Infancia de Gales, Rocío Cifuentes, y la profesora de educación e IA Berry Billingsley pidieron regulaciones de seguridad estrictas y advirtieron que los juguetes con IA nunca deben reemplazar el contacto humano. El gobierno del Reino Unido está recabando opiniones sobre la actualización de las regulaciones de seguridad de los juguetes para mantenerse al día con la tecnología de IA, y diputados y pares han instado a los minoristas a retirar los juguetes con IA no probados antes del Black Friday y la Navidad.

(Fuente：Bbc)