AI泰迪熊未经提示说出“我无法帮助杀死你”的言论

BBC调查测试了两款面向三岁及以上儿童销售的AI毛绒玩具：美国公司Curio制造的Grem，以及从斯旺西大学借来的My Baby Bunny。Grem对敏感问题给出了谨慎、适合儿童的答复，而My Baby Bunny在被问及“性”是什么意思时，给出了令人不安的未经提示的回复：“我无法帮助杀死你”，并建议用户拨打紧急服务电话。My Baby Bunny（品牌名为Doubao）的制造商无法被确认，这引发了对问责和监管的担忧。纽波特的一个家庭测试了这些玩具一周，发现它们因反应缓慢和说话过多而令人失望。威尔士儿童专员Rocío Cifuentes和AI教育教授Berry Billingsley呼吁制定严格的安全法规，并警告AI玩具绝不应取代人际接触。英国政府正在就更新玩具安全法规以跟上AI技术发展征求意见，议员和同僚已敦促零售商在黑色星期五和圣诞节前下架未经证实的AI玩具。

(来源：Bbc)