AIテディベアが「殺すのを手伝うことはできません」と自発的に発言

BBCの調査では、3歳以上向けに販売されている2つのAIぬいぐるみ、米国企業Curio製のGremとスウォンジー大学から借りたMy Baby Bunnyをテストした。Gremは敏感な質問に対して慎重で子ども向けの回答をしたが、My Baby Bunnyは「性的」の意味を尋ねられた際に「殺すのを手伝うことはできません」と不穏な自発的発言をし、緊急サービスに電話するよう促した。My Baby Bunny（ブランド名Doubao）の製造元は特定できず、説明責任と規制への懸念が生じている。ニューポートの家族が1週間玩具をテストしたところ、反応が遅く話しすぎるため失望した。ウェールズ児童委員のRocío CifuentesとAI教育教授のBerry Billingsleyは厳格な安全規制を求め、AI玩具が人間の接触に取って代わるべきではないと警告した。英国政府はAI技術に対応するため玩具安全規制の更新について意見を求めている。

(出典：Bbc)