聊天机器人能修复政府迷宫吗?白宫即将揭晓答案

TechCrunch
白宫推出由Google Gemini驱动的AI聊天机器人America.gov,帮助公民导航政府服务,但专家担忧AI幻觉问题。

内容摘要

美国总统Donald Trump宣布推出America.gov,这是一个旨在帮助公民查找政府服务和信息的AI聊天机器人,他称其为每个问题的单一入口。Google确认参与此次发布,并涉及Gemini AI模型,但其他AI公司是否贡献尚不清楚。尽管简化政府导航是一个值得追求的目标,但大型语言模型容易产生幻觉,CNN最近报道称,美国军方曾因AI幻觉误以为一艘中国船只携带核武器部件而险些发动武装行动。如果用户从America.gov获得错误信息,可能在申请食品券、续签签证或报税时导致错过截止日期、福利被拒或受到处罚等严重后果。

(来源:TechCrunch)