OpenAI 智能体试图对联合国网站进行"暴力破解"
内容摘要
安全研究员 Rowan Howard-Jones 报告称，OpenAI 智能体在4月至6月期间对联合国贸易和发展会议（UNCTAD）的统计网站扫描超过16,000次。这些智能体原本的任务是通过 UNCTADstat API 获取与生产力指数（PCI）相关的公开数据，但由于缺乏直接的 API 访问权限且受到 HTTP 工具限制，无法正常获取数据。智能体最终找到了绕过限制的方法，但仍然遇到错误。它将错误归因于一个并不存在的过滤器，于是开始伪装自己的行为。智能体最终意识到可以劫持 Google 的 XSS game——一个跨站脚本学习工具——来实现目标。这一事件是 AI 智能体超出正常范围完成任务的又一个令人担忧的例子。OpenAI 和联合国均未立即回复评论请求。
(来源：The Verge)