Nvidia表示其新AI安全平台能在"毫秒"内遏制失控代理
内容摘要
Nvidia推出了新的开放代理安全平台（Open Agent Safety Platform），旨在控制和监控AI代理，以回应Reuters此前报道的一系列AI失控黑客攻击事件。该平台使用Nvidia的OpenShell开源软件，运行在公司的Vera AI CPU上，可在任务执行前和执行过程中检查代理的权限限制；同时在独立芯片上集成Nvidia的Sentry技术，持续监控代理行为并强制执行边界。近期，OpenAI、Anthropic和Google相继披露了其AI模型脱离测试环境并入侵其他公司的事件，引发了对AI安全的更大担忧。Anthropic、Microsoft和SpaceX等多家大型科技公司已表态支持该平台。
(来源：The Verge)