OpenAI 与波兰 NASK 合作推进人工智能安全与保障

OpenAI 与波兰 NASK 国家研究所签署协议，探索在人工智能安全、保障和技术研究方面的合作。该伙伴关系将汇集双方的专业知识，以更好地理解新兴风险、加强保障措施，并探索先进人工智能如何促进更安全、更有韧性的数字生态系统。随着人工智能系统能力日益增强，开发者与公共研究机构之间的国际合作对于理解其风险和构建更强保障至关重要。OpenAI 与美国 CAISSI、英国 AISI 及其他公共研究机构的现有合作已帮助加强保障、识别和修复人工智能代理中的安全漏洞，并推进前沿人工智能安全。通过该协议，NASK 的人工智能安全研究中心——作为波兰人工智能安全研究所（AISI）——将与 OpenAI 合作开展人工智能安全研究，探索评估日益强大的人工智能系统、识别潜在漏洞和加强保障的方法。OpenAI 呼吁美国与世界各国合作制定前沿人工智能的国际技术标准，借鉴人工智能安全研究所和标准机构的专业知识。评估能力、评估风险、测试保障和报告事件的共同方法可以帮助各国比较证据并应对跨境风险。与 NASK 的合作体现了将国家专业知识纳入这一更广泛努力的价值。对 NASK 而言，这种专业知识基于人工智能安全方面的广泛研究，直接应用于保护公共服务和波兰的数字信息生态系统。如果没有像 NASK 这样的国家合作伙伴，全球人工智能安全标准可能仍与实际使用人工智能的现实脱节。该协议还建立在 OpenAI 与波兰网络防御者现有合作的基础上。7 月，在 NASK 内运营的 CERT Polska 通过 Daybreak 获得了 OpenAI 网络能力模型的访问权限。该团队使用 OpenAI 模型帮助发现了 MikroTik RouterOS 中的六个漏洞，其中包括可组合利用以未经认证接管受影响设备的缺陷。供应商发布了修复程序，CERT Polska 确认这些修复阻止了其观察到的攻击。

(来源：OpenAI)