在编码评估中去伪存真

OpenAI
OpenAI 发现 SWE-Bench Pro 编码基准测试存在严重缺陷,约 30% 的任务因设计问题而导致评估结果不可靠。

内容摘要

OpenAI 对 SWE-Bench Pro 编码基准测试进行了审计,旨在确保对模型能力的评估准确无误。通过自动化管道和资深软件工程师的人工审核,研究发现约 30% 的任务存在过度严苛的测试、提示词模糊、测试覆盖率不足或误导性信息等问题。鉴于这些发现,OpenAI 已撤回对使用 SWE-Bench Pro 的建议,并强调需要由资深开发者构建更严谨、更能真实反映模型能力的基准测试。

(来源:OpenAI)