コーディング評価におけるシグナルとノイズの分離

OpenAI
OpenAIは「SWE-Bench Pro」の評価データセットに重大な欠陥があることを特定し、約30%のタスクが不適切であると報告しました。

概要

OpenAIは、モデル能力の正確な測定を目的として、コーディングベンチマーク「SWE-Bench Pro」の監査を実施しました。自動化された分析パイプラインと熟練のソフトウェアエンジニアによるレビューの結果、全体の約30%のタスクが、過度に厳格なテストや指示の曖昧さといった欠陥を抱えていることが判明しました。この結果を受け、OpenAIは同ベンチマークの推奨を撤回しました。また、モデルの真の能力を反映し信頼できる評価を行うためには、より厳格かつ専門家によって精査されたベンチマークが必要であると提言しています。

(出典:OpenAI)