基准测试污染与古德哈特定律

基准测试（benchmark）分数本该估计的是：模型在一类它从未见过的问题上表现如何。有两股力量在持续破坏这个承诺：测试题泄漏进了训练数据；所有人都为分数做优化，直到分数不再跟随它本应代表的能力。两者是同一个老道理的两个实例，认出它们，你才不会被一个漂亮的数字骗到。

古德哈特定律

「当一个度量变成目标，它就不再是好的度量。」

一个指标只有在没人直接去推它的时候，才能当好代理。它一旦变成目标——新闻稿里的数字、奖金考核指标、训练目标——力气就全流向了抬高那个数字，而不是它本该反映的底层质量。两者分道扬镳，指标悄悄不再意味着原来的东西。

AI 之外你也见过。用通话时长考核客服中心，客服就提前挂电话。用代码行数考核开发者，代码就注水。度量本身会改变行为，把分数吹上去，却没改善真正的东西。AI 基准测试是古德哈特定律（Goodhart's law）的工业化版本，因为整个领域都在针对一小撮公开测试做优化。

污染：测试泄漏进了训练

最直接的形式是数据污染（data contamination）。模型在海量的网页抓取数据上训练，而基准测试的题目和答案就公开在网上。于是测试集最终进了训练集，模型等于考前就看过卷子。

被污染的基准测试量的是记忆，不是能力。模型背出训练时吸收的答案，刷出高分，但这个分数不再能预测它在真正新颖的问题上表现如何——而后者才是你唯一想知道的。光看分数，这个失效是看不见的：背下来的答案和推出来的答案，在成绩表上一模一样。

污染容易造成，却难以发现：

• 它往往是无意的。 不需要有人作弊。基准测试会流入论坛、论文、博客和 GitHub，抓取程序把它们连同其他一切一起吸走。
• 检测只能绕着来。 你可以看模型是否对测试原字符串给出了可疑的高概率，或者盯住「在老公开基准上的表现」与「在新写的一套等价题目上的表现」之间的落差。一个公开测试满分、同难度新题却磕磕绊绊的模型，很可能被污染了。

对基准测试过拟合

就算一点直接泄漏都没有，还有一种更隐蔽的衰减：整个社区都在针对同一批公开测试反复迭代。成千上万个设计决定——架构、数据配比、超参数——留下还是丢掉，全看它能不能把这个基准往上顶一点。

这是整个领域级别的过拟合（overfitting）。所有人合起来，在往那个固定测试集的特定怪癖和噪声上调，和一个过拟合的模型背下自己的训练数据一模一样。基准上的分数稳步上升，真实能力却升得更慢，甚至不升。基准变成了目标，古德哈特定律保证了这种漂移。它同时也是放大版的多重比较陷阱——对着一个测试集跑足够多的实验，总有一些「提升」只是在拟合它的噪声。

怎么防

你没法废掉古德哈特定律，但可以让它钝一点：

• 留出私有的测试集。 没人公开过的基准，既无法拿来训练，也无法拿来过拟合。这是最强的单点防御，所以严肃的评测都会留一部分测试不公开。
• 定期刷新基准。 新写的同难度题目能同时破掉记忆和日积月累的过拟合。轮换或让测试集过期，它们才保持诚实。
• 用多个不同的指标。 古德哈特定律对单个数字咬得最狠。一组很难同时满足的度量，比其中任何一个都难刷得多。
• 在自己的任务上评测。 对付公开基准污染的根本办法是：你的生产数据是私有的、具体的。你自己的评测集——来自你真实用例的真实输入——不可能泄漏进任何人的训练里，这也是它比公开基准测试更适合验证系统的又一个理由。
• 盯住「公开 vs 新题」的落差。 从一个著名基准换到新写的等价题目时出现大幅下滑，就把它当成它本来的信号：那个公开数字被吹高了。

诚实的立场

基准测试适合做粗粒度的比较——缩小候选范围、抓出大幅回归。它们不是你的问题上能力的证明；一个头条分数应当读作一个可能被污染和社区过拟合吹高的上界，而不是保证。能长期管用的习惯是：比起任何公开榜单上的数字，更相信私有的、针对具体任务的、新收集来的评测；同时对任何已经重要到值得被优化的指标保持警惕。

要点回顾

• 古德哈特定律：一个度量一旦变成目标，力气就会转向抬高数字，而不是它代理的质量，两者随之分离。
• 污染：公开测试题泄漏进训练数据（通常是无意的），于是基准量的是记忆而不是能力——而在成绩表上，它和真本事长得一模一样。
• 社区过拟合：所有人对着同一批公开测试调优，就是领域规模的过拟合，分数涨得比真本事快。
• 防御手段：私有的留出集、定期刷新的基准、多个不同的指标，以及在自己私有的任务数据上评测。
• 把公开分数读作可能被吹高的上界；比起榜单，相信新做的、针对具体任务的评测。

下一篇： 你怎么知道它管用？