书本网

原既白自己也笑了。

问题却很真实。如果只告诉程序“找一个能让模型出错的变化”，它会选择最容易的路，根本不在乎这个变化对人来说有没有意义。这和他们此前机器学习任务里的问题几乎一模一样：目标写成什么，系统就会努力去赢什么，而不是自动理解设计者心里真正想要什么。

他们不得不加入第二条约束：变化以后，人仍然应该认为这是同一个对象。可“人仍然认为一样”又没法直接写成一句程序。宋弈建议用图像相似度，原既白试了以后发现仍然会漏掉很多情况；两张像素差别很大的图片，人可能一眼认为是同一颗豆子，只是背景不同，而两张像素很接近的图片，也可能恰好把一个关键结构改掉。

两个人折腾到晚上十点半，没有解决。

第二天叶老师的视频会议里听完，没有帮他们设计指标，只问：“你们现在发现什么？”

宋弈抢着说：“发现‘别把图改坏’比写起来难多了。”

叶老师笑了一下：“这就够你们再做一个星期。”

原既白却一直在想另一个问题。如果一个测试系统必须知道“什么变化对于任务来说不重要”，才能判断模型是不是学错了，那么所谓测试从一开始就不只是技术问题。你必须先回答：这个任务真正应该依据什么作判断。对豆子来说，也许形状和纹理重要，背景不重要；可换成医学影像、招聘简历或者自动驾驶，什么应该重要、什么不应该重要，就不再那么容易由一个程序员独自决定。

这个念头刚冒出来，他便觉得范围太大，没有继续写进报告，只在自己的纸上记了一句：“谁决定什么算同一个问题？”

下午他还得做英语套卷。

这种切换近来已经成为高三生活的常态。上午可以因为一个机器学习问题想得很远，下午照样会因为阅读理解少写一个条件扣两分。年级第二次冬季模拟考里，原既白总分比上次上升了一些，数学仍然稳定，语文也因为强迫自己把“脑子里已经懂了”的东西完整写出来而有所改善。他没有回到年级第一，而是在前三名之间浮动。秦老师对此几乎没有评价，只看了他的作文一眼，说逻辑很清楚，人物却写得像实验对象。

“什么意思？”原既白问。

“你写这个父亲为什么做决定，把条件列了四条，每条都对。”秦老师把卷子翻回来，“可是人做决定的时候，很少先在脑子里列完四条再行动。他可能先发火，后来才知道自己在怕什么。”

原既白看着自己的作文，觉得这个批评比扣掉的那几分更麻烦。

秦老师继续说：“你以后做什么我不知道，但别把‘解释得通’当成‘人就是这样发生的’。这是两回事。”

这句话跟机器学习没有任何直接关系，原既白却在晚自习走神时又想了一遍。他一直习惯从更高处找到一个结构，把下面的行动解释清楚；这种能力让很多复杂东西变透明，也会制造一种危险的错觉，好像只要事后能找到合理结构，事情当时就一定按这个结构发生。

人不是程序。

至少不是那么容易被自己看见的程序。

核心组成绩在两天以后公布。

这一次榜单没有只列一个总名次，而分成传统理论、开放问题、实验基础和综合评估四栏。训练中心显然不想让所有人把四种不同能力重新压成一个简单数字，可最后仍然需要分组，所以最右边给出了进入下一阶段核心组的名单：十五人。

江遥先看理论。

第八。

比上一次阶段复测的第十一又往前了一点，却并没有让她意外。那道同步问题给分很高，而第二题丢掉的分数也和自己估计得差不多。实验基础仍然在十四上下，几乎没有变化。她扫过这个数字时甚至没有停留太久，这种稳定现在已经足够说明问题：实验不再是她必须拼命修补的洞，却也不是她真正开始领先别人的地方。

开放问题一栏，她是第三。

综合名单里，她排在第七，进入十五人核心组。

韩思遥没有进去。

江遥最先看到的不是自己的第七，而是榜单上缺了韩思遥的名字。她沿着其他栏往回找，韩思遥的实验和传统理论都在二十多名，开放问题靠前一些，但没有足够把总评拉进十五。简宁进了，许观澜进了，陆徊也进了。沈策排在边缘，同样进入。榜前的人群不像之前那样热闹，有人拍照，有人默默离开，也有人站了很久。

江遥回宿舍时，韩思遥正在收桌上的资料。

不是收行李。没进核心组并不意味着立刻离开训练营，后面仍然有课程和下一轮机会，只是训练内容会开始分层。可她把几份核心组用不到的材料叠起来时，动作明显比平时慢。

江遥站在门口，一时不知道说什么。

“别安慰我。”韩思遥先开口，“尤其别说还有机会。”

江遥把刚到嘴边的话咽了回去。

过了一会儿，她拉开自己的椅子坐下：“好。”

韩思遥整理了一阵，忽然说：“其实我看到名单的时候第一反应不是难过。”

江遥等着。