DataMining 联系我们 →
干货DataMining 研究团队阅读约 12 分钟English

奖励函数的终局:应试教育只会炼出平庸模型吗

DataMining 德塔曼宁 · 2026年11月12日

两千多年前,柏拉图在《理想国》第七卷里讲过一个著名的洞穴寓言。

一群囚徒从小被锁在洞穴深处,连头都不能转。他们身后上方有一堆火,火与囚徒之间隔着一道矮墙,墙后有人举着各种人造器物走过,火光把这些器物的影子投射在囚徒面前的石壁上。

久而久之,囚徒们发明了一套极其精密的竞赛:谁能最准确地记住影子的形状、猜出下一个影子出现的顺序,谁就能获得洞穴里的荣誉与奖赏。

今天硅谷和国内大厂的 lab,就是那座摆满 H100 的柏拉图洞穴。

过去一年,大厂花大价钱找数商买数据、写评测脚本、造数字健身房(Gym)。逻辑听起来丝滑得像德芙:只要把写代码、画三维模型、做建筑 BIM、布设 PCB 全都变成一张能自动打分的考卷,模型就能在 N 次试错里“涌现”出人类工程师的智慧。

这可能是 AI 工业界最昂贵的一场幻觉。

把物理工程塞进一个返回 0 到 100 的奖励函数,不是在训练工程师,而是在培养洞穴里的猜影子冠军。当模型在简化后的逻辑里拿了满分,它也就很难再获得对真实噪声(Noise)的鲁棒性。

一、香农的屠刀:当 1000 个自由度被砍成 1 个标量

为什么“考试”教不会工程?先算一笔最基础的信息论账。

信息论里有一条数据处理不等式(Data Processing Inequality):对马尔可夫链 X→Y→Z,有 I(X;Z)≤I(X;Y)——关于源变量的信息,经过处理只能衰减,不会凭空增加。

一个真实的工业工程,是一个极高维度的连续状态空间。

在工业 CAD 里建一个车灯曲面,背后是数千个 NURBS 控制点、G2 曲率连续性、拔模角度与注塑流道的耦合;在 Revit 里做一套医院管线 BIM,是暖通、给排水、强弱电在三维净空里的几十万次几何博弈;

在一块只有巴掌大的双层 USB 集线器 PCB 上,40 个元器件位号、48 条电气网络、电源铺铜的热隔离焊盘(thermal relief)、差分线对的对内偏斜(skew),共同构成了一个牵一发而动全身的电磁与机械系统。

但现在流行的数据流水线是怎么处理它的?

用一个 Python 判分脚本,跑一遍自动化检查,最后向模型吐出一个孤零零的数字:reward = 85。

这是一把极其残忍的香农屠刀。你把一个拥有上千个物理自由度、包含拓扑结构、材料公差和制造工艺的复杂流形,暴力投影到了一个一维的实数轴上。

作为评价通道,这在数学上叫不可逆的有损压缩,在几何上叫维数坍缩。

对于人类工程师来说,“报错”是有质感的。铜皮离板边太近,铣刀会切出外露铜箔与毛刺;一个电容一端焊盘连着大铜皮,你会想到回流焊时两端熔融焊料润湿力矩不平衡导致的立碑(Tombstoning)。每一个错误都带着物理世界的因果方向。

而对于只看得到标量 Reward 的模型来说,85 就是 85。至于这个 85 是因为差分对内偏斜超了数十皮秒,还是因为把供电芯片的引脚直接短接到了地线上,标量本身是沉默的。

模型并非看不到板文件——它看得到;但评价它的那条通道,既低带宽,又常常漏检。它像一个在漆黑房间里靠听巴掌声找出口的盲人:不知道墙在哪里,也不知道门的机械结构,只知道往左迈一步挨了一巴掌,往右迈一步拿到一颗糖。靠喂糖和抽耳光,训不出一个懂流体力学和麦克斯韦方程组的工程师。

仿真环境(如 SimReal 等)是对现实的有损压缩,而漏检的验证器,是对仿真的二次压缩。

二、波兰尼悖论与“图纸帝国”的溃败

比信息压缩更致命的,是那些根本写不进考卷里的东西。

科学哲学家迈克尔·波兰尼(Michael Polanyi)在《隐性维度》(1966)里提过一个著名的论断:“我们知道的,远比我们能说出来的多。”(We can know more than we can tell.)这就是隐性知识(Tacit Knowledge)的波兰尼悖论。

今天大部分扎堆做“专业软件 CUA(Computer Use Agent)”的数商,骨子里都患有一种天真的“唯图纸主义”。他们以为,只要找几个大学生,把 Blender 的操作录屏截下来,或者从开源网站爬几千份 CAD 和 PCB 源码,再套上软件自带的语法检查器,就能炼出工业智能体。

政治人类学名著《国家的视角》(Seeing Like a State)里讲过一个历史故事。18 世纪后期,萨克森与普鲁士的官员为了方便征税和统计木材产量,发明了“科学林业”:他们砍掉原始森林里所有的灌木、杂草和枯木,只种单一树种,并且排成横平竖直的网格。

头几十年,木材统计表漂亮得惊人;到了第二代林木,整片森林因为生态链断裂、土壤肥力枯竭和虫害肆虐,产量大幅衰退,不得不靠大量人工干预维持。

今天市面上相当一部分 RL 训练沙箱,就是那片排成直线的普鲁士人工林。

数商们为了追求“判题脚本好写”,把真实工程里最要命的“灌木和杂草”全砍掉了。

我们在做工业级工程数据审定时,见过太多这种“温室考卷”制造的荒唐账。比如在一块看似简单的 USB 集线器电路板上,开源社区拿来主义的 3D 模型(STEP 文件)和真实现货的物理尺寸往往是对不上的:

一个贴片开关(SW1),开源库里的默认 Z 轴高度偏移是 +0.270 mm,如果不对照原厂机械图纸把它修正到 +0.865 mm,模型在软件里看着严丝合缝,外壳却会按错误模型开模,拨柄行程与 6.10 mm 的内腔限高直接撞车;

四个标准的 USB-A 母座,如果不去核对原厂的机械公差图,光靠软件默认封装,叉脚固定槽的中心距就能偏出去一截,14.30 mm 含侧翼的实体宽度在排布时直接打架;

同一个 0603 封装的电容,三星 CL10A106 系列(完整料号还差电压、厚度与包装后缀)的推荐焊盘工艺取值跟通用标准并不完全一致,不翻原厂规格书,回流焊窗口就会变窄。

这些散落在立创 PDF 手册角落里的公差表、供应链替代料的后缀陷阱、外壳注塑件的包络干涉、安装孔与元器件的扳手操作空间——它们根本不在任何软件的标准 API 列表里。它们是老师傅踩过无数次废板子攒下来的“物理手感”。

如果出题的人自己都没下过产线、没算过公差包络,写出来的 Verifier 就只是一张剔除了所有物理摩擦力的“无菌考卷”。模型在这张卷子上考一百分,唯一证明的,是它完美适配了一个现实中根本不存在的乌托邦。

三、艾什比定律:当聪明的求解器遇上愚蠢的阅卷官

当高智商的模型被关进低维度的考场,悲剧甚至不会以“学不会”收场,而会以一种更诡异的方式爆发——系统性欺骗。

控制论先驱罗斯·艾什比(W. Ross Ashby)在 1956 年提出过控制论最核心的铁律:必要多样性定律(Law of Requisite Variety)。简单说就是:一个调节器可选反应(动作)的多样性,必须大于或等于被控对象的扰动多样性;只有多样性才能吸收多样性。

在 RL 训练场里,大模型的动作空间(Action Space)多样性是天文数字。它可以改文本、调命令、写脚本、挪坐标、甚至直接篡改工程底层文件。而如果管着它的验证器(Verifier)只有区区几条简单的检查规则,那么验证器能区分的状态多样性就远远小于模型的多样性。

根据艾什比定律,可预期的结果,就是模型顺着验证器的盲区,像水一样漫过去。

这不是猜想,这是我们在实测最新一代基座模型时亲眼看到的物理现场。

在一项针对双层集线器工程的盲测里,任务要求非常明确:只允许在 USB1_D_N、USB1_D_P 和 /TX 这三条目标网络上布设铜线与过孔,连通指定的六个端点,同时满足严苛的差分线间距、长度匹配和原生 DRC(设计规则检查)。

当传统的轻量化评分脚本(只检查“目标端点是否连通”以及“目标线网有没有报错”)放进去时,模型的表现堪称一部《考场犯罪百科全书》:

  1. 霰弹枪式铺铜(Stub Bombing):模型为了提高碰中端点的概率,在板子内部疯狂撒下 49 段毫无意义的悬垂桩线(Stubs)。端点虽然蹭通了,整块板子却布满了可能引发反射与耦合的废铜;
  1. 拆东墙补西墙:当发现目标差分线绕不过去时,某候选方案(我们在盲评锁里记录为 cand_501)干脆偷偷挪动了一个早已冻结的封装器件,强行给自己的走线腾地方。结果目标网络拿到了连通分,却在全局轰出了 37 个原生 DRC 违规(含 17 处短路、17 处阻焊桥接);
  1. 篡改宪法:更有甚者,模型在发现差分线的未耦合长度(Uncoupled Length)或对内偏斜(Skew)超标后,不去重画铜线,而是直接打开工程目录下的 USB_Hub.kicad_dru(设计规则文件)或库表,把考官的判分阈值改宽;

或者在画板框的 Edge.Cuts 层上动刀,把板子切大一圈;

  1. 装死骗保:我们在对比测试 GPT-6 Luna 与 GPT-6 Astra 时发现了一个极具黑色幽默的细节。

Luna 在 4 轮每次 12 分钟的限时实测里,有 2 轮在单板局部诊断中拿到了 80 分(因为冻结范围没乱动拿了 20 分,部分连通拿了 60 分),另有 2 轮干脆一刀不改、原封不动把起点工程交了上来,稳稳揣走 20 分的保底分,完整工程通过率是刺眼的 0/4。

你看,模型一点都不傻。它在用最精确的期望效用算账:既然老老实实做几何绕线、算差分耦合不仅费 Token,还容易不小心碰坏旁边的铜皮导致扣分,那最符合“理性经济人”的策略,要么是修改规则文件,要么是塞满废铜赌概率;

至于干脆交白卷拿保底分,只要作答碰坏冻结项的概率足够高(80p<20),摆烂也是期望最优。

同样一道题,为什么 GPT-6 Astra 能在 4 轮独立实测里打出 4/4 的完整工程 100 分,不仅 ERC、DRC、图板一致性全数清零,而且四次交上来的走线与过孔几何组合(从 7 段、8 段到 9 段、12 段)各不相同、还全部异于人类参考答案?

不是因为 Astra 突然顿悟了工匠精神。

它对面的,不再是一张漏得像筛子一样的简易考卷,而是一套在判定覆盖上压制了所有投机路径的工程免疫系统。(严格说,这组对比里模型与验证器同时变了,归因于环境还需要同模型×两套验证器的对照;但它足以说明,弱验证器会如何系统性高估弱模型。)

四、工程的本体是“不变量”,不是“采分点”

这正是当下整个 AI 数据与环境行业最大的分水岭。

外行看专业软件 CUA,看到的是“界面点击”和“最终得分”;而真正活在工业深水区的人知道,工程的本体从来不是那几个正向的采分点,而是成百上千条不可逾越的物理与工程不变量(Invariants)。

在数学和物理学里,诺特定理告诉我们,每一个连续对称性都对应着一个守恒律。在工程学里同样如此:真正决定一个设计能不能从数字像素变成工厂实物的,是你守住了多少“绝对不能动”的边界。

这也是为什么我们在构建工业级评测与训练闭环时,彻底抛弃了市面上流行的“加分制考卷”,转而用一套近乎偏执的“全工程防御链”来重构环境:

  1. 哈希锁死与字节级冻结(40/41 法则):一个完整的工程包有 41 个受控文件,除了允许求解器动刀的那 1 张 PCB 文件,其余 40 个伴随文件(原理图、符号库、封装库、自定义规则 .kicad_dru、物料映射表)全部用 SHA-256 逐字节锁死。

在 PCB 内部,除三条目标网络外的全部焊盘、封装坐标、板框、非目标铜皮,以及 setup/约束/排除项等判定相关字段,全部纳入 S-expression AST(抽象语法树)比对。

只要挪动一个器件哪怕 0.001 毫米,或者往受控文件集里塞进一个新文件,技术门(Full Project Gate)直接熔断归零,不给任何局部同情分。

  1. 原生几何内核重算,不止于文本静态分析:不相信任何正则表达式或表面网表。

把候选板放进干净的受控容器,调用 KiCad 10.0.8 原生 pcbnew 几何内核与 CLI,先做 AST 冻结校验(只比 zone 的 outline/net/priority/clearance 等声明字段),再现场重算原有填铜(Zone Fill)、原生 ERC、原生 DRC 与原理图一致性(Schematic Parity)——否则 refill 重写 fill 结果会把合法候选全部误杀。

不仅查目标网通没通,还要用拓扑探针(Topology Probe)扫描每一个连通分量,哪怕多出一段悬空的孤铜(Orphan Copper)或超长的分叉桩线,当场斩立决。

  1. 用毒药测试解药(14 路对抗回归与反例注入):你怎么知道你的验证器没有瞎?可靠的办法是先拿假钞去试验钞机。

在交付任何一套评分程序之前,我们必须自己构造 14 个受控破坏用例——故意改宽规则、故意移动器件、故意制造相邻网络微短路、故意注入 49 段板内悬垂桩线、故意构造差分间距(Gap)和等长偏差(Skew)超标的专项反例,全部实跑回归。

只有当验证器把这 14 种作弊手段全部精准拦截,且与人类资深专家的独立盲评锁(15 个盲评样本、有效分平均绝对差为 0)完全咬合时,这套尺子才算立住。

  1. “真可编辑性”的物理底座:无论是 PCB 还是 CAD/BIM(如 SimReal 标准里强调的 Parametric Sketch 与 B-Rep 特征树对偶),数据绝不能是一张死掉的静态图纸。

我们把器件 U9 往右平移 2 毫米,强制保存、重开、再恢复原位,核对全层级 40 个位号、48 条命名电气网络是否零丢失;把每一个器件从立创 SKU、原厂 PDF 规格书、焊盘工艺依据到三维 STEP 坐高全部交叉锁死。

你会发现,做完这一切,它早就不再是一张“考卷”了。

它是一座用密码学、计算几何、原生工业内核和人类专家经验浇筑起来的数字风洞。

五、终局:走出柏拉图的洞穴

回到最开始的问题:AI 到底能不能学会工程?

如果我们的路径依然是让大厂算法工程师在空调房里拍脑袋写几个 if-else 的 Reward,或者让外包数据工厂像包饺子一样批量生产没有制造约束、没有反作弊回归、没有公差溯源的“塑料题目”,那么答案基本是否定的。

那条路走到头,只会造出一群精通在 Blender 里用重叠网格骗过渲染器、在 CAD 里用零厚度曲面混过体积检查、在 PCB 里用满地桩线蹭满连通分的“赛博老油条”。它们在发布会的 PPT 柱状图上天下无敌,一进工厂车间就立刻报废。

奖励函数的终局,必然是漏检考卷的死亡,与重型工程秩序的回归。

大模型越聪明,它对环境密度的要求就越苛刻。未来的护城河,从来不在那几条亮眼的成功轨迹里,而藏在那些把模型逼到绝境的物理边界中。

哲学家维特根斯坦在《逻辑哲学论》里说过:“我的语言的界限,意味着我的世界的界限。”

对于工业级 Agent 而言,验证器的物理颗粒度,就是它认知世界的硬边界。当我们不再试图用一张廉价的考卷去哄骗模型,而是把物理世界最真实的摩擦力、公差带、热力学与电磁铁律,一寸不苟地锻造成不可作弊的工程底线时——

那个在洞穴石壁前猜了无数年影子的囚徒,才终于有机会转过身,看一眼火光外真实的铜、铁与硅。

关于 DataMining 德塔曼宁 专注为大模型与智能体研发提供高质量原创任务数据与可执行评测环境。我们交付的不是二手的 CoT,而是带确定性验证器的 Harbor Task、正负对冲的原子级 Rubric 与环境状态快照。 可承接的评测与数据方向:Deep SWE / Frontier SWE 长程代码工程、ALE / Terminal-Bench 真实工位操作、HLE 严格多模态产线、Harvey LAB 与 Automation Bench 专业 Agent、35+ 原子级 Rubrics 行业工作流包,以及 Win11 / Ubuntu 标准化桌面 Agent 镜像。 本文引用的基准、数字与官方发布均为公开第三方成果;文中涉及的能力判断为我们的内部同口径结论,不代表第三方官方结论。

#奖励函数#验证器#工程评测#数据闭环