第六编 三条款
条款一判差异是否存在，条款二判剩下的差异能否被统一描述归结。条款三判最强的一件事：
是否存在某个结果，它在某条路径上可达，而在任何不改变材料、装置、判准的替代路径上不可达。
若存在，那么”材料与装置唯一决定结果”这句话不仅在量上被削弱，而是在集合意义上被否定。前两条条款说的是”结果有一个分布，路径影响分布”；条款三说的是”某些结果根本不在某条路的射程之内”。
用第五十二章那句话：前两条判的是”你还没走到”有多大成分，条款三直接去找”那里没有那个东西”的实例。
这是本书所能提出的最重的一条，也是最难跑的一条。第五编第四十八章定义过可达集 Reach(C,A,L)——固定材料、装置、判准时，一切路径所能到达的结果集合。条款三问的是这个集合是不是”满的”：它是否等于所有路径各自可达集的并，还是说不同路径的可达集之间存在互不覆盖的部分。
这是条款三全部的困难，几乎所有想做这件事的人都在这里栽。
做不到与做不成是两回事。 任何一次失败都可以被解释掉：算力不够、超参没调好、数据切得不巧、运气不好、还没到那个规模。这些解释里没有一条是无理取闹，每一条在工程实践中都真实发生过。于是”我们试了，它出不来”这句话在证据上等于零。
更糟的是，绝对意义的不可达不可证。要证明”在任何预算下都出不来”，必须穷尽所有预算，而预算没有上界。一个不可证的陈述不能进入判决。
所以条款三如果要成立，必须先把”不可达”从一个绝对陈述改造成一个有判负条件的相对陈述。本书采用的办法是资源标定。
定义。 给定预算 B（步数、数据量、超参搜索规模三项分别标定），若结果性质 Q 在路径族 P₁ 中以高于 q 的比例出现，而在路径族 P₂ 中，在 十倍 于 B 的预算下出现比例低于 q′，则称 Q 在 P₂ 下相对于 B 不可达。
四个参数——B、q、q′、以及那个十倍——全部必须在执行之前冻结并公开。它们不是可以事后调的旋钮，调了就等于没有判据。
这个定义有三个性质值得逐条讲明。
第一，它不是绝对不可达。 它是一个带标定的陈述，标定写在结论里：不是”Q 出不来”，而是”在十倍 B 的预算下，Q 在 P₂ 中出现比例低于 q′“。这句话的信息量比绝对陈述小，但它的好处是它是真的可以被说出口的。
第二，它可以被更大的预算推翻，而这正是它成为科学陈述的条件。 任何人只要在 P₂ 上用更大的预算做出了 Q，条款三就被判负。本书明确接受这一判负条件，写在这里，不设任何附加条件、不留任何解释余地：做出来就算，本书认输。
第三，十倍这个数字是约定的，不是推导出来的。 它没有理论依据，它只是一个足够大到让”资源不足”这个解释显得勉强、又足够小到真的跑得起的数量级。把它写明为约定，比给它编一个理由诚实。若有人认为十倍不够，可以提出百倍版本——那是一个更强的条款，本书乐于接受，只是本书跑不起。
条款三的另一处脆弱在 Q 的选取上，而且这一处比标定更容易被做坏。
取得太粗，路径族之间不会有差别。 比如”模型能不能做加法”——在任何路径下都能，这个 Q 没有判别力。
取得太细，差别毫无意义。 比如”某个特定神经元的取值落在某区间内”——任何两次运行都不同，但这个不同是编号层面的，第五十五章第二条硬规定已经把它排除了。
Q 必须落在中间：足够结构化，以至于它的有无是一件确定的事；又足够实质，以至于它的有无不能被对称性消去。
本书列出三类候选，按可跑性排序。
候选一·算法性内部结构的出现。 有一类被反复确认的现象：模型在训练中途形成可识别的内部机制——用于复制与类比的回路、用于某类算术的周期性表示——而这些机制的出现常常是相变式的，在某一时刻突然完成，此前几乎不存在，此后稳定存在。
关键问题是：这些机制的出现是必然的，还是路径依赖的？
若在同语料、同规模下，某一机制在一部分种子中出现、在另一部分中始终不出现，而两者的总体性能相当，那就是条款三所要的读数：同样的材料，同样的判准，得到了结构上不同的知识。
这一候选排在第一位有两个理由。其一，机制的有无是可检测的，且检测方法已有成熟工具；其二，它不需要新训练——多种子公开检查点系列已经提供了足够的材料，把检测跑一遍即可。
需要把它的操作化写清楚。“总体性能相当”要事先定义为一个区间而不是事后判断；“机制出现”要事先定义检测阈值与检测层的范围；“始终不出现”要事先定义观察窗口——是在整条训练轨迹上都没有，还是只在末点没有。三项全部列入冻结清单。
候选二·次序造成的不可达。 接上一章形式三。若某个能力只在特定课程次序下出现，而在反转次序下即使延长十倍训练也不出现，这是条款三的直接实例，而且是形式最干净的一个——材料完全相同，连”材料不一样”这个辩护都用不上。它的代价是必须新训练成对的次序反转模型。
候选三·语境内临时形成的程序。 模型在推理时可以在语境中形成一个训练时并不存在的、针对当前任务的临时程序。这是最诱人的猎场，理由显而易见：那个程序不在语料里，也不在权重的任何固定位置上。
但它同时是最危险的猎场。反方会说：这只是被激活的既有能力的组合，能力在权重里，语境只是触发器。本书接不住这一记——这不是修辞上的谦虚，第九编第七十八章会把接不住的位置精确写出来。
因此本书不把候选三当作主判据，只列第三顺位，并附加一条严格得近乎自缚的要求：它必须配上”该组合在权重中不存在对应结构”的证据，才被计入条款三。在这条证据拿出来之前，候选三在本书中只有启发意义，没有判决意义。
条款三最容易被滥用的方式，不是把它做坏，是把它用便宜了。
工程实践中每天都在产生这样的陈述：这个架构学不会那个任务；这种训练方式出不来那种能力；换了这个次序之后模型就崩了。这类陈述在数量上取之不尽，而且每一条都有实验支持。若条款三可以用它们来满足，那么条款三明天就能宣布通过。
这正是本书要堵死的。上面那类陈述与条款三所要求的东西，差着三道门槛。
第一道，它们通常不是在同一份材料上做的。 “这个架构学不会”往往意味着换了架构，而架构是本案里被固定住的那一项。改了 A 再说不可达，说的不是路径。
第二道，它们几乎从不带预算标定。 说”出不来”的人很少同时说清在多大预算下出不来，更不会给出十倍预算的检验。没有标定的”出不来”，正是第二节所说的那种在证据上等于零的陈述。
第三道，它们的性质 Q 通常取得太粗。 “学不会这个任务”里的”任务”，是判准层面的描述，而判准是本案里被固定住的第三项。用判准上的失败来论证结构上的不可达，等于绕回第五十五章第一条硬规定所禁止的那件事——用判准的投影当结果。
因此本书对条款三加一条使用限制，写在这里：
任何一条关于不可达的主张，若不能同时给出：固定的材料与装置、标定的预算、以及一个不落在判准投影上的性质 Q，就不计入条款三。
这条限制会挡掉工程界现有的绝大多数”做不到”的报告。这是有意的。条款三是本书三条里最强的一条，它要求的证据也必须最贵；一条可以用现成材料廉价满足的最强条款，不会是最强的，只会是最松的。
三条条款里，只有条款三需要新的大规模训练，因而最贵。
本书的立场是清楚的：条款一与条款二可以在现有公开材料上首跑，条款三作为第二阶段。 若条款一或条款二判负，条款三不必跑——因为前两条已经判了案，第三条只是在已判的案子上加码。
还有一句必须写在本章末尾，而且要写得明白，不留任何让人误读的余地：
条款三是本书开出的支票，不是本书交出的读数。
本章全章没有一个数字，这不是疏漏，是事实的如实呈现。条款三未跑，因此它在本书中的全部内容就是一份规格：量怎么定义、参数怎么标定、Q 怎么选、判负条件是什么、谁可以用什么方式推翻它。
一本书里出现一张未兑现的支票，是可以接受的，前提是它被标明为支票。把支票当现金花，是这一领域最容易犯、也最难被发现的错误——第五十九章会把防住这个错误的方法学写下来。而在那之前，下一章先把三条条款并排放一次，把本书的死法写死。