第四编 实验台
本书在全部论证中不使用这三个词：理解、意识、智能。
这不是一个风格上的选择，也不是回避争议。它是一条对论证结构的设限，而且它使论证变强而不是变弱。本章说明为什么。
先把设限的内容写准：
本书不主张模型理解任何东西，不主张它有任何形式的意识，不主张它具有智能；本书也不主张它没有。这三个问题本书不处理。
后半句同样重要。本书不是站在”模型不过是统计”那一侧——那同样是一个关于心智的判断，同样需要论证，而本书同样不做。
理由有三条，按分量排。
理由一：它们是可争的，而四条工程性质不可争。
“这个模型是否理解它写下的句子”——这个问题今天有至少三种互不相容的回答，而且它们各有拥护者，各有论证，没有公认的判据。
“这个训练过程能否被从头再跑一遍”——这个问题没有争议。它是一个关于计算过程的事实，任何人可以去查。
一个建立在不可争事实上的论证，比一个建立在可争判断上的论证强得多，因为它不能被对手在那一处截住。
理由二：使用它们会把论证变成类比论证。
若本书说”模型理解，人也理解，因此模型的知识形成告诉我们人的知识形成如何”，那就是类比。而第七十七章第二节已经论证过：类比论证在本案上不产生判决，因为它的强度取决于相似性，而相似性的判断本身无法被独立检验。
本书的论证是反例式的。反例结构需要的是一个落在全称命题范围内的实例，而那条全称命题说的是”以材料为输入、以判准为约束的知识形成过程”，它没有说”由理解者进行的过程”。
于是：不使用这三个词，恰恰是反例结构得以成立的条件。
理由三：使用它们会引来一整批与本案无关的反驳。
一旦本书主张模型理解，反方就可以用全部关于心智的论证来回应，而那些论证无论对错，都不落在”路径是否进入结果”这个问题上。本书会被拖进一场自己不需要打、也打不赢的仗。
这不是一条写在前言里然后被忘掉的原则。它在本书里有具体的执行痕迹，值得列出来。
其一，它决定了实验台的选择标准。 第四十章那四条性质里，没有一条提到心智。选择大模型的全部理由是工程性的（第四十四章），而不是”它最像人”。
其二，它决定了结果距离的构造。 第五十五章那四条硬规定——不得用任务分数、必须消去对称性、必须包含分布外行为、不得合成两通道——全部是关于测量的，没有一条关于模型内部发生了什么心智事件。
其三，它决定了本书如何接住第七十七章那一记。 那一记说”这只是表征的形成，不是知识的形成”。若本书曾主张模型理解，它就必须在那里争辩模型确实有知识——而那是一场没有判据的争辩。因为本书从未主张，那一记打在空处，本书可以专心处理它真正有效的那一部分（反例结构的适用范围）。
其四，它决定了第七十八章那一记为什么接不住、以及接不住是什么性质的。 那一记问的是”组合与形成的界限”。这是一个关于发生的问题，不是关于心智的问题——第七十八章第七节指出它在人身上有同构的版本。若本书曾把这个问题挂在”理解”上，它连那一记的形状都看不清。
有三处代价，写明。
代价一：本书的结论比读者期待的弱。
许多人关心这个题目，是因为他们关心人的知识、人的创造、人的认识。本书的结论落在模型上，而第七十七章第三节明写它不推出人类知识是被造成的。
这是一个真实的失望，本书不打算用任何措辞去缓和它。
代价二：本书无法使用一批有力的材料。
关于模型内部机制的研究里，有大量材料被表述为”模型学会了某个概念”“模型知道某件事”。这些表述在实践中很有用，但它们含有本书拒绝使用的那一类判断。本书只能使用它们的操作性内容——某个结构在某处被检测到，某个行为在某类输入上出现——而不能使用它们的心智性表述。
代价三：它使本书在某些争论中显得躲闪。
当别人问”那你到底认为模型懂不懂”，本书的回答是”本书不处理这个问题”。这在辩论场上听起来像回避。
本书接受这个代价，并且认为它是所有代价里最值得付的一个——因为回答那个问题所需的判据，本书一条也拿不出来；而在没有判据的地方给出立场，恰恰是本书全书在反对的做法。
本章最可能遇到的反驳，是说这条设限是一种回避：真正的问题就是模型懂不懂，绕开它等于绕开了实质。
这个反驳要被认真答一次，不能靠重申设限来打发。
反驳的完整形式大概是这样的：你说你的实验台产物具有”知识主张的形式”（第四十四章第七节），可”形式”这个词做了全部的工作。一串可以被评价为对或错的符号，与一件真正的知识之间，差的正是理解；你把它叫作形式，只是给这个差距换了个名字。
本书的回答分两步。
第一步：承认这个差距存在，并承认本书没有填平它。 第七十七章那一记（这只是表征的形成，不是知识的形成）说的就是这件事，而本书在那一章的回答不是”差距不存在”，是”本书的论证结构不需要填平它”。
第二步，也是关键的一步：指出反例结构在哪里生效。
先在论要论证的那条全称命题，说的是”任何以材料为输入、以判准为约束的知识形成过程”。这条命题的提出者，从来没有把”由一个理解者进行”写进条件。 若有人现在要加上这个条件，那等于承认：那条原则不再是关于知识形成一般的，而是关于由理解者进行的知识形成的。
而那个承认，本身就是本书要争取的东西的一大部分。 第七十七章第二节写过：普遍性一旦破了，先在论就必须为它想主张的每一个领域单独举证。把”理解者”加进条件，正是一次这样的收缩。
于是这个反驳有一个它自己不愿意要的后果：用”模型不懂”来挡本书，等于把那条全称命题改小。 而本书想要的，正是让它变小。
这一步不是抖机灵，但它也不是全胜。 反方完全可以接受这个收缩——承认那条原则只适用于理解者，然后说：那么本书的结论与人类知识无关，我们本来关心的就是人类知识。
这个回应是有效的，而本书对它的回答只有第七十七章第三节那三条边界：本书不证明人类知识是被造成的；本书确实取消了那条原则的先天地位；本书确实提供了一个可重跑的实例。
三条都不足以让反方满意。本书接受这一点。
这条设限不是孤立的。本书里有四条同类的自我限制，把它们放在一起看，会看出一个共同的做法。
限制一（本章）：不使用理解、意识、智能。 限制二（第五十五章第一条）：不得用任务分数作结果距离。 限制三（第五十五章第二条）：必须消去已知对称性，不许靠标号差异赢。 限制四（第八十一章）：六件不主张的事。
四条的共同做法是：主动放弃一批本可以用来支持自己结论的东西。
为什么这样做？ 理由在第八十一章附三写过一次，这里给出它的另一面。
一本书的结论能被相信到什么程度，取决于它不能靠什么赢。若一本书用了心智判断、用了分数、留着标号差异、并且主张了那六个更强的版本，那么读者在评估它的结论时，必须先评估这四样里每一样是否成立——而每一样都可争。
放弃它们之后，本书的结论所依赖的东西变少了，而剩下的每一样都更硬。代价是结论变弱，收益是结论所依赖的前提变少。
这个交换是否划算，取决于一件事：剩下的那个弱结论是否还值得要。
本书的判断是值得——第七十七章第三节那三条边界里的第二条，取消了一条原则的先天地位，把它从公理降为待证的经验假设。这件事即使在最弱的读法下也是真实的收获。
但这个判断可能是错的，而且本书没有独立的办法证明它对。一本把自己削到只剩一条弱结论的书，若那条弱结论最终也被判负，它就什么也没剩下。 这是本书接受的风险，写在这里。
最后用一个对照把这条设限的意义说完。
设想另一本书，它主张同样的结论，但把论证建立在”模型确实在学习、确实在理解、因而它的学习告诉我们学习一般如何”之上。
那本书会更好读，更有感染力，传播得更广。
它也会在第一次遇到认真的反驳时垮掉——因为它的第一块砖是一个无判据的判断，而反方只需要拒绝那块砖。
本书的第一块砖是”训练可以被从头再跑一遍”。
这块砖很小，也很难看。它的好处是搬不动。
下一章处理这台装置的一处代价，而那处代价不能靠任何设限避开。