一、一把刀里有没有判断
一个人站在厨房里，准备把冬瓜切成可以烹调的小块。面前有瓜，有砧板，也有一把已经使用多年的刀。他看了看瓜的大小，扶稳瓜身，调整刀的位置，再把力量压下去。这个动作平常得很，以至于我们通常不觉得它包含什么哲学问题。但如果问“此时是谁在判断”，惯常回答几乎一定是：人。人判断切在哪里，用多大力，什么时候停；刀只是执行，瓜只是承受。
这个回答抓住了人的意识活动，却没有穷尽动作之所以能够完成的条件。刀刃的形状、刀身的硬度、刀柄的握持方式，都把过去无数次制造、使用、失败和调整的结果带到眼前。使用者不必每次重新决定什么形状适合切削，也不必从原材料开始验证器具。他握住刀时，实际上调用了被固定在器具和使用传统中的一部分选择结果。动作中的判断，因而并非全部发生在当下意识里。
王德生关于判断发生学的一个重要推进，是把判断理解为人—工具复合体的能力。用刀切冬瓜，并不是人的全部判断加上一件完全空白的外物，而是人的当下辨认与刀所承载的封装判断共同起作用。这里“刀的判断”是一个需要谨慎解释的表达。它不是说刀有心灵，能够理解冬瓜或对结果负责；它是说，过去的判断被材料、结构、工艺和使用规则保存下来，并在当前动作中限制和支持可能的选择。
如果不说明这一点，发生学很容易滑向拟人化。刀不会因为“想切好”而行动，也不会因一次失败而自行反省；使用者则可以注意到刀钝了、瓜滑了、切法不合适。两者在能力上的差异仍然重要。但如果因此把刀说成毫无认识作用，也会错过工具对行动的构成影响。一个人拿着合适的刀与拿着一块未经加工的铁片，面临的判断负担不同，能稳定完成的动作也不同。
再把情境稍稍改变。同一个人换了一把从未用过的新刀，第一刀可能放慢，握法也会调整。他没有失去切冬瓜的常识，却必须重新校准自己与器具的关系。若刀出现缺口，他可能停止使用；若瓜特别硬，他需要改变动作或工具。封装并没有取消人的判断，而是把一部分判断从每次都必须展开，转变为在正常条件下可以调用、在异常条件下需要重新打开的结构。
本章用这个日常动作进入一个更大的问题。在AI时代，我们常常被要求“保持判断力”，却很少进一步问：判断力由什么构成，哪些判断已经沉入工具，哪些仍需现场发生，怎样知道可以信任，怎样知道该重新检查。若把判断只看成一个人脑中的品质，就容易提出两种互相冲突的要求：一方面让人享受自动化，另一方面要求他独自复核自动化中的每一步。这样既没有解释信任如何形成，也没有设计出可以长期工作的分工。
二、把过去的成功装进今天的动作
封装的意义，是使复杂过程能够以较低负担被再次调用。它可能体现为一件器具，也可能体现为一段程序、一套流程、一项标准或一种稳定习惯。一个人使用成熟的计算工具，不必亲自重做每个底层运算；一个编辑使用排版样式，也不必每次重新决定字号与段距。某些判断已经在设计与验证过程中被固定下来，当前使用者由此能够把注意力放到别处。
但“已经封装”不是一个纯粹的物理状态。同一件工具，对熟悉者和初学者可能处在不同状态。前者知道哪些输出通常可靠、哪些情况需要留意，后者只看到一个结果。工具侧的稳定性与使用者侧的可依赖性，应当分开又一起研究。设计者可能完成了某种测试，使用者却不知道适用条件；使用者可能因反复顺利而形成信任，工具在某个未遇见的场景中却很脆弱。二者之间的错位，是许多误用的来源。
因此，封装的发生至少包含两条相互联系的历史。一条是装置历史：设计、制造、试验、改进、维护，使某种功能在一定范围内稳定下来。另一条是使用历史：接触、尝试、观察、比较、依赖，使一个人逐渐形成对装置的判断。两条历史可能相互支撑，也可能彼此脱节。宣传可以使使用者过早形成封装感，异常可以使旧有信任迅速瓦解，专业知识也可以让一个人比其他人更早看到失效边界。
想象一位写作者最初使用文字模型时逐句核对。几个月后，他发现某类格式整理非常稳定，便不再逐项检查标点，而把精力放在重要论断上。这个变化未必是懒惰，它可能是一种合理的判断重分配。但如果他把“格式整理可靠”直接扩展成“史料引用可靠”，信任就越过了实际学习到的边界。封装应当按能力和情境形成，不能把一个系统在某项任务上的成熟，转换成对其全部输出的整体豁免。
反复使用和检测因而非常重要。它们让信任有机会接触实际结果，而不是只由品牌、界面和语言气势产生。不过，重复本身并不是充分条件。一百次都在相同的简单任务中成功，可能没有触及一次复杂任务的关键困难。若使用者只记录顺利经历，不保存错误，所谓“久经考验”也会夸大证据。可靠性的形成既要看次数，也要看范围、反馈质量、失效代价以及是否存在被遗漏的情形。
这里还涉及一种容易被忽视的反向关系。工具的封装越成熟，使用者越少接触内部过程；接触越少，他越可能难以识别新的异常。便利和可见性之间存在张力。解决办法并不是永久打开全部细节，而是让必要的异常能够穿透封装：超出条件时给出信号，重要版本变化时提示重新校准，无法判断时允许暂停或回退。好的封装不是把复杂性藏得越深越好，而是让正常工作简明，让异常重新成为可判断的问题。
三、判断并不只有“对不对”这一种
我们平时说判断正确，往往指一个陈述符合事实。但实际行动还包含别的判断。冬瓜切成两厘米还是三厘米，未必只有一个绝对正确答案，它与烹调方式和食用者的需要有关。某段话是否有来源，属于事实问题；是否应放在入门章，涉及结构和读者；是否愿意公开一段个人经验，又牵涉价值与边界。如果把这些全部压成一个正确率，工具分工就会变得粗糙。
在SDE的讨论中，判断与价值评估及反馈相连。我们可以追问一种显露是否如实，某种路径是否适宜，某种持续发生是否值得。三方程可以提示关系解释，六路径可以提示行动次序；它们如何与真、善、美相联系，需要在具体问题里说明，不能据此把每一次判断机械分配给一种方法。不同价值之间的冲突也不会因列出三项而自动消失。
例如，模型帮助作者缩短一段文字。缩短后的句子语法正确、信息没有明显遗漏，却把作者原来的犹疑改成了肯定。若只检查事实词汇，修改可能通过；若检查论断的认识状态，就会发现失真。再如，为了减少篇幅删去反例，可能让主线更流畅，却削弱读者理解边界的机会。这里的判断需要同时考虑清楚、忠实、严谨和阅读负担，不能由单一的流畅度裁定。
判断还可能表现为暂缓行动，而不只是选择一个答案。编辑发现来源不明时，把句子标成待核，是一种已经发生的判断；用户决定先做小范围试用，再决定是否扩大，也是在组织证据进入的次序。若只统计最后有没有给出肯定结论，就会把这些动作误记为没有能力。工具设计因而需要使暂停、分段确认和保留多个候选成为可用状态，而不是不断催促所有问题立即收敛。
把判断拆开，是为了辨认具体工作，不是把它们永远分离。一个事实错误可能改变价值选择，一项价值目标也会决定哪些事实值得调查。作者要写“普通人能懂”的入门书，就会优先寻找具有生活辨认度的案例；案例引起误读，又会迫使他改变通俗化方式。判断因此是一个实际序列：当前评价改变下一步行动，行动的结果再改变评价。它不是站在过程之外的一次打分。
还应区别结果判断与机制判断。结果判断问这次输出是否可用，机制判断问为什么可用、在哪些条件下还能可用。一份偶然正确的答案可以通过前者，却不足以支持封装；一个经过充分检验的机制也仍可能在某次运行中失败。成熟使用者需要在二者之间转换。日常任务可以以结果抽查为主，出现异常或任务改变时，则应回到机制与条件。
另外还有对判断本身的判断：我为什么相信这项检查，检查者是否拥有所需信息，标准是否偏向容易量化的部分。它常被称为元判断，但不需要神秘化。编辑发现所有智能体都用相同的材料评价彼此，就会怀疑多次审查并没有增加独立性；用户发现自己的赞同使模型语气更确定，就会重新安排提问方式。判断的对象从一个答案，扩展到答案与评价如何共同形成的过程。
这些区分帮助我们走出“人负责价值、机器负责事实”的过度简化。人也会计算，机器可以帮助辨析价值冲突，二者都可能出错。更有意义的问题是：某一类判断现在由谁或什么装置承担，依据何在，结果怎样被检查，何时需要转换承担方式。分工应当跟着问题和证据形成，而不是先把世界切成两个永不移动的领地。
四、高铁乘客需要懂到哪一层
王德生以高铁乘客为例说明分层判断。乘客通常关心是否上对车、是否按计划到达、旅途是否顺利，不会在途中亲自计算车辆和线路运行中的每一个技术参数。大量更细层级的判断由专业人员、工程系统、监测装置和维护制度共同承担。乘客能够在较高层级活动，正因为细层工作被组织进一个比他个人更广的系统。
这个例子不能被误读为：只要乘客最后到达，过程中的一切就都已经得到充分判断。到达是重要结果，却不是系统可靠性的全部证据。也不能由乘客不知道细节，推出乘客没有任何判断责任。他仍要辨认自己的路线和需求，留意明确告知的信息，在具体异常中作出适当反应。不同层级承担不同问题，彼此连接，但不要求每个参与者复制其他所有层级的能力。
把同样思路移到AI写作。作者可以在某个已经验证的格式处理流程中，只检查最终版式是否满足要求，不必逐项查看每个转换命令。可是到了核心论证，他可能需要亲自辨认假设、推理和反例；到了自己不熟悉的专业事实，又需要借助可靠来源和具有相应能力的人。判断粒度随问题而变。它既不固定为逐字审查，也不固定为只看成品。
这里的“高层级”不等于高贵或更重要，“细粒度”也不等于低级。一个小数点可能决定重大结果，一项宏观方向也可能根本设错。层级描述的是组织位置，粒度描述的是辨认细密程度，风险描述的是错误后果，三者相关却不相同。粗粒度判断有时足够，有时会遮住致命细节；细粒度检查有时必要，有时只是让人耗尽注意力而看不见整体。
考虑一份书稿的标题页。作者姓名拼写错误，是一个很细的局部，却可能具有高重要性；一章用了不够优美的过渡句，可能更显眼，却不一定值得反复耗费精力。又如，全书把E解释为环境，是一个看似简短的术语问题，却会扩散到整个体系。有效的审查不能只按文字长短安排，也不能只按读者一眼能否看见安排，而要追踪错误会怎样传播。
分层判断因此需要两种通道。第一种是向下打开：当高层结果异常时，可以追到具体来源、步骤和条件。第二种是向上报警：当底层发现重要问题时，能够使高层目标或安排重新接受判断。若只有向下命令，没有向上改变，系统会把异常隐藏在局部；若所有局部都随时打断最高层，系统又会失去运行能力。何种情况需要升级，正是封装设计的一部分。
不同层级还可能发生相关错误。两个检查环节若依赖同一份错误材料，即使都报告通过，也未必增加多少保障。一个模型提出答案，再由同类模型只看答案的流畅程度进行评价，可能形成重复确认。独立性不是窗口数量，而是错误来源能否真正分开。对于关键事实，可以让一个环节生成候选，另一个直接面对原始材料；对于论证，可以让审查者先不知道作者偏好的结论，独立重建理由。这些安排仍有局限，但它们至少把重复同意与新增证据区别开了。
还有一种错位发生在信息压缩。底层报告“在目前样本内未发现问题”，向上传递时变成“检查通过”，再进入成品时变成“已经证明可靠”。每一级都只删去几个词，最后却把有限证据变成普遍保证。分层判断必须保存会影响上层决策的限定条件，不必传递全部细节，却不能删掉适用范围、尚未测试的部分和异常。这也是为什么好的摘要不仅要短，还要保留判断的性质。把不确定性全部留在底层，会让高层在最需要取舍时反而看不见它。
不必把这种设计想象得极其复杂。一个写作项目可以规定：普通措辞由编辑处理，涉及核心定义的修改进入概念审校，涉及作者重大立场的变更保留待审定。规则不是为了制造层层许可，而是为了使不同后果得到相应注意。随着经验增加，某些原本需要高层处理的事项可以沉入成熟流程；遇到新情况，也可以重新上升。灵活性来自清楚的边界和反馈，而不是临时凭情绪决定。
五、什么时候可以相信，什么时候应该打开
许多人想要一条简单规则：模型达到什么准确率，就可以不再检查。这个问题看似严格，实际上仍然缺少任务、错误类型和后果。同样的平均准确率，在草拟标题与处理关键证据时含义完全不同；相同数量的错误，如果集中在最重要的少数情形，也比均匀散落更值得注意。封装不能只凭一个总分形成。
更合适的起点，是明确自己正在依赖哪一项能力。不是“我信任这个AI”，而是“在这些材料和条件下，我可以依赖它完成这类整理，并保留这些检查”。这句话比整体信任笨拙，却更接近实际可靠性的结构。随着使用增加，依赖范围可以扩大；发现新的限制，也可以缩小。信任因而不是一次授予的永久资格，而是一种可修订的使用关系。
打开封装的信号有多种。任务进入此前没有验证过的领域，是一种信号；工具版本或输入形式显著变化，是一种信号；结果虽流畅却与独立资料冲突，也是一种信号；长期稳定的错误分布突然改变，仍是一种信号。这里没有声称所有信号都能被预先列完。重要的是使用者知道，正常经验不足以无条件担保新情境，异常也不必等到造成明显损失才获得地位。
有时信号来自人的理解困难。一个数学证明的每一句都似乎成立，整体却包含自己从未使用过的关键引理。读者不必因为“看不懂”就断言证明错误，但也不应因模型语气笃定就把它封装为已验证。可以把判断暂时分层：已核对的定义保持已核对，关键引理交由适当方法进一步检查，整个结论保留为待确认。这样的局部确定与整体不确定并存，比非黑即白的信任更精确。
封装也不是越晚越好。一个人对成熟的重复性操作永久逐项检查，会耗尽注意力，重要问题反而得到更少照看。合理省略是一种能力。它要求知道省略了什么、为什么可以省略、哪些情况使省略失效。毫无条件地省略是盲信，毫无区分地检查则可能是不愿承担取舍。发生学研究的，正是这种取舍能力如何在使用与反馈中形成。
必须承认，有些失败不会提前发出容易辨认的信号。没有任何检查安排能保证所有未知问题都变成已知问题。因此，封装的可靠还与错误能否局部化、能否回退、能否修复有关。在低影响任务中，允许试错可以帮助学习；在后果难以逆转的任务中，判断需要更稳妥的组织。这里是在说明一般结构，不以一本哲学入门书替代具体领域的专业规范。
读者也许会问，所有这些是不是常识。很多部分确实可以用可靠性工程、质量管理或日常经验来表达。SDE的贡献若要成立，不能靠重新命名常识，而要看它能否把装置的形成、使用者的信任、判断层级的变化和能力回写放进同一发生过程，帮助我们发现此前分开讨论时遗漏的关系。若在某项任务中没有新增解释或改进，就应当承认它只是另一种描述，而不是自动宣称超越。
六、让错误成为训练材料
想象一位研究者用AI整理参考文献。最初几次都很顺利，他逐渐减少核查。后来发现一篇文章的题名正确，作者却错了。这次错误有两种可能的后果。第一种是他愤怒地宣布AI不可靠，之后仍然一边使用一边抱怨。第二种是他追查错误发生在哪个环节：源文件本来就含混，检索匹配发生错位，还是生成过程把相似条目合并。后一种做法才可能改变下一次工作。
错误成为训练材料，需要保留它的发生条件。只记“曾经出错”，会形成笼统恐惧；只记“已经改正”，会丢失边界。更有用的记录是：在某类输入中，系统容易把相似题名误当同一篇；因此此类条目需要回到原始页面核对身份。这样，错误既没有被无限放大，也没有被当作偶然清除。它进入了使用规则，改变了封装的范围。
但错误记录也可能把人训练得过度保守。一旦某种失败特别鲜明，使用者容易对所有相近任务都保持同样警惕，即便新的安排已经消除了主要原因。合理学习既包括增加检查，也包括依据新证据减少不必要的检查。修复也要允许缓慢进行。某些变化只有在使用一段时间后才会显露，短期没有再出错，未必足以说明旧问题已经消失。可以先恢复较小范围的依赖，再依据相应反馈扩大，而不必在完全信任与完全拒绝之间一次跳转。若信任只能下降不能修复，工具就无法逐渐成熟；若信任总能被一句“已经优化”轻易恢复，学习又失去重量。恢复需要对应原来失败机制的证据。
这里涉及一个时间上的难题：成功常常安静，失败却非常显眼。一个系统顺利完成几百次任务，使用者可能不记得每一次；一次突出的错误，却会重写整体印象。另一方面，长期顺利也可能使人忽略缓慢积累的异常。判断的发生不只是收集信息，还涉及注意如何分配、经验怎样被记忆、情绪怎样影响下一步。SDE的自我世界视角在这里有用，因为人的信任并非一张没有历史的概率表。
不过，承认情绪参与，不等于所有判断都只能主观任意。我们仍可以把情绪引出的疑问转换为可检查的问题。对系统失去信心之后，问最担心哪类错误；感到特别放心之后，问这种放心来自哪些实际经历。把体验和证据连接起来，既尊重人的感受，也避免感受独自决定所有结论。工具也可以帮助整理记录，但不能把人的不安自动解释为需要被消除的噪声。
错误出现之后，另一个值得检查的对象是奖励方式。如果使用者只奖励迅速交付，系统和协作者就会倾向于把核查视为拖延；如果每一次报告不确定都招致责备，未知就更可能被掩盖。此时增加一句“务必诚实”很难改变行为。需要让报告风险、保留缺口和纠正旧结论也成为被认可的工作。判断力并不只靠人的意志维持，它依赖错误可以显露而不会立刻被羞辱的条件。这不等于对粗心免责，而是把诚实报告与应负责任分开处理。
具体到个人，可以先记录自己原本准备怎样行动，再看工具建议。这样做不是为了证明自己比工具高明，而是为了看见建议究竟改变了什么。有时工具补入了新依据，有时只是让自己的偏好听起来更有道理。若每次都先看工具给出的完整结论，人的初步问题可能被迅速覆盖，之后很难分辨接受来自理解还是熟悉感。保留短暂的独立判断，能够为比较提供材料；随后愿意改变它，才使比较进入学习。独立与合作在这里是相继发生的动作。
如果两次判断不同，还可以追问差异的位置。是事实材料不同，还是对后果的权重不同；是概念定义不同，还是对同一证据的解释不同。只有定位之后，增加信息才可能有效。价值分歧未必能靠更多事实直接消除，事实错误也不应被尊重多样性所遮盖。工具能够帮助把争论拆到这一层，人的任务则是确认拆分是否忠实于自己真正关心的问题。这样的训练，比反复要求“提高批判性思维”更容易进入日常动作。
训练判断还需要接触有代表性的困难，而不只是重复顺利任务。学习审稿的人应当看过结构完整但论证薄弱的文本，学习使用证明工具的人应当理解形式表达与原问题之间可能发生的错位，学习依赖AI的人应当识别来源真实但使用不当的情形。这里不要求故意制造危险，而是通过安全、可控的案例让边界显露。没有遇见过边界的熟练，容易被误认成熟。
反复使用、检测、评估和修正由此形成一条D。随着它运行，使用者看到的工具不再只是一个统一品牌，而是有具体强项、弱项和适用条件的能力结构；工具设计者也可能根据反馈改变产品。新的S进入后续使用，特征纠缠随之改变。可靠性并不是从天而降的属性，使用者侧的封装也不是一次宣传就能完成的认同。它们都是历史性的成就，因而也可能失效、重建和升级。
七、数学证明把问题推到哪里
数学证明是讨论AI判断时很有启发性的领域，因为它对推理有效性有明确而严格的要求。但严格不意味着只有一个层级。一个证明可能在形式系统中通过检查，同时仍需要判断形式化的命题是否准确表达原问题，采用的定义是否合适，结论有什么意义。把这些层级混在一起，就会在“机器已经证明”与“人必须全懂”之间来回摆动。
设想一个构造案例。一位研究者提出一个猜想，AI给出证明草案，随后借助形式化工具验证某个版本。这个结果可以很有价值，但报告时必须说清楚通过检查的究竟是什么。若形式化过程中把“对所有对象”改成“对满足额外条件的对象”，检查通过证明的是后者，不会自动替前者担保。问题不是工具无用，而是表达转换本身也需要判断。
同样，形式检查器的工作可以被封装，但这种封装依赖其自身被研究和验证的历史、使用方式以及所处系统。使用者无需每次重新审查全部底层机制，正如他不必每次从零证明所用逻辑规则；他却仍需要知道检查的范围与前提。这里不能根据哲学偏好贬低形式化，也不能因为形式化很强，就把选题、建模、解释和价值判断全部说成已经消失。
作者关于AI数学证明的思路，强调可靠性应当经历反复使用、测试评估和使用者侧封装的形成。这提供了一个时间性的视角：信任不是在人与机器之间一次性选边，而是在具体任务中逐渐形成可依赖关系。不同数学工作可能达到不同成熟度。计算核对、形式推导、概念建议与新理论方向，并不必然同步。若只用“AI数学”一个总名词评价，容易高估或低估某项具体能力。
有力的反对意见是：数学证明的正确性不由使用次数决定，一条有效证明第一次出现时就可能有效。这个反对是对的。需要区分命题的有效性与使用者对装置的合理信赖。反复检验不创造逻辑真理，但会帮助人判断某种系统是否稳定地产出、传递和验证了有效推理。发生学讨论若把这两件事混为一谈，就会误写成“用得多所以真”。本章明确拒绝这一替换。
另一种反对意见是：只要关键步骤最终都由机器检查，人就可以完全退出。对于某些已经规定好的任务，自动流程确实可以承担非常多的工作。但“完全退出”要说明退出的是哪一层、哪一段时间。谁规定待证命题，谁解释输出与原问题的关系，谁在失效时改变安排，这些仍然是可研究的实际问题。未来技术可能改变具体分工，本书不预设某个能力永远只能由自然人承担。它要求的是把当前依赖关系讲清楚，不用未来想象替代眼前证据。
对于入门者，这个案例最有帮助的地方，是看到判断可以在强工具的支持下变得更高层级，而不是因此消失。一个人可能不再逐行检查某类常规演算，却更需要清楚地表达问题、辨认假设、比较不同形式化方案。他的工作重心改变了。至于这种改变是否让他更强，仍要看他是否能够借助新的复合结构承担此前不能承担的问题，而不是只看他亲手写出的推导行数。
八、判断者也在被判断过程塑造
当我们要求一个人保有判断力，常常默认这个人已经具备稳定目标、充分知识和清晰价值，只需要防止机器夺走它们。实际情况复杂得多。一个初学者可能不知道该问什么，一个疲惫的人可能难以坚持核查，一个长期被评判的人可能只会猜测权威想听什么。判断者不是从过程外走进来的完整裁判，他也在同一过程中形成。
考虑一个学生学习写论文的构造情境。教师要求“提出自己的判断”，学生却不断寻找看起来最像学术判断的句式。他能说“本文认为”，能列出局限，能在结尾提出建议，却没有遇到一个真正迫使自己取舍的问题。如果AI进一步替他提供这些形式，作品可能更像论文，判断能力却没有获得相应发展。问题不是用了AI就不思考，而是整个评价安排把判断的外观当成判断本身。
要让判断形成，需要让学生接触真实分歧和后果。例如，给他两段都有依据却不能同时满足任务的解释，要求他说明在当前问题里更依赖哪一段，以及什么新材料会使他改变。随后真的引入一条相关材料，让他重新处理。这个练习的重点不在逼他坚持原观点，而在让取舍、依据和修订发生联系。AI可以帮助提出竞争解释，也可以帮助记录变化，但不能替学生伪造“我原先相信什么、后来为什么改变”的经历。
判断者的形成还涉及承受不确定性的能力。有些人遇到不确定就不断索取更多答案，有些人则迅速选择一个确定说法以结束不安。工具若总以肯定语气回应，会强化后者；工具若把所有问题都写成无限复杂，也可能强化前者。好的互动需要把不确定具体化：哪一部分尚未知，为什么未知，现在可以做什么，哪些行动应当等待。具体的不确定比笼统的“万事皆有可能”更容易承担。
在SDE的语言里，这涉及自我世界、理念世界与现实世界的相互牵动。一个人理解了新的概念，并不自动拥有在压力下使用它的能力；一次失败带来的羞耻，也可能阻断他本来知道的核查动作。判断教育不能只增加概念，还要调整行动条件与反馈方式。例如，允许报告“尚未确认”而不立即惩罚，才可能使不确定性诚实显露；只奖励确定答案，则会把判断者训练成掩盖疑问的人。
这里也有边界。不能因为判断受条件塑造，就取消个人的可修订责任。一个人可能受到压力，但仍有必要解释自己为何作出某项承诺；一个机构可能有不良激励，也不能用“系统如此”替每个行为开脱。发生学把条件带进解释，是为了寻找改变的可能，不是为了把责任蒸发。责任可以分层，改变也需要分层：个人习惯、工具设计和组织制度可能各有应当承担的部分。
由此，“人是判断中心”应被写成一项持续建设的要求，而不是已经天然完成的事实。这个中心需要材料、时间、可见的分歧、可以拒绝的权利，以及承认错误的条件。若一个系统只让人快速点击确认，却不给他理解关键问题的机会，人的位置只是形式存在。真正保护判断，不是把最后一句“由人决定”加在流程末尾，而是让形成决定的过程能够由人参与和改变。
九、价值发生学怎样修复判断
判断失误有时来自信息不足，有时来自方法不当，也有时来自价值关系已经失衡。一个机构只追求产量，就可能把准确性和人的成长降为次要；一个个人只追求不出错，就可能不再尝试任何新事。王德生提出从失真、失善、失美的发生过程追查问题，再实施弥补、修复和提升。本章把这一思路转成可以理解的分析，不把三个词当作自动分类器。
失真可以表现为证据与表述脱节。书稿把构造案例写成真实案例，把未完成测试写成已经验证，都会改变读者对论证重量的判断。修复不只是把几个词改软，而是恢复事实与认识状态之间的联系：什么做过，什么没做，哪些是引述，哪些是推论。工具可以帮助检查标记，但真正的来源仍然要能回到相应活动。一个漂亮的“研究限制”段落，不能替代对虚构结果的删除。
失善可以表现为路径与所关心的人的实际处境脱节。某个写作流程让产出翻倍，却把核查负担全部压给一个已经疲惫的编辑；某个学习系统使学生答案更漂亮，却使他越来越不敢表达未完成的想法。这里的“善”不只是善意，而是行动怎样影响相关者继续发生的条件。修复要改变负担与机会的分配，不能只要求参与者拥有更积极的态度。
失美则可以从意义和吸引力枯竭的角度理解，但也不能把它简单等同于视觉美化。一套严格的流程可能让人只剩防错，没有好奇；一部正确的书可能让读者感到所有问题都已被定死，没有继续探索的空间。若美在体系中与张力、可能性和幸福的发生相关，那么修复需要为恰当的未知和创造留下位置。它可能体现为一个真正开放的问题、一段能使读者重新辨认生活的叙述，而不是更多修辞装饰。
三个方向经常冲突。增加核查有助于守真，却可能耗尽时间；加快反馈有助于行动，却可能太早压制未成熟的想法；保留探索空间能够激发创造，却也可能延迟交付。价值发生学若只说真善美最终统一，就没有替具体判断做多少工作。必须问在当前阶段谁最容易受损，什么损失可以修复，什么代价不应被隐藏，以及是否存在重组路径而不只是三选一的可能。
例如，写作团队不必在“立即发表”与“无限审查”之间选一端。它可以先形成标明研究状态的可审读稿，保留来源和争议，邀请有针对性的反馈；成熟部分可以较稳定地呈现，开放部分保持开放。这是一种候选安排，不保证适用于所有出版情境，却展示了第三种思路：改变结果的类型和责任说明，使不同价值获得不同实现位置。判断并不总是从现成选项中挑一个，也可以参与生成更适合的选项。
不过，修复仍需接受后果检验。若所谓开放稿让读者误以为全部结论已经确认，标记就没有发挥作用；若反馈机制只是收集赞同，开放也会流于形式。价值主张不能因为措辞高尚就免于检查。SDE若把判断理解为价值评估与反馈，就必须让它自己的评价方式同样接受反馈。否则，真善美会从分析方向变成自我赞美的三个标签。
十、建立一份可以改变的判断安排
本章最后提出一个实践性的构造。它不是固定量表，也不是已经完成实证的通用模型。读者可以为自己的一项AI工作写一份简短判断安排：当前要得到什么结果，最重要的错误是什么，哪些能力已有充分使用经验，哪些仍在试探，正常情况下检查到哪一层，遇到什么信号需要重新打开。安排的价值，在于使原本含混的依赖关系显露出来，随后可以按经验修订。
以阅读一篇陌生论文为例。可以让工具先解释术语并列出论证结构，但把它当作初步地图；涉及论文作者实际说了什么，回到原文；涉及自己是否接受结论，比较前提、方法与反例；涉及要把结论用于重大行动，则进一步引入相关专业判断。这里没有按固定比例分配人和机器的工作，而是根据不同问题安排证据。随着熟悉度增加，某些步骤可以简化；题目发生变化，则重新校准。
这份安排还应当写明怎样处理不知道。许多错误不是因为没有能力查清，而是因为流程里没有给“不知道”留位置。系统被要求必须给完整答案，人被要求必须立即作决定，于是缺口被流畅文字填满。若允许某个小问题暂时待核，就可以让整体继续推进，同时不把未知伪装成已知。成熟判断不是任何时候都有答案，而是能使不同确定程度各居其位。
安排也需要一个结束当前检查的条件。没有停止条件，审查会无限延伸，人永远无法行动。停止并不表示真理已经穷尽，而表示在当前任务、证据和后果范围内，继续检查的收益已经不足以支持进一步投入。这个判断可能需要修订，因此应当与之后的反馈相连。今天可以使用，不意味着明天在新条件下仍然可以原样使用。结束一次检查与关闭未来修正，是两件不同的事。
当一个人这样工作，判断力就不再只是“我比机器聪明多少”的竞赛。它体现为组织可靠依赖、辨认异常、改变层级和保存反馈的能力。他可以把大量细节交给成熟工具，同时对尚未成熟的部分保持恰当关注；可以承认自己不懂某个专业问题，同时找到合理的判断通道；可以根据新证据改变信任，而不把修正看成丢脸。这样的能力由人和工具共同形成，也由持续的使用关系共同维护。
回到那块冬瓜。熟练的使用者没有把每一丝肌肉动作都放进显意识，也没有因为刀好用就闭上眼睛。他在动作中维持一个整体判断：器具怎样，材料怎样，自己的姿态怎样，结果是否符合需要。大部分历史经验已经封装，必要的差异仍然能够进入注意。这个平常场景并不能直接证明关于AI的一切，却给出一个清楚的方向：判断没有因为工具成熟而退出，它改变了所在的位置、展开的粒度和重新介入的时机。
AI时代需要的判断力，由此可以被看成一项发生中的复合能力。它既含人的现场辨认，也含工具中保存的历史选择；既含可以封装的成熟过程，也含不能预先写死的新问题；既含价值的评估，也含评估者自身的形成。我们真正要保护的，不是一个想象中从未依赖工具的纯粹判断者，而是人能够在复合关系中知道自己正在依赖什么、怎样修订依赖，并对与自己有关的重要发生保持实际参与的能力。接下来必须追问：当这种参与越来越依赖个人记录与智能体记忆时，人的个体性如何获得可以持续生成的空间？