王德生、张琼 著 · 第398卷 · 修订版v3.0

← 本书详情第一章 用刀切冬瓜:究竟是谁在判断? →

导论 从一把刀开始,重写判断力的问题

一、我们为什么总把判断放在人这一边

一个人在厨房里,用刀切开冬瓜。我们通常会说,他判断了落刀的位置,控制了手上的力量,发现切得不合适以后又作调整。至于刀,它是一件工具,负责把人的意思执行出来。这个说法很自然,也便于交谈。但是,当我们试图用它解释判断力从哪里来、怎样发挥作用,以及怎样继续发展时,一个问题就出现了:切割过程中所有对差异的处理,真的都是这个人独自在头脑中完成,然后交给刀执行的吗?

不妨暂时保留人的目的与经验,只改变他手中的工具。如果原来能够稳定完成的动作变得迟疑,原来不必留意的情况不断显露,原先可用的处理方式不得不修改,那么,工具就不只是一个保持原样的意图的运输者。它参与了什么可以做到、什么需要关注、哪一种反馈值得采取行动。这并不意味着刀拥有一个看不见的大脑,而意味着对具体判断能力的解释,不能在划定人的身体边界之后就结束。

本书从这里提出一个工作命题:文明实践中的判断力,应当研究为在人与工具、对象及相关实践条件的互动中发生的复合能力,而不是一个已经完整的主体向外输出的一项孤立本领。人的感觉、经验和思考当然重要,但重要不等于包办了全部形成机制。工具所承接的结构和规则,也不能因为没有用语言发表意见,就从判断的发生史中被删掉。

这个命题之所以要从一把刀开始,是因为人工智能很容易制造一种错觉:过去的人独立思考,工具仅仅执行;现在机器开始说话,人的判断才第一次被外部力量触及。如果这个起点没有被检查,后面的讨论就很容易只剩下防守:哪些事情还必须留给人,哪些权限绝不能交出去,怎样证明人仍有最后决定权。我们需要讨论这些问题,但不能让它们掩盖更早也更基础的问题:那个能够使用工具、辨别差异、组织动作的人,本来是怎样形成的?

“人的判断+刀的封装判断”,是本书立题过程中形成的表达。它并不是给人和刀各安排一份独立心灵,再把两份心灵加起来。这个加号指向尚需展开的复合过程:先前被保留的取舍怎样进入今天的使用,今天的对象怎样使原有取舍显出边界,使用者又怎样在反馈中重新安排自己的动作。刀不是另一个偷偷裁决的主体;但切冬瓜的判断能力,也不是把刀从说明中删除以后仍然保持不变的一项东西。

二、一把刀能够承接什么

说刀承接了判断,首先需要澄清判断的存在方式。制作者对结构和材料的比较、使用者对效果的分辨、维护中对状态的检查,可以在工具的形态、规则和使用方法中留下选择性的结果。后来者拿起工具,不一定知道这些结果怎样形成,更不必重新经历每一次被淘汰的尝试,却可以在适用条件下使用已经得到支撑的安排。本书把这种以结构或规则继续参与当前任务的承接,称为工具中的封装判断。

这里的“承接”不等于完整保存。刀没有以故事的形式记住全部制造经历,我们也不能只看一把刀就重建它所有的历史。被保留下来的可能只是某些可用的区别及其实现方式:怎样的操作范围比较合适,哪些约束不能取消,什么状态需要维护。完整的历史资料仍要另行研究。封装是一种选择性的保留,不是把过去原封不动装进一件物体。

这种保留也不是永久有效的保证。一个结构曾经通过检验,只能在相应任务与条件中提供使用依据。新的对象、不同的操作者或新的目标,可能让原来的安排不再足够。因此,封装至少要被放在两个时间尺度上研究:它怎样在先前实践中形成,以及它怎样在当前互动中重新发挥作用。少掉第一个尺度,工具仿佛从来就是现成的;少掉第二个尺度,封装又会被误认为无论怎样使用都自动正确。

这也帮助我们重新理解熟练。一个熟练使用者没有在每个瞬间把全部条件重新念一遍,不意味着全部条件已经消失。某些差异的处理进入了动作的组织,某些检验由工具结构或其他安排承接,某些异常仍然能够把注意重新拉回来。熟练需要被解释为一种选择性的展开与承接,而不是意识活动越多越好,或者意识活动越少就越高级。

为了避免把任何物理作用都说成判断,本书还要保留一个严格的问题:某一结构到底承接了什么可辨认的取舍,它在当前任务中怎样参与反馈,改变这个结构以后又会出现什么不同?一块物体阻挡了另一块物体,只能先说明物理作用。只有进一步说明它怎样进入任务的价值区分、怎样被使用和修订,封装判断这个概念才可能获得比普通因果描述更多的解释内容。这个义务适用于刀,也同样适用于人工智能。

三、判断的核心不是最后拍板,而是价值评估与反馈

本书所说的判断,不只是把一个命题归为真或假,也不只是对一个结果说满意或不满意。它是在具体运行中,对价值进行评估,并使评估能够返回运行、形成修改与再次检验的活动。判断力则是组织这些活动的能力。它可以包含语言表达,也可以通过比较、操作和检查来实现;是否说出一句完整评语,不是判断是否发生的唯一标志。

按照本书采用的SDE方法论,三方程对应运行的真,六路径对应运行的善,三原理对应运行的美。这一对应不是把知识交给真、技术交给善、艺术交给美以后,各自只管一项。知识活动、技术活动和艺术活动都有必要接受三类价值评估,只是具体对象、依据和侧重不同。刀具案例首先是技术活动,也不能因为它看起来简单,就只用“切开了没有”包办全部价值问题。

S、D、E分别指显露、差异序列和特征纠缠。它们不是把人、动作、物体换成三个字母;尤其不能把S固定解释为主体,把E降为不参与发生的背景。在切割情境中,可以选择不同层级观察:当前切割状态怎样显露,尝试与修订怎样前后承接,人的经验、工具状态、对象特性与任务要求怎样互相制约。三方程的作用,是要求这些关系得到检查,而不是写出三个符号就宣布任务已经解释完毕。

价值发生学进一步提出,发现失真、失善、失美之后,仍需追查其发生条件。规范与模态、优化约束与能量、意义与信息、路径与三界,构成四种相互关联的诊断截面。[R1] 本书借助它们展开具体问题,但不把它们变成对每个案例机械套用的四张表。诊断必须说明不同条件怎样在此处发生牵连,以及改变哪一处有理由改变当前结果。

例如,一次任务做得不合适,可以先被描述为结果不理想。但它可能源于工具状态发生变化,可能源于目标表达含糊,也可能是检查机制根本没有把关键差异传给能够处理的人。如果不加区分地要求使用者“更用心”,反馈就可能压在错误的位置。判断的进一步完成,需要让问题进入可以改变的环节;修订后的结果仍不理想,还要反过来修改最初的诊断。价值评估和发生诊断因此组成一个可继续运行的过程,而不是一次宣判。

四、封装有一段发生史,也有一次次重新发生

在讨论中,高铁提供了一个与刀不同却能够相互照明的思想实验。设想一套运行系统尚不稳定,乘客不断被异常感受拉回同一个问题:这段路能否可靠完成?他每分钟担忧一次,不意味着自己掌握了工程检测,而意味着这段过程还不能在他的活动中成为可暂时放下的整体。高频担忧与细粒度专业判断不是一回事。这个设想用于分析判断关系,并不作为早期高铁事故状况的历史记载。

继续设想,系统经过测试、评估与修正,能够承接相应变化;这种能力又通过使用经验与可信反馈进入乘客的预期。乘客才可能把这段运行作为一个可使用的行动单位,转去安排到达后的事情。变化并没有全部消失,运行中的检查也不能停止;改变的是哪些问题需要由乘客持续展开,哪些已经由复合系统承担。工程侧的可靠性形成与使用者侧的整体调用,在这里需要分别解释又彼此衔接。

王德生对GPT的自述提供了另一条经验线索:2023年,他基本都会查看每次问答的输出;随着使用中感受到的稳定性提高,他逐渐形成封装,不再每句都去阅读。这个陈述首先报告的是审阅与使用方式的变化。它不自动证明模型在所有领域的客观正确率,也不说明从此不再核验。它值得研究之处,在于过去的一次次判断怎样进入后续预期,使每次使用不再从零开始。

这里还可能存在错位。系统有所改善,使用者却尚未获得相应证据;或者使用者已经习惯顺畅表达,底层能力却没有达到其预期。因此,封装成熟不能仅以“人放心了”来判断。需要同时检查实际能力、使用范围、证据传递以及异常的重新显露。一个恰当的封装允许使用者不逐句看,却不能让关键错误因此没有任何识别和处置的路径。

从文明积累的角度,本书据此提出一个需要逐案研究的历史命题:工具发展的一个重要方面,是将反复互动中获得支撑的取舍组织成可传递、可调用的能力,使后来者不必重走全部试错史。这个命题不要求每位使用者亲自经历无数次检测。恰恰相反,专业检测、教学和维护等安排可以参与传递。但传递应保存适用边界,而不是只传递一个“放心使用”的结论。

五、AI改变了什么,又没有从零发明什么

从刀具进入AI,不意味着两者的内部机制相同。刀具以较稳定的结构参与当前动作;生成系统还能参与提问、表达、提出候选路线及修改内容。它带来的判断组织问题,需要分析其实际能力和工作流程,不能因为两者都叫工具就抹去差异。本书强调连续性,是为了纠正“复合判断刚刚出现”的起点;强调差异,则是为了避免用一把刀的类比替代对AI的具体检验。

最需要警惕的一种移位,是把此前位于人脑边界的绝对判断权,原样搬给一个黑箱。工具参与判断,并不等于所有输出都可以整体接受;复合能力成立,也不等于各个参与者必须拥有相同地位、相同意识或相同责任。不同机制应按其实际承担的工作接受检验,不能因为它能表达理由,就把理由表达当成已经完成的验证。

数学证明使这种区分特别清楚。Lean等证明助手区分复杂的证明构造与较小内核中的检查;研究者还需要核对被检查的形式命题是否表达了原来要研究的问题。[R3] 这个例子说明,判断可以由不同机制承接,但不能把一个环节的通过标记推广成全部研究目标都已实现。生成、检查、语义对照与研究方向判断,具有相关却不相同的依据。

因此,AI数学证明成熟所需要的,不是让人越来越快地逐行读完更多输出,而是形成按任务分层、能够改变粒度、保留依据并追查缺口的复合系统。某类局部过程获得支撑,可以先形成局部封装;新的任务越过边界,就重新展开。历史成功支持使用工具,当前命题的证明支持接受当前结论。这两个层次可以互相促进,却不能互相冒充。

这一方向与延展心智等研究存在接近之处。Clark与Chalmers已经讨论外部媒介在耦合认知系统中的构成作用。[R2] 本书不能把“工具参与认知”宣布为一个没有前人的发现。它需要进一步说明,历史判断怎样被封装、价值受损怎样被诊断,以及粒度转换怎样形成不同的修复或新能力。只有在这些具体问题上给出增量,发生学才不只是另一套说法。

六、复合判断力不保证进步,却使进步有了可以检查的条件

承认判断力发生于复合体,并不等于赞美一切复合。新的工具可以使某些判断得到承接,也可能掩盖条件、强化错误或让反馈无法抵达。一个运行越来越稳定的系统,也可能稳定地服务于有问题的标准。因而,稳定性不能替代价值评估;在固定目标下表现良好,也不能免除对目标与判断标准自身的检查。

同样,把更多任务交给工具,不自动证明人的能力提高。需要进一步观察,原先被释放的注意是否进入了更大的问题,使用者能否识别新任务超出旧封装的边界,以及出现异常时是否存在可行的重新判断路径。一个人能够在需要时调用适当的复核系统,可能比坚持独自重算每一步更合适;但找不到任何复核路径时,最后由人点击确认也不会自动补上缺口。

本书把这种组织方式称为分层不同粒度的灵活判断机制。层级说明任务之间的承接关系,粒度说明当前展开什么差异,频率说明检查发生多少次。三者不能混用。灵活改变的是判断的位置、展开程度和承担方式,不是把成立标准变得随意。一个数学缺口不能因为处于高层讨论就被算作证明,一项价值损害也不能因为底层过程复杂就无人承担。

复合能力的发生还有一个特别重要的结果:判断者可以在过程中改变。一个人借助已经可靠的符号、工具和工作流程,可能进入以前不能组织的问题;新的问题又迫使他拆开旧封装,学习新的辨别方式。这里不是说每次使用都会升维,而是提出一种需要检验的可能:封装既可能保存已有能力,也可能成为新能力的发生条件。失败、修复与反例都应该进入对这种可能的研究。

七、本书怎样开始,又怎样接受反驳

判断力的检验也因此需要明确测试条件。把工具撤去以后考察一个人,能够了解他在该条件下仍有的能力,却不能把这一结果直接当作原复合任务的全部能力。反过来,只展示人与工具共同完成的漂亮结果,也不足以说明人已经学会了什么。可以分别研究独立完成、借助工具完成、工具变化后的适应以及陌生任务中的迁移,再说明不同结果支持的是哪一种能力判断。这样的区分,使个人学习与复合能力都能被认真研究,而不必牺牲其中一方来证明另一方。

本书按照从小案例到一般机制、从价值诊断到具体检验的顺序展开。第一编先在刀、人和对象的互动中澄清复合判断;随后展开三方程、六路径、三原理以及价值发生学;再研究封装、分层与粒度转换。数学证明、知识生产、技术系统和艺术表达承担不同的检验任务。最后讨论学习、智能体设计和文明积累,而不是在抽象定义之后直接宣布实践问题已经解决。

贯穿全书的证据纪律,是区分作者经验、思想实验、文献事实和本书提出的解释。切冬瓜不是已经完成的认知实验,高铁设想不是事故史,王德生使用GPT的经历不是所有使用者的统计结论。历史工具的具体发展需要史料;系统改进需要可重复的记录;数学断言需要相应证明。这些区别不是对发生学的外部限制,而是判断力理论必须对自身承担的要求。

同样,本书允许自身的重要主张被限制。如果在某类任务中,普通流程已经能够完整解释并修复问题,新增的发生学分析却没有带来不同发现,就应当承认增量不足。如果一个所谓封装无法指出承接了什么判断,只是在命名工具有用,也应缩小概念。若拆封机制增加成本而没有改善相关价值,就应修改设计,而不是把所有负面结果都归为使用者尚未理解理论。

从一把刀开始,本书要改变的不是日常说话时“我会切菜”的方便表达,而是这种表达背后被省略的能力发生。我们仍然可以赞赏一个人的熟练,也仍然可以要求他承担应负责任;与此同时,需要看见熟练所依靠的历史承接、当下反馈与新判断的形成。主体的贡献不因为复合而消失,工具的贡献也不因为沉默而不存在。

本书的出发点由此可以说得很简单:不要先设定一个已经拥有完整判断力的人,再问工具怎样替他干活;先进入一次真实或可以明确分析的共同活动,看判断如何在其中获得依据、形成差异、接受修正,并逐渐成为能够继续使用的能力。AI时代的判断力问题,正从这里重新开始。

← 本书详情第一章 用刀切冬瓜:究竟是谁在判断? →