一、把问题从谁更聪明移到能力怎样形成
前面几章讨论了思想创新的方法和智能体的设计。现在,一个贯穿始终的问题需要正面回答:当人、语言模型、工具和真实反馈共同工作时,究竟是谁在形成新的知识?如果只说机器创造,就可能忽略问题的来源、目标的选择和结果所处的生活;如果只说人使用工具,又可能低估工具对可思考对象、行动路径和判断方式的改变。本章选择从复合体的尺度继续追问。
这并不是要先把一切贡献归给一个新的名字。复合体有没有解释力,取决于它能否说清独立看人或机器时容易遗漏的联系。一个人原本只能逐篇阅读资料,现在能同时比较多个版本;原本很难表达的想法,经过模型提出的反例变得清楚;原本看起来合理的主张,在实际操作中失败,又迫使他修改概念。能力在这些往返中形成。最后的成果既包含人的选择,也包含工具所提供的可能性,以及现实与他人对它的限制。
SDE把这种形成理解为S、D、E互生的具体情形。S是能够被辨认和继续使用的新结构,D是从问题、试探、分歧到检验与修订的差异序列,E是参与其中的特征纠缠。不能把人、模型和成品分别固定对应于其中一维。人有自己的差异序列,工具具有其结构和适用条件,成品进入使用后又会改变原来的工作关系。三维分析的目的,是让这些变化同时进入解释。
这里需要保留一个边界。本书主张复合体是研究知识发生的重要分析单位,但由此不能不经论证就推出“历史上每一项知识都只能以同一方式产生”。知识、工具和发生的定义不同,命题范围也会不同。若把一切语言与身体习惯都称为工具,复合体论会覆盖很广,却也需要更严格地说明它排除了什么、比既有解释新增了什么。入门的第一步,是把强直觉变成可追问的关系,而不是用绝对词替它完成证明。
二、工具为什么可能成为能力的一部分
看一个简单的构造情境。两个人面对同一组数值,一个只能凭记忆口算,另一个能够在纸上排列、标记和改写。两人拥有的知识或许相近,实际可维持的推理过程却不相同。纸面保留了中间结果,使比较不必全部挤在短时记忆里;记号使某些关系变得显眼,也可能使另一些关系被忽略。工具既支持思考,也参与规定思考怎样展开。
再增加一个可以自动计算和作图的系统,变化不只表现为更快。原本过于繁重而不会尝试的比较,现在可能进入研究;新的图形会激发问题;错误设置也可能以精美结果掩盖错误。每一次工具改变,都可能改变人与对象之间的实际联系。但“可能”不能删除。某件新工具也可能只替换旧操作,并未产生新的能力;某次方便甚至会削弱使用者对关键过程的理解。
因此,需要研究构成作用的程度。撤去某个工具,工作能否继续?换成另一种工具,能力保留到什么程度?工具带来的改变,是效率提高、对象扩展、判断方式变化,还是三者兼有?这些问题可以帮助我们避免两个极端:把工具看成完全中性的外物,或者把任何使用行为都称为主体的根本重生。发生学要求看到具体改变,而不是预先给它安排最大规模的名称。
文字、数学记号和观测装置都可以成为这类分析的对象。但本章不以少数例子断言全部知识史,更不把过去的工具一律称为被动,把大模型宣布为历史上第一种能够自动运行理念操作的工具。不同技术早已承担过记录、计算和推演等工作。语言模型值得研究的具体特点,在于它如何参与开放语言中的解释、比较和候选生成,以及这种参与怎样重组人的活动。其历史分量需要分别研究,不能由宏大类比代替。
同样,工具参与能力形成,不意味着工具取得了与人完全相同的心理性质。一个程序可以完成推导任务,我们仍需另问它具有怎样的理解、目标和体验;这些问题不能由产出表现直接一笔带过。复合体的概念首先要求把能力放回实际组织,不要求把人和机器之间所有差异抹平。恰恰是保留差异,才有可能解释它们怎样共同工作。
三、人的方向位置如何落实
本书将人置于问题方向、意义判断和最终责任的重要位置。这是一项关于所设计系统的规范要求,也是一组需要实现的工作条件。它不等于已经证明一切未来机器都永远不能参与这些活动,更不意味着当前的人天然知道正确方向。人在生活中可能有真实关切,也可能有偏见、误解和不恰当目标。方向中心同样需要材料、反馈和他人的批评。
“嗅出裂缝”可以理解为辨认现有解释在哪里不够。例如,一位教师发现学生能够复述概念,却不能在新案例中使用。他把这种不满足带进研究,但不应立即把自己偏爱的理论作为唯一答案。模型可以帮助列出不同原因,已有研究可以提供比较,实际课堂可以限制候选。人的关切使问题获得重量,其他环节则帮助关切形成可研究的对象。
“称量意义”意味着结果不只被问是否像一个答案,还要被问对相关者有什么作用。一份教学方案可能提高表面成绩,却削弱学生的探索机会;一个自动系统可能节约时间,却让使用者无法理解重要决定。意义判断需要具体处境,也可以受知识和工具支持。本章不把它描述成一个永远不可分析的神秘内核,而把它看作应由相关者实际参与、且不能被空洞确认按钮取代的活动。
“设定方向”则是把模糊愿望变成能够组织行动的问题。它可以包括目标、限制、优先次序和允许修订的条件。方向不必一次设准,工作结果可能暴露起点的错误。一个好的复合体应当允许这种回写:不是所有执行都服务于保住最初目标,而是目标本身在必要时也成为判断对象。否则,方向中心就会退化为不受检验的命令中心。
还要区分“由人参与意义判断”与“只要人觉得有意义就成立”。一个人可能真诚地相信某种解释,也可能从中获得安慰,但这不自动使其中的经验主张为真。反过来,一项经过充分证据支持的结论,也未必立即符合个人愿望。三界相互牵动,不能让一界的满足替另一界完成检验。人的在场为问题带来方向和承担,同时仍需接受与问题性质相应的约束。
这些能力值得教育重视,但它们不是教育“唯一值得培养”的内容。阅读、计算、领域知识、身体技能、审美经验和与他人共同生活的能力,仍然可能构成上述判断的条件。没有足够知识,裂缝可能只是误解;没有基本表达能力,方向难以进入合作。AI改变教育重点,并不推出基础知识和技能失去价值。更合理的问题是,哪些知识需要内化,哪些可以借助工具,二者怎样共同支持持续发生。
四、“SDE化”是一种方法选择
本书使用“SDE化的人—机器复合体”这一表达,是指把发生学的提问和检验方式落实到共同工作中。人不只是背诵S、D、E三个字母,而是能够追问结构怎样显露、差异怎样推进、特征怎样纠缠;系统不只是复述术语,而是使候选、来源、反例、反馈和修订在流程中拥有明确位置。术语进入文本,与方法进入行动,并不是同一件事。
然而,不能由此推断所有没有采用SDE名称的人机工作都没有创造力。不同理论和实践传统也可能组织出有效的研究、设计和艺术活动。SDE要提出的是一套值得比较的组织法,其特定价值需要在解释与应用中显示。若任何成功都被追认为暗中使用SDE,任何失败又被归为不够SDE化,框架就会失去接受比较的机会。
比较可以从具体问题开始。面对同样材料,两种流程各自发现了什么错误,产生了什么可用区别,修订了哪些原先的假设?是否有一类困境,SDE的互生分析比单独检查结果更容易看见?它是否也增加了不必要的复杂度?这些问题不要求先完成对整个体系的终极裁决,却能把方法论主张拉向可观察的后果。
三方程在这一工作中首先是关系表达,提醒我们从另外两维追问当前一维的形成。六路径提示可以从不同主导次序进入分析,不是规定所有任务必须走同一条六步程序。流程中的猜想、执行、评估、反馈、修正和迭代,则是另一个层次。它们可以配合,不能因为都有“六”就混为一物。把层次说清楚,本身就是防止术语代替工作的必要条件。
三界回程也应当具体化。理念层面检查概念和论证是否成立,现实层面检查相应事实或行动后果,自我层面考察相关人的目标、体验和承担。不是每一类知识都以同样方式在三界获得证据;数学证明、经验模型和个人选择有不同要求。三界视角提供追问方向,不能把不同知识的有效性标准压成一张统一打分表。
五、架构如何从图纸进入工作
前章提出的智能体架构,可以在本章收束为一条工作线:形成问题模型,生成候选,让候选接受适合的检验,再把结果写回概念、流程和记忆。语言模型、检索、计算、观察以及人的判断分别承担哪些功能,应当依任务确定。并行系统可以拓展材料与候选,但多个窗口不等于多份独立证据,结果的可靠性仍要看检查触及了什么。
本书曾用“通电”“势能”“内能”等词说明方向、流程与材料之间的作用。作为发生学解释,它们能够提示:资料若没有问题组织,可能只是堆积;目标若没有执行路径,也难以产生结果。但不能由这些类比直接推出提示词、数据库与物理学能量具有同一量纲或已经建立了能量守恒式模型。若要作严格的物理或数学说明,必须进一步定义变量、测量方式与适用条件。
算力与系统组织也不是非此即彼。更强的模型可能改善推理、检索或生成,合理的流程可能使已有能力更稳定,两者可以共同进步。本书强调外部反馈与方向组织,是为了避免把系统的一切问题只归因于规模不足;这不等于证明模型能力提升毫无作用,也不等于否定其他工程方法可以处理相近问题。比较应当落到实际效果,而不是先为两条路线安排输赢。
一个具体的起点,是把每次重要输出分成可辨认的状态。材料支持到哪里,推论从哪里开始,方案有没有执行,执行后得到什么反馈,都应当使后续使用者能够区分。这样做不要求把所有内部过程无限展开,而要求关键承诺有对应依据。若系统报告“已验证”,就应当能够说明验证的对象和范围;若只得到一个合理候选,就保留候选的身份。状态的准确表达,是复合体可靠协作的一部分。
真正困难的是使接口接到相应对象。检索必须能回到真实来源,不能只生成看似可信的引文;工具必须执行了所声称的操作,不能用预期结果代替运行;人的意见必须能够改变安排,不能只在最后确认一个已经不可更改的结果。系统是否具备这些联系,要看实际记录和表现。图纸自洽,并不等于功能已经实现;一个局部演示成功,也不等于所有任务都已可靠。
因此,本章仍把总体架构保留为可评审、可实现、可检验的研究方案。可以先在小任务上试验,记录失败,比较替代流程,再逐步扩大适用范围。扩大时应重新核查原来依赖的条件是否仍在。所谓持续发生,不是永不停止地产出更多内容,而是系统能够从实际后果中修订自己,使下一次工作获得更合适的条件。
六、贡献、作者与责任不能混作一个问题
如果知识能力由复合体实现,那么成果应该归谁?这是一个重要问题,但不能只凭发生学分析直接推出法律结论。解释因果贡献、确认学术署名、安排经济权益和规定责任,属于相互关联却不同的层次。不同制度与具体情形需要相应依据,本章不以“真正作者是复合体”一句话替代这些工作。
一个研究结果可能依赖前人知识、合作者、软件、数据与仪器。承认这些依赖,有助于更诚实地说明工作怎样完成,却不意味着所有参与条件都以相同方式成为作者。人可以作出承诺、解释取舍和回应质疑,工具可能承担关键计算,材料提供者也可能拥有不同权益。区分贡献类型,比把荣誉全部归给孤立天才或全部溶进无名整体,更有助于形成适当安排。
本书可以提出一项认识上的要求:重要的工具参与和关键判断不应被故意隐藏。读者需要知道哪些内容来自原始材料,哪些是生成候选,哪些经过何种核查,哪些尚待验证。透明的对象是与评价成果有关的过程,不是作者全部私人生活。私人思想形成空间与公共论证的可检查性,可以通过范围明确的说明相互支持。
责任也不能因为分布而消失。某个错误由多个环节共同造成,仍需查明谁能够改变哪一环、谁作出了什么承诺、怎样修复后果。复合体分析可以帮助找到单人解释遗漏的机制,但不能成为“没有任何人负责”的借口。能力越依赖复杂组织,越需要把承担关系说清楚,而不是只用整体性把它们覆盖。
这一点也修正了“外包不掉的核”的表达。与其预先宣布一个永恒不可替代的零件,不如在当前任务里指出哪些功能必须保持真实承担:问题怎样获得方向,意义如何被相关者判断,异常由谁处理,结果由谁作出相应承诺。具体执行方式可以变化,承担关系则需要被显露。未来技术可能移动边界,本书应为这种变化保留研究空间。
七、留下可以继续工作的缝
人—机器复合体论仍有几个开放问题。首先是边界:哪些工具联系只是方便,哪些已成为某种能力的构成条件?不同任务和时间尺度可能有不同答案。若没有边界判断,复合体会无限扩大,最后把一切都包括进来,却难以解释具体差异。需要用撤去、替换和迁移等比较,逐步辨认关键联系。
也要问失败能否改变理论本身。如果一个认真采用本书方法的团队仍然无法形成有效解释,研究者应当检查是否是方法不适用、概念划分不够、评价方式失真,还是实施条件不足。不能总把原因推给使用者没有真正理解。方法允许失败进入自身修订,才与本书强调的回写保持一致。这个要求同样适用于本章:复合体解释若没有比单一因素解释多提供有用区分,就需要说明为何仍值得保留。
其次是检验:怎样区分真正形成了新能力,与只是把更多工作转交给机器?无工具测试可以提供一部分信息,却不能独自决定答案,因为成熟能力常常依赖外部装置。还要看使用者能否提出更好的问题、辨认异常、选择替代路径,以及在条件改变时重新组织工作。这些都是可以进一步研究的方向,而不是本章已经完成的测量。
再次是通用性:理念活动中的分析方式,能否直接移到实验、艺术或生活选择?若能,哪些关系保持,哪些操作必须改变?不能只因为都可以用S、D、E描述,就认定它们拥有完全相同的机制。相似性能够提供线索,领域差异仍需通过具体材料处理。发生学若要成为可用方法,就要同时容纳可迁移之处与不可简化之处。
最后是反身检验。本书自身也是作者、材料、工具与编辑活动共同形成的文本,但这个事实不自动证明本书的全部命题正确。任何理论都可以有复杂的产生过程,正确性仍要逐项论证。自我应用最有价值的结果,是使本书愿意暴露来源不足、概念冲突和未完成的验证,而不是把自己的存在当作自己的最终证据。
走到这里,读者可以把本篇的方向带回日常工作:不只问机器有多强,也问当前关系能够形成什么;不只问答案是否流畅,也问它经过什么检验;不只问人还剩多少工作,也问人怎样在新的条件下继续成长。SDE为这一转向提供一套分析语言和方法构想,它的价值需要在持续使用、批评与修订中进一步显露。
本章的收束因此不是宣布人机问题已经解决,而是把问题从两极竞赛推进到能力发生。人、工具与现实之间的联系可以被设计,也会产生未预料的后果;它们能够扩大可能性,也可能制造依赖和误解。成为发生的参与者,意味着愿意建立这些联系、辨认它们的限制,并在必要时改变它们。后续关于语言、意识、价值和数学的建构,将继续追问:这样的发生,怎样获得更清楚、更严谨的表达。