SDE思想体系入门 · 395
第19篇 · 复合判断与主体性的保护
第78章

人机复合体如何工作:从智能体分工到共同发生

王德生 著 · 在全文中阅读
本章小节 · 10

一、六个窗口打开之后

设想这样一个写作现场。这是为解释方法而构造的情境,不是对某次真实出版工程的验收记录。一位作者准备写一本大型思想入门书。他有一部已经成形的旧稿,还有数百种分散在网站上的专著与论文。书要让新读者读懂,又要容纳体系的更新;既不能把旧书拼在一起,也不能只用最新的几个口号取代全部发展过程。他打开六个智能体窗口,分别安排理论、科学、教育、艺术、社会、人工智能六个方向。不到一天,六份文字陆续回来。每份都很完整,都有漂亮的标题,也都声称自己抓住了体系的核心。

问题恰恰在这里开始。第一份把E解释成环境,第二份把它解释成关系网络,第三份坚持它是特征纠缠;有的把六路径写成六步操作,有的把变化理解为时间中的改变,有的采用variation意义上的多样性。几份文章各自流畅,放在一起却不像同一本书。同一个案例在三个地方重复,同一个重要争议反而无人负责。负责科学的智能体默认价值由哲学部分解释,负责哲学的智能体又默认技术部分会交代AI是否能够创造。最后得到的不是一个完整体系,而是六个局部完成的自我报告。

这个例子把“并行”与“共同发生”的差别摆到桌面上。并行首先是时间安排:本来一个接一个做的工作,现在同时做。共同发生则涉及参与者和问题本身的改变:一个组的发现能否迫使其他组修改自己的理解,某个局部错误能否改变全书的规则,最后形成的结构是否具有单个分稿没有的解释能力。六个窗口可以节省时间,却不会仅仅因为窗口多,就自动产生后一种效果。

从SDE的角度,我们不能只问每个智能体写了多少字。要同时追问:最后显露的作品是什么,它经过怎样的差异序列形成,参与其中的特征如何纠缠并持续改变。这里的S不是一叠排版整齐的纸,而是能够被辨认、使用和检验的成书结构;D不只是任务清单,而是问题提出、证据进入、解释碰撞、修改与再检验的实际序列;E也不等于工作群或电脑网络,而是作者的概念、材料的限制、读者的困难、智能体的能力、出版要求等特征在这一具体工作中发生的相互牵制。它们不是三个独立仓库,工作进行时会一起改变。

例如,教育组在旧稿里发现“材”被写成入学前已经完成的能力,最新文章却把它理解为可以继续发生、甚至在人机复合中重新发生的能力。这不只是补进一个新定义。它会改变全书如何解释主体,改变教育案例的顺序,改变人工智能部分对人的能力的讨论。新的S回到工作过程里,重组D;它又使原来被放在边缘的婴幼儿发生学、工具史和个人经验进入E。所谓回写,在这里有具体可查的痕迹:哪些章节被改了,为什么改,改后解决了什么矛盾。

因此,一个大型人机项目的第一项工作,往往不是让更多机器开始写,而是让参与者能够看见同一个问题的不同后果。共同问题不是一句总目标就能建立的。全书五十万字是数量边界,不能代替知识目标;“高质量”是期望,不能代替读者将获得的能力。需要先提出更具体的问题:读完后,一个此前没有学过SDE的人,是否能解释一个案例中的显露、差异序列与特征纠缠,是否能发现自己的分析把E偷换成背景,是否知道哪些命题仍待论证。这样的目标,才开始改变各组写作时做出的选择。

二、工具进入行动之后,谁发生了改变

人和工具一起完成事情,并不新鲜。纸笔帮助计算,地图帮助旅行,显微镜改变观察,乐器参与演奏。我们平时把这些都叫作“人使用工具”,这个说法对于指出谁拿着工具、谁承担任务,通常足够。但它也可能遮住一件事:工具改变的不仅是动作的速度,还可能是行动者能够辨认的问题、能够维持的过程以及能够形成的能力。

想象一个人只靠记忆比较十篇文章。他需要不断记住已经读过的内容,许多细微差异来不及稳定下来,就被后面的文字覆盖。现在他可以把段落并排放在屏幕上,标出关键词,保存每次修改。外部记录改变了他实际可进行的比较。后来又加入检索工具,他不必凭印象判断某个说法是否早已出现,可以直接回到来源。再加入能提出竞争解释的模型,他获得了更多候选,但也面对新的问题:候选是否准确,差异是否只是措辞,判断是否被流畅性诱导。能力随装置增加而改变,困难也随之改变。

SDE的人机复合体论要求把这一整体变化作为研究对象。它并不要求我们相信电脑拥有和人一样的体验,也不要求把所有责任平均分给机器。它提出的首先是一个分析尺度:当一种能力只有在人、符号、操作规则、工具和反馈彼此配合时才能稳定出现,解释这种能力就不能只盯着人的头脑,也不能只报出模型的参数。究竟哪些联系具有构成作用,需要根据具体任务检验,不能由“复合体”三个字包办。

可以做一个简单的思想检验。撤去文本检索,只保留生成模型,全书仍然可能写得流畅,但引用和版本辨认会明显困难。撤去分歧记录,保留检索,各组能够找到文章,却可能反复争论同一个已经解决的问题。撤去作者的修订意见,保留所有机器,系统可能构成一部内部整齐的书,却未必是作者正在发展的思想。撤去读者试读,作者和智能体也可能把彼此熟悉误当成人人能懂。每次撤去一种联系,都应当问实际能力发生了什么变化。这样的减法检验,比宣告“整体大于部分之和”更有内容。

不过,减法检验仍不足以证明每一个被保留的部分都不可替代。某个作者的判断可以由另一位熟悉体系的编辑部分承担,某个工具可以更换,某段反馈也可以来自另一组读者。复合体不必被理解为一套永远不能拆换的固定配方。它更像一个有条件的组织:关键功能要有人或装置承担,而承担方式可以重组。若把某种当前组合说成唯一可能的组合,发生论反而会被写成配件目录。

这种理解也使我们重新看待“主体”。在日常和制度语言中,作者、编辑和读者仍然是可识别的人,他们的权利与责任不会因为使用工具而消失。在发生学分析中,我们还可以问,能够完成这项工作的行动单位如何形成。两个层次并不矛盾。说写作能力由复合体实现,是在解释能力如何出现;说作者对署名内容负有相应责任,是在规定谁可以承诺、谁必须回应。不能借前一个判断把后一个问题稀释成“大家都有一点,所以无人负责”。

同样,承认工具具有构成作用,也不等于每一次使用工具都产生一个宏大的新主体。打开计算器算一次账,可能只是沿用成熟的能力;长期与工具共同发展新的表示方法和判断规则,才可能出现更深的重组。复合程度可以不同,回写程度可以不同,稳定时间也可以不同。入门者最需要学会的,不是到处宣布主体诞生,而是指认原来的行动单位在哪些方面已经不够解释当前能力,以及新的解释多说清了什么。

三、从语言材料到可以工作的模型

《SDE智能体导论》把语言模型放在人机复合发生的结构中考察,其特别关心的不是模型能否产出一段像答案的话,而是它如何与问题方向、工具和现实反馈一起工作。书中把模型理解为丰富的语言材料场,强调材料与能够运行的世界理解之间存在距离。本章沿用这一问题意识,同时把关于具体模型能力的强断言保持在可检验范围内。不同系统、不同任务以及不同工具配置,不能只凭一个统一标签裁定。

回到写书情境。作者要求解释“判断力”,模型很快给出定义、分类和培养方法。它可能谈到批判性思维、信息筛选、情绪控制,内容未必错误。但是,这份回答是否触及本书的问题,要看它有没有处理“判断本来就是人和工具共同实现的能力”这一特殊命题。若它仍把人的判断装在一个孤立主体里,再在旁边加上AI辅助,语言虽然全面,结构却没有进入任务。

因此,工作开始时需要一个临时的问题模型。它至少说明本次要解释什么、哪些概念已经规定、哪些地方还存争议、什么材料可以进入、什么结果可以使我们修改原理解。临时二字很重要。这里不要求先造出一幅完备世界图景,才允许动笔;恰恰是因为问题没有完全弄清,才把当前理解显露出来,使之能够被后面的材料改写。模型若只能积累支持而不能变形,就只是一道筛选器。

在本章的构造情境里,初始问题模型可以这样表达:普通人使用AI判断文章是否可靠,常在两个极端之间摆动,一端是逐句亲自验证,另一端是因为过去多次好用就全部交付。我们要解释第三种可能,即依据风险、成熟度和异常信号,灵活调整判断层级。所需材料包括工具的使用史、具体错误、用户改变审查方式的过程,以及把“判断”全部归给人的竞争解释。预期产物不是一张永远适用的比例表,而是一套可以帮助读者定位当前判断责任的分析。

有了这幅暂时图景,检索就不再是漫无边际地搜“判断力”。一个智能体可以寻找作者对封装的说明,一个核对旧稿是否保留了不同版本,一个专门构造会使分层方案失败的情境。来源也获得不同位置:作者原文用于确认概念,外部资料用于检验外部事实,构造案例用于显示逻辑后果。三者不能互相冒充。一个对作者思想解释得很忠实的段落,并不会因此自动成为关于世界的经验验证。

模型在这一过程里可能提供重要帮助。它可以提示被忽略的变量,把长段文字转换为可检查的命题,也可以把一个初步设想推到意想不到的后果。这些操作是否称为创造,在不同理论里存在争议。本书不必先解决所有关于机器创造性的终极问题,才能判断眼前工作有没有新增理解。更有效的办法是记录变化:此前哪些区别没有出现,现在出现了;这些区别靠什么形成;它们能否解决原来的困难。这样既不会因为生成出新词就夸大创造,也不会因为机器参与就预先取消产物的价值。

S、D、E在这里是一组相互询问的方向,而不是三个技术模块的名字。不能简单把人叫E、模型叫D、文件叫S。人有其显露和差异序列,模型运行也有其条件与结构,文件进入阅读之后又会参与新的过程。采用SDE分析,是为了避免把复杂互动固定成一张角色对应表。三方程的关系记号提醒我们互相依赖,至于具体依赖能否测量、能否写成可计算函数,需要进一步定义,而不是在字母旁边添一个等号就完成了。

四、任务怎样拆,整体才不会丢

一个人机项目若完全不拆分,会被材料规模压住;若拆得过细,又容易失去整体。选择怎样拆,不是纯粹管理事务,因为划分方式本身已经包含了对知识结构的理解。按学科拆,便于利用现有专长,却可能把跨域命题分散;按概念拆,能统一术语,却可能让读者只看到抽象定义;按实际问题拆,叙事容易进入,却可能把同一理论反复讲很多遍。

本章的写作工程可以采用两种划分互相校正。一种是纵向主线:从发生问题、核心概念、方法到应用及边界。它保证读者先得到必要的理解,再进入复杂问题。另一种是横向检查:每一条重要概念在各章中怎样使用,哪些地方重复,哪些地方变义。前者主要负责阅读顺序,后者主要负责概念一致。两种工作可以由不同智能体承担,但必须在同一份可追踪的稿件上汇合。

还有一种常被忽略的分工,是决定各组交换什么。只交换最后结论,下一组就看不见结论成立的条件;交换全部工作记录,又会使接收者无法辨认重点。比较合适的交接至少包含当前判断、关键依据、最强疑问和需要对方承担的下一步。它不必很长,却必须把开放处显露出来。例如,某组交来“主体性在互动中形成”的段落,还应说明这里讨论的是能力的发生、第一人称体验,还是制度上的主体资格。三种意思需要不同的证据。交接把区别保留下来,后续作者才能接着思考;若只留下抽象结论,彼此误解就会在流畅接写中被放大。

任务单也要写出交付之间的关系。给某组一句“写人工智能”,它可能自行决定篇幅、术语与论证范围。更有效的任务是说明:本章需要回答哪一个问题,已经由前文解释过什么,本章应当新增什么,以及下一章将接走哪个未解问题。例如,本章解释复合体如何组织工作,下一章解释判断如何分层,再下一章解释人在这种复合中如何保有个体性。三章彼此相邻,却不应该每章都重新写一遍AI发展史。

然而,过度精细的任务单也有危险。如果总编提前规定每一节要证明什么,智能体只能寻找填入空格的材料,新的发现就很难改变结构。任务单应当同时保留一个反向入口:执行者可以指出题目设错了、概念在来源中发生冲突、预定结论得不到支持。这个入口必须能真正改变安排。如果所有异议最后都被要求“按原提纲完成”,所谓开放只是礼貌措辞。

假设隐私组发现,旧提纲把隐私写成数据不泄露,最新作者主张却把它理解为个体性保护的发生。它应当有权提出:本章需要先讨论一个人如何拥有试错、暂缓共享、保留未完成思想的空间,数据控制只是其中一类实现。总编此时要判断这是否确有来源,是否与全书框架相容,是否需要作者审定。通过后,判断章也要调整,因为把用户要求公开所有内部过程当作可靠性的充分条件,可能与个体性的生成空间发生冲突。

这就是整体通过局部反馈改变自身的过程。局部任务不是被动拼图块,整体也不是提前完成的图画。两者在过程中形成。不过,并非每一次反馈都值得改全书。某组提出的变化可能只是偏好,可能没有解决任何问题,可能使结构更乱。因此,还需要保存修改理由:它修复了哪一处矛盾,引入了什么代价,为什么优于保留旧结构。没有理由记录,反复调整就会退化为最后说话者获胜。

对于入门书,读者的认知负担是重要限制。同一个术语在专业论文中可以快速调用,在入门文本里却需要逐步建立。并行组如果只对自己的专业读者负责,最后成书会忽难忽易。总编的工作因此不是把段落音色磨成一样,而是保证概念引入有台阶,例子承担了真正的解释任务,读者不会被要求用尚未理解的概念去理解另一个新概念。统一的是必要关系,而不是每一章都使用相同句式。

五、让不同意见真的碰到同一个问题

并行组之间的差异,可能来自知识背景,也可能来自任务安排,还可能只来自随机措辞。只有把这些差异拉回同一个可判断的问题,碰撞才具有认识价值。三份答案分别赞成SDE,并不构成三份独立证据;三份答案互相反对,也不自动构成深刻碰撞。我们要看它们究竟在哪一个前提、推理步骤或观察结果上分开。

例如,对于“人机复合体让人变强”这一命题,第一组举出产出速度增加,第二组指出用户离开模型就无法解释自己的文章,第三组强调人与工具本来就不能完全分离。三种说法看似矛盾,实际可能在谈不同对象:第一组衡量复合体的产能,第二组衡量自然人在特定无工具条件下的能力,第三组反对把无工具表现当作唯一标准。若不先区分被测对象,争论会在“强”这个词上空转。

把问题进一步限定之后,差异才会变得有力。我们可以问:在允许使用相同工具的情况下,经过一段共同工作的人,是否更会提出问题、发现异常、选择来源和组织反馈;在暂时撤去某个常用工具时,他是否有替代路径;当工具意见与自身经验冲突时,他是否能说明取舍。这里不预定答案,也不假装这些指标已经完成实证,它们只是使“变强”开始拥有可比较的含义。

竞争解释也应当获得最佳版本。一种解释说,成果提升只是因为模型替人做了更多工作,并没有使人的能力改变。另一种解释说,学习来自阅读了大量材料,与SDE组织方式无关。第三种解释说,任何认真管理的团队都可能得到同样结果,因此成果不能专门归功于SDE。若本书只反驳“人脑必须孤立完成一切”这样的弱对手,就无法回答这些真正有力的问题。

要区分上述解释,可以设计比较,但设计本身并不等于结果。不同团队可使用相同材料与相近工具,分别采取常规分工和明确记录S、D、E回写的流程,再比较哪些问题被发现、哪些修改保留、付出了多少成本。比较也会受到经验、动机和评价标准的影响,不能只用一次成功案例宣布普遍优势。入门书提出这条路径,是把论证交给未来的实践,而不是为框架预支证明。

在日常工作里,没有条件进行完整研究,也仍可以做有价值的小比较。将某个关键段落先按原流程处理,再暂时撤去一个新增环节,看具体风险是否重新出现。比如撤去“来源阶段”标记之后,读者是否把早期SIO与后期SDE的关系读成矛盾;恢复标记后,是否能理解理论的变化。这种局部检验不能证明整个体系,却能说明一个具体设计是否有用。每解决一个小问题,复合体就获得一小块可靠的工作知识。

还应警惕一种反向僵化:为了制造碰撞,故意安排一个永远反对的角色。它会抓住措辞的小缺点,却不愿承认真正充分的论证,使项目陷入无止境的辩论。好的反对者应当有明确任务和停止条件:指出最强反例,说明它击中哪里,若修改已经回应就承认。批判的强度不由否定次数衡量,而由它能否迫使主张变得更清楚、更准确,以及在必要时被放弃来衡量。

六、反馈如何从世界进入文本

如果一个系统只在生成文本与评议文本之间循环,它可能越来越熟练,却仍然没有接触到最初要解释的困难。书稿里的反馈首先来自原始材料:一段引用是否真的存在,一个术语在作者原文中怎样使用,一次修订究竟改变了什么。随后来自读者:他在哪个地方误解,哪个例子使他产生了错误迁移。还可能来自实际应用:用这套方法分析一个新问题时,是否找到了原来忽略的限制,是否也制造了新的盲点。

这些反馈并不等价。模型说“这一段很清楚”,最多表示在该系统的评估方式下显得清楚;真实读者能复述其中关系,则提供了另一种信息;读者在新案例中正确使用概念,又提供了更强但范围仍有限的信息。每一类反馈都有自己的对象和边界。把它们混成一个总体好评,就看不见需要继续工作的地方。

构造情境中,试读者读完E的解释后说:“所以E就是大环境,对吗?”这是一个很有价值的失败。总编可能马上增加一句“E不是环境”,但单加否定往往不够。需要追查误解从哪里发生:是不是全部例子都在列外部条件,完全没有显示特征之间的相互改变;是不是每次讲D都称过程,每次讲S都称结果,使三者看起来像“条件—过程—结果”的线性链;是不是为了通俗,悄悄删掉了互生关系。反馈于是把问题从读者“不懂”转向文本的生成机制。

修改也要落在机制上。可以重写一个场景:同一段教学内容,在不同的提问方式、评价压力和学生经验中显露为不同的学习对象;而学生提出的问题又改变教师的解释和后续安排。此时,不只是外部环境影响一个不变对象,正在比较的特征本身也在互动中形成。让读者重新解释这个例子,才能看修改是否触及误解。如果仍然只记住“周围条件”,就继续调整,而不是因为已经改了三遍便宣告成功。

现实反馈常有时间成本。模型可以很快重写,读者理解却不能按同样速度压缩。一种新练习是否真的帮助迁移,可能需要等下一次应用;一种组织方式是否减少重复劳动,可能要经过多个项目。把生成速度当成反馈速度,是人机项目常见的错误。此时应当保留两本账:已经完成的文本工作,与尚待检验的效果。前一本可以很快结算,后一本必须等待相应事件发生。

还要区分“被反馈改变”与“迎合所有反馈”。某个读者要求删去全部抽象概念,另一个要求增加形式化,两者不可能同时无条件满足。反馈提供的是信息,不直接充当命令。总编要根据本书的读者定位和知识目标判断,哪些反馈揭示了普遍障碍,哪些是个体偏好,哪些提示需要提供不同阅读路径。判断可以出错,因此要留下理由和修改后的结果,而不是把每个异议都归为“不适合本书的读者”。

一旦反馈获得这样的地位,智能体就不只是输出机器。它可以帮助整理误解类型,比较修订前后,追踪某项改动对其他章节的影响。但反馈的真实性不能由整理工作创造出来。没有发生的试读、没有做过的测试、没有读到的文献,都必须保持缺席。用一段像实验报告的文字填补空白,是把可能发生的未来偷换成已经发生的过去,恰好破坏了复合体赖以学习的基础。

七、记忆怎样变成能力,而不只是堆积

一个长期人机项目必须保留记忆,否则每次都从零开始。但保存更多文件不等于积累了更多能力。文件可能重复、冲突、失去版本,重要的失败也可能淹没在成功叙事中。真正可用的记忆,要能在适当的时候改变下一次行动。它至少要保留事件发生的条件、当时采取的路径、得到的结果,以及为什么后来修改了判断。

假设某次写作中,“变化”一词被误读为时间变化。项目若只在最终稿中改正,下一个智能体可能还会根据旧书重新犯错。若记录“本项目采用variation意义的变化,重点为多样性;引用旧稿不同用法时标明阶段”,错误就转化为可调用的工作约束。但这条约束也不能永久遮住原文。如果研究的题目恰好是概念发展史,旧用法仍然是重要材料。记忆因此需要区分当前写作口径和历史材料,不能把修订后的规则倒写成作者从来如此。

失败记忆尤其重要。一份没有采用的论证,可能包含对未来有用的边界。例如,“所有知识都依赖工具”可以作为广义论断,但如果工具定义扩大到语言、身体习惯和一切中介,就很难找到反例;它的解释力也可能因而变得含糊。项目应当记录这个问题,而不是把被删的绝对句换成更隐晦的绝对句。将来再讨论复合体的范围时,这条记录会提示需要重新定义,而不会让团队重复同一场争论。

保存过程也不意味着公开一切。草稿中的私人体验、尚未确认的猜想、对他人的评价,可能并不适合全部进入共同工作区。共享记忆的设计必须考虑谁需要知道什么,以及用途改变时是否应重新判断。某个读者愿意提供一次困惑,并不自动表示他愿意让这段困惑永久成为训练材料、营销案例或其他项目的素材。关于个体边界的讨论,将在后文展开;此处只需看到,记忆越强,治理记忆的能力越重要。

能力的形成还需要让记录重新进入行动。团队每次开始新章时,可以先检视与该章有关的争议和失误,而不是阅读全部历史;每次结束时,把新发现写回相关记录,而不是新增一份无人打开的总结。这样的循环会使记忆越来越具有区分度:哪些问题已经有暂时答案,哪些仍然开放,哪些答案只适用于特定任务。记忆的价值不在永久保存全部细节,而在需要细节时找得到、该改变时改得动。

从SDE看,这种回写涉及不止一维。文件内容的改变是一种显露,后续检索和审校次序的改变属于差异序列的重组,参与者对某类风险更敏感则牵动特征纠缠。一个人可能在反复与工具工作之后,学会先问“这句话的来源是什么”,这种能力并不只存于某份文档,也不完全位于某个独立头脑。它由可用记录、提问习惯、工具反馈和责任要求共同维持。若这些联系被切断,能力可能衰退。

但我们也不应把每一次习惯形成都誉为升维。一个人可能只是越来越熟悉固定模板,遇到新问题反而更机械。能力是否增加,需要看他能否更好地区分条件、发现边界和改变方法。记忆如果只训练顺从旧规则,就是把工作冻结;记忆若使过去的经验可以接受新问题检验,才为下一次发生提供条件。一个成熟的复合体应当既能继承,也能让继承的东西再次成为问题。

八、速度、依赖与人的成长

人机复合体最容易展示的优势是速度,最难说明的则是人在其中怎样成长。一个作者以前一天写三千字,现在能组织数万字,这当然改变了工作规模。但文字数量无法告诉我们作者是否更能解释自己的观点,是否更容易发现错误,是否更愿意承担修改。高产可能伴随学习,也可能伴随理解越来越薄。两种情形在文件夹里看起来很相似。

判断成长时,不能把“离开工具能否做到”设为唯一标准。一个善于使用地图的人,不必记住每条道路;一个数学家也不必徒手完成所有计算。工具依赖本身不是失败。更有意义的区分是:依赖是否经过理解和安排,遇到异常能否调整,能否更换实现方式,以及工具是否把人锁定在无法判断的路径里。合理依赖可以释放能力,失去出口的依赖则会缩小行动空间。

在写作情境中,可以观察作者的几种变化。他能否越来越准确地给出章节问题,而不是只要求“再深一点”;能否区分概念解释、经验事实与规范主张,而不是只凭文字气势评判;能否指出某段话为什么与自己的思想不符,而不是全部交给模型揣测;能否在一个有力反例出现后,修改自己的主张。这些变化不要求他替机器完成全部检索,却显示他更能组织复合体的工作。

系统也可能朝相反方向塑造人。如果它总是赞美作者的每个念头,作者就越来越少遇到反对;如果它把不确定性润色成确定语气,作者会逐渐误以为材料已经核实;如果它每次都替作者完成关键取舍,却只留下一个确认按钮,作者可能保留名义上的决定权,却失去形成决定的过程。所谓“人在方向中心”,因此不能只写在原则里,必须在实际界面、时间安排和反馈方式中获得位置。

这个位置不等于人必须不断操作。成熟的封装可以让人只处理较高层级的判断,下一章会详细讨论。关键是当异常出现时,能不能重新打开被封装的部分;当任务目标改变时,能不能重新分配判断;当人的偏好本身不合理时,系统有没有呈现反对材料的通道。若中心只意味着系统永远服从,那只是把人的既有盲点扩大了。方向也需要在与材料、后果和他人的互动中修订。

还有一个不应回避的反例:某些高度自动化的任务确实可以长期运行,人几乎不参与日常过程。它们并不会因此自动失去价值。这提醒我们,人机复合论不该把每一步都要求人现场出现,也不该以哲学定义否定自动化的成功。要讨论的是任务所依赖的目标、训练、维护、边界与后果如何被组织,以及当前系统有哪些具体能力。不同时间尺度上的参与可以不同,不能把即时操作和整体构成混为一谈。

把成长作为目标,最终会改变项目评价。交付一部好书是一个结果,使作者与读者更能继续提出问题,是另一个结果;二者有关,却不必同步。为了赶工,团队可能得到前者而牺牲后者。为了过度教学,又可能迟迟不形成可用文本。SDE视角不会自动替我们消除这一张力,但它要求张力被看见:我们究竟在维护怎样的发生,谁获得了什么能力,谁承担了被省略的工作。看见之后,才有可能做出诚实的取舍。

九、复合体失败时,不能只责怪一个环节

一个项目失败之后,最方便的解释是找到一个有名字的责任者:模型幻觉,用户提示不清,总编没检查,材料太旧。某些具体责任确实需要追究,但认识上的解释还应当再走一步:为什么这个错误能够一路进入结果,为什么已有环节没有使它显露,什么安排使下一次仍可能重复。人机复合体的研究不取消个人责任,而是把责任置于能够改进的机制之中。

设想一本书错引了一段从未存在的原文。生成端编造是第一处错误,但若任务单只要求引文数量,审校只检查格式,总编只检查语气,整个过程就在奖励看起来完整的来源。若最后仅告诫模型“以后不要幻觉”,其他条件全部不变,复合体并没有学习。真正的改变可能包括:关键引文必须能回到原始页面,没有原文时改为明确标注的概述,未核实来源不得因版式需要补齐。每项改变都要对准错误曾经通过的通道。

再设想另一种失败:所有引用都真实,但书只是在重复既有文章,没有形成入门路径。这时加大查证力度未必有用,因为缺失的不是事实锚点,而是结构工作。团队需要重新考虑读者从哪里进入、概念之间怎样衔接、哪些案例能够让相邻章节共同解释。两种失败都可能表现为“质量不高”,机制却很不一样。SDE分析的价值,在于要求我们把笼统评价拆回实际发生,而不是对所有问题使用同一张检查表。

还有一种更隐蔽的失败:每项局部指标都达标,整体却让人疲惫。每章都有案例、反例、定义、总结,结果全书像重复播放同一套课堂程序。此时不是缺少某个元素,而是元素的组织失去节奏。不同章节需要承担不同任务,有的建立概念,有的深化争议,有的提供操作,有的让读者停下来重看生活。统一规范应当保证准确与连贯,不应当把所有章节压成同一种形状。标准一旦取代了判断,也会制造它原本想防止的失败。

失败还可能发生在边界之外。书稿本身清楚,但读者把其中的哲学假说当作医疗、法律或金融的直接依据,这说明入门文本需要更准确地标记论断层级和用途。不是每个章节都加一段笼统警告,而是在相关论证处说明:这是对概念的重构,还是已经获得相应证据的领域结论;这是构造案例,还是实际案例;这是作者的规范主张,还是现行制度事实。界限应当进入解释本身,成为理解的一部分。

最后,复合体的边界不是随意扩张的。如果每次失败都说还有某个更大环境没有纳入,理论就永远不会承担风险。本章建议采用问题相对的边界:纳入那些能够说明当前能力及失误、并可能改变行动的关键联系,同时说明尚未覆盖的因素。边界可以修订,但修订要有理由。不能把一切成功都归于整体,把一切失败都推到整体之外。一个解释框架值得使用,也因为它能够承认自己解释得不够。

十、从一次完成走向下一次能够开始

让我们回到最初的六个窗口。经过若干轮工作,六份分稿不再只是并列文档。一个统一术语表记录当前口径与历史变化;一份争议表保存未解决的问题;章节之间有清楚的承接;关键来源可以回到原文;读者反馈进入了修订;未做的检验仍然标成未做。与此同时,作者更清楚自己哪些主张需要展开,编辑更知道哪些环节容易产生误读,智能体的任务规则也因失败而改变。此时,我们才有理由说共同工作形成了超出初始分工的能力。

这种能力不是神秘的整体灵魂。它体现在具体行动中:新的章节可以更快识别旧问题,新的异议可以找到承担者,新的来源可以改变已经稳定的解释,而不是只被塞进附录。它也不是一劳永逸的资产。人员变化、工具变化、来源更新、任务扩大,都可能使原来的安排失效。成熟不等于永远不需要重组,而是知道何时可以沿用,何时必须打开封装、重新形成工作关系。

读者可以把这个思路迁移到其他活动。准备一门课程时,问教材、教师、学生反馈和评价方式怎样共同形成学习;组织一个社区项目时,问参与者如何在共事与独立之间转换;使用个人AI时,问哪些记录让它更适合自己,哪些记录反而把过去的标签固定成未来命运。每一种活动都有自己的材料和后果,本章没有提供一张照填即可成功的通用表格。它提供的是一种持续追问整体能力来源的方法。

最小的实践起点并不复杂。选一件正在使用AI完成的真实工作,先写出当前目标和一个最令人担心的失败。让系统提出一个可检查的解释,再用原始材料、一次实际操作或另一种有力解释去检验它。记录哪一处判断改变了,哪一处尚未改变。然后问:这个改变是否只停在答案里,还是已经进入下一次工作。若后一件事没有发生,就不要急着宣布自己获得了新能力。把变化接回行动,是共同发生最朴素的检验。

在这一过程中,人也不需要扮演无所不知的总裁判。他可以借助专业知识、他人经验和更多工具形成判断;机器也不必被看成只会等待命令的空壳,其实际能力可以在具体任务中充分发挥。但任何参与者的表现都要回到证据和后果之中。复合体越复杂,越需要把“由谁承担什么、依据什么改变”说清楚。否则,能力越强,错误也可能越难定位。

本章所说的共同发生,最终不是让所有人和工具时时刻刻黏在一起。有效的共同工作需要独立阅读、暂时保留分歧、局部试验和适时汇合。太早统一,差异会被压掉;太晚汇合,局部又可能无法接合。什么时候开放,什么时候收束,什么时候让某个部分独立生长,什么时候重新共同判断,这些安排本身也要在实践中形成。并行只是把时间展开,共同发生则使展开的时间能够彼此改变。

因此,AI时代的一个重要能力,是组织这种可改变的合作。它既包括提出方向,也包括允许方向被修订;既包括调用成熟工具,也包括识别成熟不再适用的时刻;既包括完成眼前任务,也包括保留下一次开始所需的记忆、自由和责任。当我们从“机器能替我做多少”继续问到“我们共同形成了怎样的能力”,工具的问题就进入了发生学的核心。而这个核心马上带出下一章的问题:当越来越多的判断被工具承载,人究竟该在什么层级、以什么粒度继续判断?

来源与阅读说明

主要底本:作者提供《SDE本体论入门》,实际阅读第十三篇关于AI、思想创新智能体及人—工具复合体的相关段落,并核对全文检索到的主体性、判断等用例。

网络来源一:https://sdeuniverses.com/books/m/44/,实际阅读完整书介与六编结构、三条纪律;未声称通读其298页PDF。

网络来源二:https://sdeuniverses.com/column/thought-innovation-agent/,实际阅读网页第1—5篇及有关复合体、控制流、现实回程的段落。将数据库、流程、目标的能量说法作为发生学解释,不据此声称物理能量理论已经成立。

网络来源三:https://sdeuniverses.com/column/pseudo-genesis/,实际阅读引言至第七节前段,重点为伪发生、外部约束、前移检查与灰色地带。本章没有复制其检查清单,而以原创写作场景解释相关问题。

全章写作工程均为构造情境,不代表本书已完成相应试读、实验或上线验收。关于评价、任务划分与减法检验的操作安排,是编写者据作者问题意识提出的解释性扩展,尚待实际比较。未把SDE方法的有效性、特定模型永久不能创造或某种AGI定义当作已经获证的外部事实。

搜索这本书

检索全文、表格与来源说明。可用 Ctrl / ⌘ + K 打开。