散点收拢,正面体检
大模型这个身影,在本书已经出现了四次:第3章,它是撑破发现范式的当代现场之一;第20章,它是“信息发生≠知识发生”的活标本;第21章,它是人机复合创造里的变体引擎;第31章,它又隐在“搬运的极限”背后。四次都是借它照亮别的东西。这一章,把它请到体检台上,正面地、完整地检查一遍——它究竟是什么?强在哪、缺在哪、缺的能不能补?以及,什么才是对“智能”的正确期待?
先说明这次体检的方法和范围。本章用S、D、E考察一种以文本生成为核心的模型及其使用方式,问它依靠什么材料、怎样组织差异序列、输出怎样获得检验。下文所说的“空缺”“偏科”“冻结”,是本书对缺少相应接口的工作配置所作的发生学诊断,不是关于所有AI系统及其未来版本的永久不可能性定理。必须分别检查基础模型、工具连接、记忆安排和人的参与,不能把其中一层的限制直接推广到整个系统。三维分析也不能替代具体任务评估:它提出待检问题,能力结论仍需要相应证据。
第一维:E的体检——一片惊人偏科的土壤
E查三界(第9章的诊断表,原样搬来用)。
理念活动:可以先检查系统能够调用怎样的表述、概念和推理材料,以及它在当前任务中如何运用。材料覆盖广,并不等于包含全部人类知识;回答迅速,也不能直接称为在符号、逻辑和数学上样样精通。本书承认语言工具可以显著扩展人的材料处理能力,同时要求每项能力接受对应任务的检验。这里不以“理念界超人”代替测量,而将其改写为一个问题:丰富的信息材料怎样真正参与当前知识的形成?
现实联系:若一个系统只接收已有文本而不接触当前任务的观察或执行结果,它对现实的判断就主要依赖这些表述。由此需要补充相应核查,而不能把谈论某事自动当作已经检验某事。系统有没有连接传感、工具、数据或实验,应逐项考察;没有人的身体体验,与完全没有现实因果联系,也不是同一判断。这里用“读菜谱与实际做菜”的类比提示材料和行动反馈的差别,不据此宣布所有机器知识必然完全悬空。
自我界:需要把不同问题分开。系统有没有可跨任务保存和调用的记录,与它是否具有第一人称体验,并不是同一个问题;有没有身份标识和持续目标,也不能直接证明它具有人的自我。对于本章考察的工作配置,应当逐项检查记忆、目标、价值参与和责任安排,不能仅凭对话形式断言每轮结束一切必然消失。本书主张涉及人的意义与生活后果时,应使相关人保有真实判断位置;这是一项设计和规范要求,不能被改写成已经证明机器永远没有自我世界。
E维的当前结论,是先检查信息材料、现实约束与意义参与之间是否存在可工作的联系。三界在本书中提供分析方向;某一工作配置没有接好某类联系,可能限制相应产物,但要说明限制如何发生。不能把三界的概念划分直接当作技术测量,也不由此得出所有模型永久缺少两界的结论。下一步转向D,检查实际过程怎样承接这些条件。
第二维:D的体检——有循环之形,无承接之实
D查差异序列:它有没有在走一条“猜想—执行—评估—反馈—修正—迭代”的真实路径?
要回答这个问题,需要观察系统的真实工作记录。训练过程、单次生成、工具执行和跨任务修订处在不同时间尺度,不能统称为同一循环。下文特别检查评估和承接两处:何种信号能够纠正结果,这次纠正怎样改变后续行动。若配置中缺少这些联系,就记录为相应缺口;若已经存在,也应说明作用范围,不能因预定诊断而将它忽略。
评估环——应当检查输出是否接到了与任务相应的反馈。若系统只依据语言是否顺畅组织回答,而没有核对来源、执行工具或接受现实结果的约束,“说通了”就可能被误当成“说对了”。人的反馈、文献核对、计算结果和实际观察可以提供不同类型的约束,但各有适用范围。不能把模型错误全部归结为没有人的身体,也不能因为加入一项外部检查就宣布错误已经消失。本章关心的是反馈究竟检查了什么,以及检查结果能否改变后续过程。
承接环——需要看错误和修订能否跨越当前步骤进入后续工作。某种无持久记录的使用方式,确实可能反复从相似起点开始;配置了记录,也不保证系统能在适当时刻调用它。判断承接是否成立,应当追查:错误有没有被保存、条件有没有一同保留、下一次行动是否因此改变。这里的时间连续性是一项系统能力问题,不能与机器是否具有人的自我体验直接等同。D的成熟既需要产生差异,也需要让有依据的差异获得后续作用。
D维小结:生成、评估和承接需要分别检查。表面上写出六个步骤,不等于完成真实反馈;没有人的体验,也不自动意味着不能保存状态或修订过程。判据应落在记录、调用和行动是否发生改变。SDE在这里帮助提出问题,具体循环是否有效仍需运行证据。
第三维:S的体检——输出显露了怎样的结构
S查结构显露:它能不能让结构显露?
系统能够呈现、组合或提出怎样的结构,需要看具体输出。在S方面,问对象、关系和边界是否清楚;在D方面,问新区别怎样形成并接受检验;在E方面,问产物能否进入相关人的实际活动。一个输出可以帮助读者发生新的理解,即使关于系统自身体验的问题仍未解决。反过来,语言新颖也不证明知识已经成立。本章不先用“机器自己不发生”裁定所有产物,而把材料、过程、成果与主体体验分开讨论。
体检报告汇总,与一个正名
三维查毕,汇总一行:
三维报告应当是一组关于具体系统的结论:信息与约束怎样连接,过程怎样保存和修订,输出形成了什么可用结构。没有对应任务与证据时,只能标记待检查项,不能把“理念超人、现实自我为空、善呈现不发生”当作已经测得的统一结果。
“懂”这个词可能同时指正确使用概念、完成推理、适应新情境、具有体验或承担承诺。区分这些含义,能够使争论更清楚,却不自动给出每项答案。一个系统可能在某些任务中表现良好,在另一些方面证据不足;表现与体验之间也需要专门论证。本书以完整发生链作为理解问题的一个视角,同时承认其他定义可以进入比较,不用自行选定的定义直接宣布争论已经终结。
这份分析同时限制两种过早的结论。一方面,模型规模或某项成绩提高,不自动证明问题方向、现实反馈和人的意义参与已经安排妥当;另一方面,也不能因本章使用了“自我界空缺”的解释,就断言系统不可能表现出目标导向行为或产生风险。目标、权限、工具和反馈怎样结合,需要逐项检查。SDE在这里提出的是复合系统的审查视角:模型能力与组织方式都值得研究,既不把规模增长当作全部答案,也不预先宣布它无法改善任何关键问题。
照妖镜的另一面:它照出的其实是我们
这一章最深的一层,不在机器身上,在镜子的反面。
语言模型为我们重新考察某些知识活动提供了参照:引用材料、组织表述、提出候选与检查推理,可以有不同程度的工具参与。这不意味着机器已经全面胜过人,也不意味着这些活动因能够自动化就不再珍贵。更值得追问的是,哪些能力在当前配置中可以稳定借助工具,哪些仍需其他条件,以及人的学习怎样与这种分工共同变化。
本书尤其关注真实经历、问题关切、跨时间承接和意义承担怎样进入完整过程。它们可以使人的参与具有不可忽略的位置,但不能被称为已经从机器能力中筛出的永恒“人类净重”。具体分工会随任务与技术变化。发生学的要求,是让人的经验与责任实际参与,同时继续研究工具能够怎样支持这些活动。
教育应当把知识与技能训练同真实问题、好奇心、反馈和创造联系起来。AI能够承担某些信息操作,并不推出人类已经输掉全部E2活动,也不推出相关学习可以取消。领域知识常是辨认错误、提出问题和选择工具的条件。可以减少没有意义的重复,却仍要研究哪些内容需要内化、哪些可以依赖成熟工具,以及这种分配怎样让学习者持续成长。
小结与缺口
本章以SDE提出一份有条件的体检思路:E方面检查材料与实际处境怎样相连,D方面检查生成、评估和修订能否形成有效承接,S方面检查输出是否具有可辨认、可检验和可继续使用的结构。报告针对具体配置,不能被写成所有模型“一界超人、两界永远为空”的结论。关于理解,可以分别问表现、过程、体验和责任,避免一个“懂”字承担所有问题。教育与个人成长也不应取消知识和技能训练,而应使它们与真实问题、判断、反馈及人机协作相连。本章提供待检框架,不替代实际能力测量。
个人的身、心、学,与人机之界,四个现场已毕。但人从来不是单独发生的——人在组织里工作,在社会里生活,而组织与社会自身,也是发生体:它们也有三维、也有成熟与退化、也会陷进坏闭环。上一章埋的那个词该兑现了——内卷:为什么所有人都在拼命、所有人都不前进?一个组织怎样一步步变得死气沉沉?而一个“活”的组织,活在哪里?
下一章,社会与组织的现场。你会看到,发生学的眼睛看群体,与看个体用的是同一副镜片——而看出的病,常常比个体的病更隐蔽,因为群体的病,往往以每个个体的“正常”为症状。