本章小节
第三编 · 共同智慧怎样发生为我的知识

第9章 我们的知识怎样进入大模型底座

王德生 著 · 完整数字阅读版 v1.1 · 全文中的本章

一、共同智慧从来没有单独的仓库

设想一个人坐在驶往北京的高铁上,打开自己的智能体,准备讨论家庭教育中的一个困难。他能够提出这个问题,是因为已经生活在语言、家庭和教育制度之中;他能够得到条理分明的回应,又依靠长期积累的文字、概念、研究和计算技术。眼前对话只有一个人的屏幕,参与这场知识发生的条件却远远超出屏幕。没有人能够逐一邀请这些条件的创造者来到座位旁边,但他们的工作以各种经过转换的形态进入了此刻。所谓我们的知识,首先表达的是这种共同形成的事实。

共同形成不等于一个无差别的集体头脑。一本教材保留某些发现而略去其他路径,一种语言使部分区别易于表达,一套测量方法让不同地方的人能够比较结果。共同知识依靠选择、组织、争论和延续,才获得可供后来者使用的形态。它既含有经受反复检验的内容,也含有尚未充分检验的解释;既承载开拓者的贡献,也可能保留他们时代的限制。进入共同知识,就同时进入了一段生产可靠性和制造盲点的历史。

因此,我们不能把大模型想象为全人类智慧直接降落在机器中的结果。共同知识进入模型,需要经历资料选择、清理、编码、训练与评估等转换。可训练的材料并不等于全部可知的世界,具有大量文本的经验也不等于最值得重视的经验。那些难以被书写、缺少传播渠道或尚未获得认可的生活,可能只留下很少的痕迹。共同底座拥有广度,并不意味着每个人已经在其中取得恰当的位置。

这一点正是本书母题的起点。假如共同底座已经完整包含了每个人,那么个人智能体只需从中找到正确的位置即可。然而个人生活不断变化,新的问题尚未形成标准表述,不同经验相遇又会产生此前没有的区别。共同知识必须能够进入个人发生,并在个人发生之后接受修订。我们需要的不是一座囊括一切的终点,而是一种可以继续生出不同道路的基础能力。

二、模型中的能力与文献中的出处

说共同知识构成大模型的底座,是一个有关来源和能力的概括,不是一条关于存储形式的精确技术说明。模型参数经过训练获得组织语言、辨认模式和生成回答的能力,但参数不能直接当作按作者、篇名、页码排列的图书馆。模型说出一段流畅解释,不表示它已经找到这段解释的可核查出处;模型给出一个看似准确的书目,也不表示对应书目真实存在。能力的形成与证据的取得,是两个需要相互连接的环节。

检索增强生成研究提供了一种重要的连接方式。Lewis等人的研究把生成模型与可检索的外部资料结合,使生成过程能够利用取回的文本;该研究讨论了参数记忆与非参数记忆的联合使用,并在其任务设置中评估了效果。〔Lewis等,2020〕这支持了一个具体可能:通用生成能力可以借助外部材料进入特定问题。它并不直接证明个人主体已经诞生,更没有证明任何检索系统都能保证答案真实。

文献有出处也不意味着文献已经适用。研究对象、观察条件、证据等级、发表时间以及相互冲突的结果,都可能改变它在当前问题中的作用。一篇文章准确地描述了某类课堂中的现象,未必能够解释某个家庭的全部困难。把文献接入系统,只是使相关判断获得检查的可能。判断仍需经过对材料意义、条件与问题之间关系的辨认,不能由一个链接的存在代替。

于是,共同底座在个人知识发生中至少承担两种不同作用。一种是提供生成和比较的能力,使原本难以进行的跨材料碰撞能够迅速展开;另一种是通过外部检索提供可追查的依据,使某些说法能够回到具体证据。前者扩大可提出的问题,后者约束可以接受的答案。只有扩展而没有约束,容易产生漂亮而悬空的解释;只有约束而没有扩展,又可能把现有文献的边界误认成个人思想的边界。

三、共同不等于无条件占有

我们的知识也不是谁都可以无条件拿走、任意处理的知识。共同性首先涉及知识在多人之间形成、检验和使用的能力,具体的作品、数据和服务仍可能具有不同的授权范围。一个人在公开场合讲述自己的经验,不意味着他愿意把全部生活档案交给任何系统;研究成果可以公开讨论,也不意味着所有原始材料都适宜无差别传播。共同使用的正当性,需要在具体关系中得到说明。

更深一层的问题是,公共来源可能被转化为少数平台的持续支配能力。许多人共同形成的知识,经过集中训练和组织以后,以商业服务的形式重新回到个人面前。这种转换可以创造真实价值,因为训练、维护与服务需要投入;同时,它也可能形成新的依赖,因为个人需要通过某个接口才能接近共同能力。这里没有一个简单的道德二分。需要辨认的是,投入获得合理回报与公共积累被封闭占有之间的界线如何形成。

如果底座的使用条件、记录保存和服务延续都由平台单方面决定,个人即使拥有大量对话,也未必拥有持续发生的条件。昨天能够使用的方法可能突然改变,长期形成的表达习惯可能无法迁移,某些材料的访问又可能因账号变化而中断。因此,“我有自己的智能体”不能仅凭一个界面上的名字来成立。个人是否能够保有必要记录、理解使用边界、迁移重要材料和重新组织方法,是后续需要具体检验的问题。

反过来,强调个人保有也不应抹去共同底座的贡献。一个人使用通用模型、开源工具和公开研究完成作品,可以形成自己的新增贡献,但不能因此把所有来源都重新命名为个人独创。主体性并不要求没有前人、没有工具、没有依赖。它要求依赖获得恰当位置,使借用能够说明,使新增部分可以辨认,使个人继续发生的条件不因承认共同来源而被取消。

四、共同能力为何能够支持不同结果

传统规模化常常借助统一流程减少差异,因为同样的产品更容易组织生产、分配和维护。生成式能力提供了另一种可能:许多人调用相近的基础能力,却让其进入不同的问题、资料与反馈之中。被重复提供的是能够生成的能力,最终产物不必彼此相同。SDE网站《自动化个性化经济》把共同生成能力与个人差异的增长联系起来。〔SDEAPE〕本书进一步追问,差异怎样在这种条件中成为可以延续的主体发生。

假设两位教师面对相同的课程内容。一位关心学生为何害怕发言,另一位关心学生为何能够流畅复述却无法解决陌生问题。如果他们只要求模型总结教材,得到的内容可能十分接近;如果他们把课堂观察、尝试记录与不同解释带入对话,知识组织就会沿不同方向展开。共同模型没有妨碍差异,问题是互动有没有让差异真正进入生成。个人化并非一句“请按我的风格回答”,而是问题条件实质参与了知识形成。

差异也不是越多越好。两个人对同一可靠事实得到相反回答,可能只是系统不稳定;同一个人在不同日期得到完全不同的建议,也可能说明材料被错误理解。值得支持的是有来历的差异:为什么此处需要不同处理,哪些条件导致差异,差异是否改善了理解或行动,何时又应当回到共同规则。共同能力与个人发生之间需要能够往返,否则个性化会退化成各说各话。

正因为存在可以共同核查的部分,个人的新路径才不必漂浮。教材中的基本概念、工程中的测量标准、合作中的承诺边界,都是某些活动可以继续的条件。个人智能体不需要在每一次对话中把它们全部推倒重来。它需要识别何处可以使用已经可靠的封装,何处出现了封装不能覆盖的新问题。共性在这里提供支点,差异使支点不至于变成枷锁。

五、被底座遗漏的我

一个人可能拥有大量生活经验,却缺少让经验进入知识讨论的表达能力。忙于照护的家庭成员知道某种安排令人疲惫,却难以指出疲惫究竟发生于时间冲突、责任含混还是长期得不到回应。通用模型可以帮助区分这些可能,但也可能过快套用熟悉概念,把尚未听清的经历放入现成类别。底座越善于表达,使用者越容易把它的流畅理解为自己已经被理解。

个人发生的入口,有时正是对流畅解释的迟疑。使用者说,这段话看上去没错,但它不是我正在经历的事情。这个否定并不必然表示使用者拒绝知识,也可能是在保护一种尚未得到适当语言的差异。好的复合互动应当能够围绕这种迟疑继续工作:回到具体事件,比较相近但不同的感受,寻找分类遗漏的条件。共同语言因此被重新组织,个人经验也因此获得更清楚的显露。

然而,个人经验同样可能误导。人会选择性记忆,也会把一次偶然成功理解为普遍方法。对底座的不满不能自动成为正确性的证明。我们必须同时保留两种开放:允许个人指出共同解释的不足,也允许共同证据指出个人解释的局限。如果系统只负责认同“你是独特的”,它可能把个人包围在更精美的自我确认中;如果系统只负责纠正个人,它又会恢复标准答案对生活的单向统治。

这种双向开放不是平均分配发言权,而是让不同来源的限制进入同一次发生。身体经验不能被文献直接替代,文献证据不能被个人感受随意取消,实际后果也不能被双方的共同期待抹去。知识的可靠性来自这些差异获得适当碰撞。正是在这里,“我”的不可替代性与“我们”的共同检验,不再只表现为彼此的障碍。

六、共同能力的代价由谁承担

共同底座还包含一个经常被界面遮蔽的问题:谁在承担能力形成和持续运行的成本。资料整理者、软件维护者、算力提供者、测试者以及实际使用中指出错误的人,以不同方式参与同一能力的可靠化。个人的知识发生并不是脱离这些劳动后的纯粹精神活动。承认这一点,不会削弱个人创造,反而使“我们”取得具体内容。我们不再只是赞美抽象的人类智慧,而能够追问哪些贡献被记住,哪些工作被忽略,哪些成本被转移给了没有发言位置的人。

假设一个小型学习共同体共同整理地方文化资料,某位成员用这些资料建设个人智能体,后来向外提供讲解服务。服务可能出自他的独特组织能力,也可能持续依赖其他人的校对和补充。如果只承认最后的生成者,早先的共同劳动便被掩盖;如果因为存在共同劳动就否认任何个人新增,主动组织者又失去了继续投入的理由。恰当安排必须辨认贡献如何进入结果,并承认贡献具有不同形态,不能把所有参与都压成同一个名字。

这种辨认也会改变公共建设的方向。共同体不必代替每个人设计同样的智能体,却可以共同维护文献入口、基础格式、检验案例和迁移工具。个人据此形成不同的问题系统,必要时又把经过检验的修正贡献回来。公共投资与个人差异由此可能获得正向关系:共同条件越可使用,个人越能在不重新支付全部起步成本的情况下探索;个人探索越多样,共同条件就越可能发现原先没有覆盖的缺口。

但这种正向关系不会自行成立。如果贡献回流只能依靠无偿热情,承担维护的人可能长期疲惫;如果每一项使用都设置复杂收费,普通人又可能无法进入。因此,共同维护需要可持续的安排。可以有公共支持、成员分担、商业服务补贴,也可以有多种方式并存。本书此处不预设唯一制度,而强调必须把维护作为知识存在的一部分。没有维护的共享可能只是暂时开放,没有个体空间的维护则可能变成对差异的集中管理。

另一个代价是注意力。理论上可调用的知识越来越多,不表示人有能力理解全部结果。共同底座的丰厚可能反而使个人失去停下来的理由,始终觉得还应再比较一篇研究、再生成一套解释。个人发生需要筛选,也需要终止某次探索的判断。底座的目标不应是让每个人不断消费知识,而应使其在具体生活中获得更恰当的理解与行动。能够暂时不调用模型,能够保留问题而去生活,也是复合能力成熟的表现。

从这一层看,共同知识成为底座以后,并没有退出伦理和经济讨论。它改变了这些讨论的对象:我们开始面对一种能够被反复调用、持续更新、同时参与许多个人发生的共同能力。如何支持它,怎样分担它的成本,怎样使个人使用不转化为新的服从,都会影响“我”和“我们”能否真正共生。技术入口打开的是可能性,关系的组织决定了哪些可能能够长期存在。

七、底座如何成为起点而非终点

如果把智能体的目标设定为尽快给出完整答案,许多问题会在尚未充分形成时被关闭。一个学生问自己适合什么专业,模型可以立即给出清单;一个研究者问某理论能否解释某现象,模型可以迅速排列支持理由。然而真正重要的变化,可能发生在最初问题被修改之后。学生发现自己关心的不是学科标签,而是希望进入怎样的工作节律;研究者发现所需解释并非原来假定的单一因果关系。

共同能力在这种变化中承担的是支撑探索的作用。它帮助调动材料、比较概念、构想替代方案,使问题能够比个人独自思考时走得更远。与此同时,具体人生中的限制和反馈又改变探索方向。模型没有一个预先完成的个人等候释放,个人也没有一个完整答案等候模型表达。复合主体的发生,正是在双方及相关材料的互动中形成此前尚未存在的问题结构与行动可能。

我们可以用三种变化辨认底座是否真正成为发生的条件。首先,个人能否提出此前没有察觉的重要区别;其次,这些区别能否进入新的判断和行动;再次,后续反馈能否修改智能体下一轮调用材料和组织答案的方式。这些变化不能全部通过生成字数或对话时长衡量。大量输出可能没有留下能力改变,一次简短而关键的追问却可能重组整条思考道路。

因此,本章没有把大模型封为共同智慧的完成形态。它为共同积累进入个人探索提供了可扩展的条件,同时也使我们更清楚地看见共同知识的组织、限制与归属问题。文明的新可能不在于每个人都收到同一部会说话的百科全书,而在于共同能力能够参与不同人的发生,个人形成的新区别又能够经由服务与检验回到共同世界。下一步便是回答:究竟什么使一个问题成为我的问题,并使知识围绕这个问题重新组织?