← 专著首页目录📄 在线 PDF⬇ 下载德麦国际专著第 78 号

第九章 都更聪明,只剩一种错法

认知单一化悖论与认知响应多样性 ——统计学习理论 × 文化进化论 × 生态学的跨学科对撞

统计学习理论 × 文化进化论 × 生态学的跨学科对撞

——为什么个体平均认知绩效提高,群体发现共同错误与修正共识的能力却可能下降

摘 要

生成式人工智能正在同时改变个体认知绩效与群体认知结构。越来越多的人借助性能更强的基础模型完成写作、研究、分析、编程与决策,个体答案的平均质量可能显著提高;然而,群体纠错能力并不只由个体错误率决定,还取决于不同个体之间的错误是否相互独立、是否保留足够的异源推理路径,以及共同错误出现后系统能否产生不同响应。本章采用跨学科互否方法,将统计学习理论中的集成误差、协方差与预测多样性,文化进化论中的成功偏置、声望偏置、从众传递与路径强化,以及生态学中的响应多样性、功能冗余、单一化与系统韧性进行结构映射。三门学科的深层同构在于:一个系统的平均单元质量与系统韧性并非同一变量;当单元之间的失效相关性上升时,更高质量的单元仍可能组成更脆弱的整体。本章据此提出“认知单一化悖论”(Cognitive Monoculture Paradox, CMP)与“认知响应多样性”(Cognitive Response Diversity, CRD)两个核心概念,并构造“相关错误放大回路”:高性能AI首先降低个体平均错误率,同时通过共享基础模型、相近语料、相似检索与推理模板提高错误相关性;个体绩效提升又成为成功偏置的强信号,促使更多人复制相同认知路径;相似输出随后彼此成为引用、搜索、组织模板与社会共识的证据,使依赖同源的答案获得“多数独立同意”的外观;这种表面共识进一步压缩异质判断,最终使低频却高度相关的共同错误更难暴露。本章进一步给出群体有效独立判断数 N_eff = n/[1+(n−1)ρ] 的近似指标,用以说明参与者数量不等于独立证据数量;提出“共识独立性折扣”“异源性预算”“少数路径保护”“异构第二模型/第二资料源”“先独立后汇聚”等治理原则。本章的核心结论是:AI时代真正需要保护的不是意见分歧本身,而是失效模式的去相关化与同功能任务下的异响应能力。一个高水平群体可以在多数时候快速趋同,但必须制度性保留能够在共同模型失效时看见不同证据、提出不同反例并启动不同纠错路径的认知生态位。

关键词:生成式人工智能;集体认知;错误相关性;预测多样性;文化进化;成功偏置;响应多样性;认知单一化;认知韧性;人机协作

Abstract

Generative AI is changing not only individual cognitive performance but also the dependence structure of collective cognition. As more people rely on increasingly capable foundation models for writing, research, analysis, programming and decision-making, average individual performance may improve while the collective capacity to detect shared errors, sustain genuine dissent and revise common judgments fails to improve—or even deteriorates. This paper develops a second-order interdisciplinary collision among statistical learning theory, cultural evolution, and ecology. Statistical learning contributes ensemble error, covariance and predictive diversity; cultural evolution contributes success-biased and prestige-biased transmission, conformity and path reinforcement; ecology contributes response diversity, functional redundancy, monoculture and resilience. Their common structure is that average component quality and system resilience are distinct variables: a set of better-performing components can form a more fragile system when their failure modes become highly correlated. We propose the Cognitive Monoculture Paradox (CMP) and Cognitive Response Diversity (CRD), and model a correlated-error amplification loop in which AI raises average performance, makes successful cognitive pathways more attractive to copy, increases dependence among judgments, and allows repeated model-shaped outputs to masquerade as independent social evidence. We further introduce an effective number of independent judgments, N_eff = n/[1+(n−1)ρ], to distinguish headcount from evidential independence, and develop governance principles including consensus-independence discounting, heterogeneity budgets, protected minority pathways, heterogeneous second models/sources, and “independent first, aggregate later” protocols. The central claim is that AI-era collective intelligence must preserve diversity of failure response rather than disagreement for its own sake. A resilient high-performance group may converge quickly under normal conditions, but it must retain institutionally protected cognitive pathways capable of seeing different evidence, generating different counterexamples, and initiating different corrections when a shared model fails.

Keywords: generative AI; collective cognition; correlated errors; predictive diversity; cultural evolution; response diversity; cognitive monoculture; resilience; human-AI collaboration

问题提出:为什么“大家都更聪明”不等于“群体更不容易犯大错”?

生成式AI最直观的影响,是把许多认知任务的个人起点整体抬高。一个原本不会写代码的人可以生成可运行的程序原型,一个不熟悉某一领域的人可以迅速得到结构完整的综述,一个普通职员可以在几分钟内得到看起来像专业咨询报告的分析。实验研究已经观察到类似的个体增益:例如Doshi与Hauser在创意写作实验中发现,获得生成式AI建议的参与者能够产出评价更高的故事,尤其对原本创造力较低的参与者帮助更明显;但与此同时,AI辅助组的故事在群体层面变得更相似[8]。这提示我们,一个工具完全可能同时提高单个产出的平均水平,并改变整个群体输出之间的依赖关系。

传统的“智慧群体”直觉往往把人数当成可靠性的来源:十个人独立判断,比一个人更不容易被单个偶然错误支配;不同研究者、程序员、医生、律师或管理者来自不同训练背景,也会带来不同的盲点和不同的纠错入口。然而,这一优势隐含着一个经常被忽略的前提——个体之间的错误必须至少部分独立。如果十个人实际上都复制同一份数据、同一套模板或同一个判断器,那么十张选票并不等于十份证据。人数没有减少,但有效独立判断数已经下降。

AI使这一隐含前提变得前所未有地重要。过去,人们即便都犯错,也常常因为教师、书籍、专业传统、地域经验、职业工具和推理习惯不同而以不同方式犯错。一个人误读统计,一个人忽略制度边界,另一个人高估历史类比;这些错误并不理想,却给群体留下了交叉纠偏的机会。如今,大量人可能调用同一类基础模型、相近的训练语料与检索来源,使用从网络上复制来的相似提示词,再把AI输出改写成自己的文章、代码或建议。即使最终文本不完全一样,它们也可能共享同一个知识盲点和同一条推理路径。

因此,本章提出一个与“AI是否让个人更聪明”不同的问题:当个体平均错误率下降时,错误相关性会发生什么?如果每个人从20%的错误率降到10%,这是显著进步;但如果过去十个人的错误相互较为独立,而现在十个人在那10%的困难问题上高度同步出错,那么群体可能更少犯小错,却更难发现剩下的大错。这不是概率意义上的矛盾,而是把“平均准确率”和“联合失效结构”区分开之后自然出现的结果。

更值得警惕的是,共同错误并不会停留在第一次输出。AI生成的文本可以被搜索引擎收录、被作者互相引用、被组织写进模板、被媒体再摘要、被新一轮AI当作上下文,甚至在更广义的数据循环中重新进入后续模型训练。Shumailov等人的研究从模型训练层面显示,递归使用模型生成数据可能导致分布逐步退化和模型崩塌[11];在人类文化层面,同样需要追问一种不同但相似的反馈:当模型生成的表达不断回到社会信息环境,它是否会把原本依赖的共同偏差伪装成日益稳固的社会共识?

本章的核心任务由此确定:不是证明生成式AI必然导致群体单一化,而是建立一个能够解释“个体提升与集体脆弱可以同时发生”的机制框架,并明确什么条件下这种风险会上升、什么样的制度设计可以保留AI带来的平均绩效收益,同时阻断共同错误的相关化、社会放大与自我强化。

跨学科互否方法:三门学科为什么在这里遇到的是同一个问题?

如果只做第一阶跨学科拼接,我们可以很容易得到三个口号:机器学习告诉我们“模型要多样”,文化进化告诉我们“不要盲从”,生态学告诉我们“避免单一化”。这些结论都正确,却不足以形成新的理论。跨学科对撞要求继续追问:三门学科为什么会分别产生“多样性”这个概念?它们所面对的深层困难是否同构?

统计学习理论研究集成系统时发现,多个预测器的整体表现不只取决于每个预测器各自多准确,还取决于它们犯错时是否一起犯错。经典的偏差—方差—协方差视角以及后续的多样性理论都说明,模型之间的统计依赖会改变集成收益[1][2][3]。文化进化论研究社会学习时发现,复制成功者、声望者和多数人通常可以节省个体试错成本,但过强的高保真复制与从众会收缩变异,使一种路径一旦占优便更容易自我强化[19][21][22]。生态学则发现,生态系统的韧性不能只看有多少物种或单个物种表现多好,而要看承担相同生态功能的成员在环境变化时是否作出不同响应;这种“响应多样性”决定了同一扰动是否会让整个功能同时失灵[16]。

三者的共同问题可以压缩为一句话:系统可靠性取决于单元质量,也取决于单元之间的失效相关结构。 如果所有单元都以不同方式失败,系统可以通过冗余、比较和替代维持功能;如果它们以同一种方式失败,冗余就会退化为复制。由此,本章不把“多样性”理解为价值口号,而把它定义为一种失效去相关资源。

在这个共同结构上,三门学科承担不同层次的解释任务。统计学习理论回答“为什么相关错误会吞噬群体集成收益”;文化进化论回答“为什么高性能AI恰恰可能使这种相关性随着使用扩散而上升”;生态学回答“为什么一个平时效率更高、更整齐的认知系统,面对罕见扰动时反而可能更脆弱,以及应该保留什么样的异质冗余”。三者碰撞之后,我们才能从静态的“答案多样”推进到动态的“群体认知韧性”。

第一重碰撞:统计学习理论——平均错误率不是群体错误风险的充分统计量

设群体中有n个判断者,每个判断者在某一关键任务上是否出错记为X_i∈{0,1}。如果每个判断者的平均错误概率为p,且两两错误指示变量的平均相关系数近似为ρ,则群体平均错误率 X̄ 的方差可以写成一个常见的等相关近似:

Var( X̄ ) ≈ [p(1−p)/n] · [1 + (n−1)ρ]

其中,p表示平均个体错误概率,ρ表示不同判断者错误之间的平均两两相关。该式并不直接给出多数决策出错概率,却清楚显示:当ρ上升时,增加人数所带来的方差压缩会被迅速削弱。

相关性如何吞噬人数优势

这个式子揭示了一个重要事实:当ρ接近0时,增加人数能够以约1/n的速度压低平均误差的不确定性;而当ρ显著为正时,n个判断者中有一部分只是统计意义上的“重复”。据此可以定义一个直观的有效独立判断数:

N_eff = n / [1 + (n−1)ρ]

N_eff可理解为在等相关近似下,与当前群体具有相似平均误差方差的“独立判断者数量”。它不是现实社会中精确的独立人数,而是一种把“人数”与“信息独立性”分开的概念工具。

“十个人只剩一种错误”为什么不是修辞,而是可计算的结构变化

假设一个十人群体在没有共享AI时,个体错误率约为20%,错误相关系数只有0.05,则N_eff≈10/[1+9×0.05]≈6.90;使用高性能AI后,个体错误率降到10%,看上去每个人都进步了,但如果由于共享模型与共同资料源使错误相关系数上升到0.80,则N_eff≈1.22。这个示例不是对现实数据的估计,而是说明一种可能性:参与人数不变、平均准确率提高,有效独立证据数量却可以大幅下降。

这并不意味着群体总体一定更差。对大量常规问题而言,更低的p往往仍然带来明显收益;真正变化的是尾部风险结构。过去的错误更分散,群体中往往有人能在别人出错时提出不同答案;现在的错误更少,却更可能集中在模型共同不擅长、共同过时或共同偏置的那一小部分问题上。于是,平时体验变得更顺畅,罕见共同失效却更难从内部暴露。

Kim、Garg、Peng与Garg对数百个大语言模型的实证分析提供了直接警示:不同LLM的错误并不天然独立;在其分析的HELM数据上,当两个模型都答错时,它们选择相同错误答案的平均比例约为60%,明显高于在三个错误选项中均匀随机选择所对应的1/3;同一提供商、相似架构会提高错误相关性,而且更准确的模型之间也可能表现出更高的错误相关性[10]。这说明“换一个模型再问”不能自动等价于获得一份独立证据。

统计学习由此给出本章的第一条关键命题:群体平均认知绩效的改进,必须与错误相关性共同报告。 只告诉我们“十个人使用AI后平均得分从70提高到85”,不足以判断群体韧性;还需要知道,那15分的剩余错误是否集中在同一批题、同一类事实、同一类反例或同一类推理失效上。

从“预测多样性”到“认知异源性”:真正需要多样的不是措辞,而是错误函数

机器学习中的“多样性”并不是简单要求每个模型输出不同答案。一个故意胡说八道的模型当然很“不同”,却不会提高集成质量。Wood等人的统一理论强调,多样性应放在偏差、方差与模型拟合的整体权衡中理解,而不是无限最大化[1]。同理,AI时代的群体认知也不需要为了多样而多样。真正有价值的是:在保持足够个体能力的前提下,不同判断路径对问题中的风险点具有不同敏感性。

本章把这种资源称为“认知异源性”。它至少包含五个维度:第一,来源异源性,即证据来自不同数据库、不同机构、不同历史经验,而不是十个人都从同一摘要中取材;第二,模型异源性,即不同工具的训练、架构、检索后端或治理机制不完全同源;第三,方法异源性,即有人做统计检验,有人做因果分析,有人做案例反证,有人做代码执行;第四,经验异源性,即参与者拥有不同专业与现场经验;第五,激励异源性,即群体中存在被允许挑战主流结论而不因“不合群”受罚的角色。

这五种异源性最终要落到一个更严格的问题上:当同一个关键错误发生时,是否至少有一条路径不会同时失效?如果十个作者使用不同写作风格,却都依赖同一个AI检索出的错误数据,那么表面上有十种声音,实质上只有一个证据源;反过来,两个人即便最终得出相同结论,只要一人通过原始数据重算,另一人通过不同数据库与反例检索验证,他们就提供了更高的认知独立性。

因此,“观点多样性”只能作为粗糙代理。真正需要测量的是“失效模式多样性”。这也是本章从统计学习进入文化与生态层面的桥梁:一个社会可以表现得十分热闹、文本十分丰富,却在深层认知基础设施上越来越同源。

第二重碰撞:文化进化论——为什么越成功的AI,越可能加速认知路径趋同?

如果相关错误只来自“大家恰好用了同一个工具”,问题似乎可以通过鼓励多用几个工具解决。但AI的特殊之处在于,它不仅是一个工具,还会进入文化传递过程。文化进化论研究表明,人类并不是每次都从头独立学习,而会使用一系列社会学习偏置:复制看起来成功的人、受尊敬的人、被很多人采用的方法,通常能显著降低学习成本[19][20][21]。在大多数环境中,这些偏置是适应性的;问题在于,它们会把“当前看起来成功”转化为“未来更容易被复制”。

高性能生成式AI恰好提供了极强的成功信号:速度快、表达完整、错误率较低、能跨越专业门槛,还能把普通人的产出迅速抬升到“像专业作品”的水平。于是,使用AI本身成为一种可见成功策略。个体看到同事借助某模型写得更快、考试准备更充分、代码交付更及时,自然会复制其工具、提示词和工作流;组织看到某模板效率高,也会把它标准化。这是一种典型的成功偏置扩散。

当成功偏置与规模平台结合时,文化变异会进一步收缩。过去,一个新人可能分别从五位教师、三本教材和一次亲身失败中形成自己的方法;现在,他可能直接获得一个经过大量人类文本压缩后的“最佳实践答案”。这当然节省时间,但也跳过了许多原本会产生差异的中间路径。文化传播从“多人、多链条、低速变异”转向“少数模型、高保真、低成本复制”。

更复杂的一层是声望偏置与二阶线索。Jiménez与Mesoudi总结的声望偏置研究指出,当我们难以直接判断一个人的能力时,会使用其他人对其关注和敬重程度作为间接线索[21]。在AI环境中,这种机制可能被转译为:某答案被大量引用、某模板出现在很多报告里、某模型被很多专业人士使用,于是“很多人都在这么做”反过来成为可信度线索。然而,如果这些人本来就依赖同一模型,那么所谓“很多独立主体的支持”其实是一份源头被复制了很多次的证据。

从众传递会进一步强化这种错觉。Denton等人关于从众与反从众文化传递的模型显示,从众偏置能够深刻改变文化变体的频率动力学[22]。对AI输出而言,一种说法一旦占据高频位置,就更容易进入搜索结果、培训材料、组织范文与下一轮写作,从而提高被再次观察和复制的概率。此时,流行不再只是结果,也成为下一轮传播的原因。

本章据此提出“共识独立性折扣”:当我们观察到m个主体持有同一判断时,不能直接把m当成m份证据,而应追问它们背后的来源与生成路径有多少是独立的。如果十篇文章都直接或间接由同一基础模型和同一原始来源生成,它们的社会可见度可以是十倍,证据独立性却可能接近一倍。这种“可见共识膨胀”是AI时代文化传播中特别值得治理的机制。

相关错误放大回路:一次局部模型偏差如何长成“大家都这么认为”

三门学科碰撞到这里,可以构造出一条完整的动态回路。第一步,某高性能模型在绝大多数任务上显著提高用户表现,于是获得信任与使用规模;第二步,更多个体采用同一模型、同类检索源和相似提示模板,群体错误相关性上升;第三步,模型在某个少见问题上存在共同盲点,很多人独立操作却得到相近错误答案;第四步,这些答案被写入文章、代码注释、内部文档、社交媒体与数据库;第五步,后来者看到“多个来源都这样说”,把重复复制误认成独立支持;第六步,主流答案频率上升,异质路径因为成本更高、可见度更低而被进一步边缘化;第七步,下一轮AI检索与人类写作又从这一被放大的信息环境中取材,使原本局部的偏差获得路径依赖。

这条链条可以称为“相关错误放大回路”(Correlated Error Amplification Loop, CEAL)。它与经典的信息瀑布、回音室或错误传播并不完全相同。它的特殊性在于,第一步并不是低质量信息获胜,而是一个总体质量很高的系统因为成功而获得更大文化权重;正是高平均质量降低了人们保留替代路径的动机。风险因此不会首先以“大量明显错误”的形式出现,而可能以“绝大部分时间都很好用,偶尔大家一起错”的形式出现。

这也解释了为什么传统的错误率监控可能发现得太晚。只要模型在总体基准上持续进步,机构就会有理由继续集中采购与标准化;只要日常任务的平均质量持续提高,用户就会更愿意把独立检索和手工推导视为低效率。于是,认知异源性像一种看不见的储备逐步被消耗。直到遭遇一个恰好落在共同盲点上的高后果问题,系统才发现自己虽然有很多人、很多文档、很多“复核”,却缺少真正独立的第二条路。

因此,AI时代的系统性风险不应只用“模型会不会幻觉”描述。更深的风险是:一个原本局部可纠正的错误,通过成功偏置、复制便利与共识线索,转化为跨主体的共同失效。模型风险与社会传播结构在这里发生了二阶耦合。

第三重碰撞:生态学——为什么“功能都很好”仍然可能是一片认知单一林?

生态学提供了一个比“多样性越多越好”更精确的概念:响应多样性(response diversity)。Elmqvist等人把它定义为承担相同生态功能的不同物种对环境变化作出不同反应的程度,并指出这种差异对于生态系统在扰动后的更新与重组至关重要[16]。关键不在于物种名称不同,而在于当温度、干旱、病原或资源条件改变时,它们是否会同时失败。

这一概念迁移到群体认知非常有力量。一个组织需要很多人完成相同功能,例如审查合同、判断研究证据、评估投资方案、检测代码安全。功能冗余本来是好事:一个人失误,另一个人可以接住。但如果所有人都使用同一模型、同一数据库和同一推理模板,那么他们在日常条件下看起来效率极高、输出也整齐一致,却可能拥有极低的响应多样性。一旦共同模型在某一类条件上失效,所有“冗余”会同时失灵。

本章因此提出“认知响应多样性”(Cognitive Response Diversity, CRD):在群体成员执行相同认知功能时,面对事实扰动、反例、边界条件变化、数据异常或模型失效,能够产生不同检测信号、不同解释与不同纠错动作的程度。CRD不是要求每个人坚持不同意见,而是要求系统保留不同的响应函数。两个人平时完全可以都支持同一个结论,但当关键证据被撤掉时,一个人会从统计稳健性上发现问题,另一个人会从法理边界上发现问题;这就是高响应多样性。

生态学还提示我们区分“功能冗余”和“响应冗余”。十个完全相同的备份可以提高应对随机单点故障的能力,却不能抵御共同病原;十个不同品种承担相似功能,才更可能在环境突变时至少保留部分功能。认知系统同样如此:同一个AI答案由十个人分别润色,增加的是生产冗余;由不同模型、不同资料源、不同专业方法对同一承重结论进行复核,增加的才是响应冗余。

这也揭示“认知单一化”的真正含义。它不是所有人说同一句话,而是系统的关键功能越来越依赖少数共同的生成机制。当多样的职业训练、地方经验、手工技能与独立资料源逐渐退出日常使用,系统可能仍然保留人口学上的多样、表达风格上的多样,却在关键失效机制上变成单一作物。

新概念一:认知单一化悖论(CMP)——更高平均质量如何与更低群体韧性同时成立

基于上述碰撞,本章定义“认知单一化悖论”(Cognitive Monoculture Paradox, CMP):当一个高性能认知工具提高多数个体的平均表现,同时显著提高不同个体之间的错误相关性、压缩独立路径并强化同源社会传播时,群体可以在平均绩效上进步,却在发现和修正低频共同错误的能力上下降。

这个悖论至少包含四个彼此可分离的变量。A表示个体平均准确度;ρ表示关键错误相关性;D表示认知响应多样性;R表示群体在共同失效后的恢复能力。AI可能使A上升,同时使ρ上升、D下降;而R取决于群体是否仍保留未被共同模型吞并的替代路径。只报告A,会系统性高估这类系统的安全性。

因此,一个更完整的群体认知评估不应问“AI辅助后平均得分提高多少”,还应问:困难项目上的错误重合度是多少?不同人是否从真正独立的资料源得到相同结论?当移除共同模型或共同数据时,结论是否仍然成立?是否存在少数人能够在主流答案错时稳定发出异议信号?错误一旦形成共识,系统需要多大成本才能恢复?这些问题分别对应ρ、证据独立性、CRD与R。

CMP也解释了为什么“模型越强,问题自然会消失”并不充分。模型更强当然可以继续降低p,这是第一层收益;但如果整个社会越来越集中于少数强模型,那么ρ可能同时上升。两条趋势谁占主导,取决于任务类型与风险结构。对于大量低后果日常任务,p下降的收益可能远大于相关性代价;对于少数高后果、非常规、分布外问题,相关性代价可能成为决定性因素。

所以,本章并不主张为了多样性拒绝更强AI,也不主张人人都必须从头独立完成任务。真正需要的是把AI的“平均能力红利”与群体的“异源性储备”同时纳入设计,使系统在常规环境下享受规模效率,又在罕见扰动到来时仍拥有逃离共同错误的路径。

新概念二:认知响应多样性(CRD)——群体需要的是“同功能、异响应”

CRD可以进一步拆成四类响应。第一是证据响应多样性:面对同一事实争议,不同路径会调用不同来源,例如原始数据、法规原文、现场记录、独立数据库,而不是都检索同一二手摘要。第二是方法响应多样性:有人通过计算复核,有人通过反例测试,有人通过历史基准,有人通过因果识别。第三是异常响应多样性:同一异常出现时,有的路径检查数据质量,有的路径检查模型假设,有的路径检查制度约束。第四是价值响应多样性:在事实相同的情况下,不同角色能够暴露不同利益与风险权重,防止模型默认价值排序被误当成唯一答案。

一个高CRD群体并不一定在最终表决时分裂。恰恰相反,它可以比低CRD群体更快形成可靠共识,因为各条独立路径在关键点上已经完成交叉验证。真正要避免的是“先由同一模型形成答案,再让所有人围绕它做微调”。一旦共同锚点先出现,后续判断很容易变成相关修正,而不是独立推理。

由此可以把AI辅助流程分为两类。第一类是“先汇聚后分工”:AI先给全体一个标准答案,成员再分别编辑、检查和补充。这类流程效率高,但极易造成锚定与共因失效。第二类是“先独立后汇聚”:不同成员或代理在看见彼此答案之前,分别从不同来源/方法形成判断,最后才聚合。后一类成本更高,却能显著保护独立性。高风险任务应优先采用第二类。

Navajas等人的研究表明,把大型群体组织成若干彼此独立的小组先讨论,再聚合小组共识,可以在保留局部社会学习好处的同时获得高质量集体判断[33]。更广泛的集体智能研究也显示,网络结构、信息流与独立性并非越密越好,而会与任务复杂度发生交互[6][7][28]。CRD因此不只是“人员构成”属性,也是流程与网络结构属性。

三学科同构表:从模型集成、文化传播到生态韧性

为了避免跨学科类比停留在修辞层面,可以把三门学科中的对应结构明确列出。三者都区分“单体表现”与“系统表现”,都承认相关性会削弱冗余价值,也都说明过度集中虽然提高短期协调效率,却可能降低面对新扰动时的恢复空间。

共同错误从哪里来:三个层级的共因失效

相关性不是一个抽象数字,它总要通过某种共同原因产生。第一层是“模型共因”:不同个体直接使用同一基础模型,或者使用虽然品牌不同但共享相似架构、训练数据与对齐方法的模型。此时共同错误可能来自知识截止、训练分布缺口、相似推理偏好或同类安全策略。Kim等人的结果说明,同提供商、同架构与模型规模都与错误相关性有关,但即使控制这些因素,更准确模型之间仍可能保持较高相关[10]。因此,表面上的产品多样不等于失效机制多样。

第二层是“证据共因”:即使人和模型不同,只要所有判断最终引用同一个错误原始来源,群体仍会共同失败。现实中这类共因尤其隐蔽,因为十篇文章可能分别由不同作者、不同模型写成,语言风格完全不同,但它们的关键数字都来自同一篇错误报告。若只看作者数量或文本差异,会把一个证据节点错误计为十个独立节点。共识谱系审计因此必须追溯到事实与数据的源头,而不能停在“用了几个模型”。

第三层是“文化共因”:不同人甚至可以拥有不同证据,却因为先接受同一个问题框架而共同遗漏某类替代解释。生成式AI非常擅长给出完整的问题表述、分类框架和标准论证结构,这能显著提高组织效率,却也可能让群体在尚未意识到“问题还可以怎样被问”之前就共享同一认知坐标系。此时共同错误不表现为某个事实错,而表现为共同没有提出某个关键问题。

这三个层级可以形成嵌套:同一模型提供共同框架,共同框架引导大家检索同一类资料,同一类资料又强化最初框架。于是,共因失效并不一定能够通过“再增加一个人”解决;如果新加入的人仍进入同一个模型—资料—框架闭环,他只会提高可见共识,不会提高有效独立性。

因此,评估群体异源性时至少要问三个“不同”:底层生成机制是否不同?承重证据是否不同?问题框架与检验方法是否不同?只要三者全部同源,人数再多也更像一个放大的单体系统。反之,哪怕只有两三条路径,只要它们在这三个层级中至少有一个关键层真正独立,就可能对共同错误形成高价值屏障。

群体认知韧性不能压成一个平均分:四指标向量

为了避免用单一准确率遮蔽系统结构,本章建议把群体认知状态表示为一个四维向量G = (A, N_eff, CRD, T_c)。A是平均个体准确度,表示常规任务中的能力水平;N_eff是有效独立判断数,表示群体中真正可被视为不同证据路径的数量;CRD是认知响应多样性,表示在条件变化与共同盲点出现时,群体能否产生不同报警和纠错动作;T_c是纠错时延,表示共同错误一旦进入系统,从第一个异常信号出现到主流判断被修正需要多长时间。

这四个指标之间不存在简单的单调关系。一个高度标准化的AI团队可能拥有很高A、很低T_c于普通可测试错误,却同时拥有低N_eff和低CRD;另一个跨专业团队可能平均速度稍慢,却在分布外问题上拥有更高CRD。真正的系统设计不是追求四项全部最大化,而是根据任务后果寻找组合。对于低风险任务,A与速度最重要;对于高风险任务,N_eff、CRD与共同错误的T_c具有更高权重。

T_c尤其值得强调,因为“能不能最终纠正”与“能不能在造成现实后果前纠正”并不等价。一个错误如果六个月后被学术界修正,却已经在此期间进入成千上万篇AI辅助文本,其传播成本可能巨大;一个软件安全错误如果上线五分钟后就由独立监控捕捉,系统韧性仍然较高。生态学中的韧性同样不仅关心扰动后是否恢复,也关心功能在扰动期间如何维持。

由此,群体认知评测可以从“谁答得最准”升级为“谁在什么情况下会一起错、谁能先发现、系统多久能恢复”。这比文本多样性指标更接近真正的公共风险,也使认知单一化成为可实验、可比较的系统属性。

一个十人团队的思想实验:为什么平均错误更少,重大共同错误仍可能更难发现

考虑两个都由十人组成的分析团队。团队H主要依靠不同人的专业训练完成任务,成员平均错误率20%,错误之间相关性较低;团队A全部使用一个高性能AI,成员平均错误率降为10%,但错误高度相关。对100个普通问题,团队A显然更舒服:多数成员更快、更准,重复劳动更少。仅看平均成绩,我们完全应该选择AI辅助。

现在加入第101个问题:它属于训练分布边缘,关键事实又恰好在共同模型中被系统性误解。团队H虽然平均能力较低,却可能因为一名成员来自不同专业、另一名成员查了不同数据库而出现两三个异议;团队A的十名成员则都得到同样流畅答案。由于过去100题中AI表现优异,团队A对一致性反而拥有更高主观信心。这个时刻,平均绩效红利与共同错误风险同时存在。

若第101题只是低后果知识题,问题不大;若它决定一次不可逆投资、生产安全设置或法律行动,共同错误的后果会突然占据主导。因此,认知单一化风险本质上与“错误后果分布”耦合:平均错误率下降主要改善日常损失,而相关性上升主要影响尾部联合损失。用平均准确率评价高后果系统,就像只用平常产量评价一片单一作物,却忽略同一种病害可能让整片农田同时失收。

最合理的策略并不是让团队A退回全部手工工作,而是在第101类高风险问题上引入一条低相关路径:例如一名成员不看AI结论,直接核对原始数据;或者调用不同方法做反事实测试。只要这一条路径能够在共同模型出错时产生异信号,十人团队就重新获得了关键的响应多样性。异源性预算的意义正是在此:用很少的额外成本购买一份与主导系统不共因的保险。

从“共同错误”到“共同承诺”:风险真正跃迁发生在哪里?

共同错误本身并不自动构成系统灾难。一个群体可以在草稿阶段共同犯错,只要错误尚未进入不可逆行动,仍然有充足机会被外部反馈纠正。真正的风险跃迁发生在“共同认知”变成“共同承诺”的那一刻:报告被正式发布、代码被部署、资金被划拨、合同被签署、政策被执行、训练数据被纳入下一轮系统。此时,错误从信息状态跨越为现实状态。

因此,相关错误治理必须与承诺点绑定。低CRD并不意味着每个草稿都要暂停;它意味着在高后果承诺点之前,系统必须补上一条足够独立的路径。换言之,群体可以共享AI完成90%的生产过程,但不能让共享AI同时成为最后一道裁决机制。最终承诺越不可逆,越要确保至少存在一个不与主导路径共因的证据来源或责任主体。

这一设计也能避免“为了独立而独立”的成本膨胀。许多早期想法、探索性分析和内部备忘录可以允许高度同源,因为它们仍处在可回滚阶段;只有当结论准备穿过现实边界时,独立性要求才显著上升。这样,认知响应多样性就不再是一种全天候的昂贵冗余,而是一种在关键承诺点被激活的韧性机制。

进一步说,AI时代的群体治理需要区分三种状态:生成态、验证态与承诺态。生成态追求速度和覆盖;验证态追求失效暴露与证据去相关;承诺态要求责任主体确认残余共同错误风险已经可接受。若三种状态被混在一起,团队很容易把“十个人都看过”误当成验证完成。真正关键的不是看过多少人,而是在进入承诺态之前,是否已经引入足以打破共同错误的独立信号。

由此还可以提出“独立性保存率”这一未来指标:比较一个任务从最初个体判断进入AI协作、多人讨论、文档汇总再到最终承诺的全过程,最初存在的独立证据路径有多少在中途被合并、覆盖或遗忘。一个系统即使起点拥有多元团队,如果所有分歧都在第一轮AI总结时被压成统一表述,最终仍可能表现为低独立性。保护CRD因此不仅是增加新路径,还包括防止已有的独立信号在汇聚过程中被过早抹平。

为什么“多模型”仍不必然等于“多路径”:从品牌多样性到功能异源性

一个看似直接的解决办法,是让不同成员分别调用不同的生成式AI模型,再把答案相互比较。但“使用多个模型”只能构成候选的异源性,并不能自动构成有效独立性。不同模型可能共享大量公开互联网语料、相似的人类反馈规范、相近的检索入口与主流知识框架;即使参数架构和提供商不同,它们在某一具体问题上的失效原因仍可能高度重合。因此,模型数量是一种结构性代理变量,而不是独立性的最终判据。

真正需要测量的是“功能异源性”:当主导路径发生某类错误时,另一条路径是否有较高概率给出不同报警。两个模型若在常规问题上措辞差异很大,却在关键反例、边界条件和缺失证据上总是一起失败,它们对群体韧性的贡献就很有限;相反,一个AI模型与一名直接读取原始实验记录的人,即使最终结论经常相同,只要二者的证据获取和失效机制不同,就可能形成高价值的独立组合。

这也意味着,未来不应只用“答案相似度”评估认知多样性,而应进行失效扰动测试:人为改变证据来源、加入反例、删除主流线索、改变问题表述或制造分布外条件,观察不同路径的错误是否仍同步发生。若在这些扰动下交叉错误率持续很高,则说明所谓多模型系统仍然接近认知单一化;若某些路径能稳定地在其他路径失效时产生异常信号,它们才真正提高CRD。

此外,人类自身也不能被浪漫化为天然独立源。十名专家若受同一教材体系、同一行业规范和同一机构激励塑造,同样可能共享盲点。因此,本章所说的“异源”从来不是人机二分,也不是品牌二分,而是对证据、方法、训练历史和责任结构的共因审计。最有韧性的组合可能是人+AI,也可能是不同专业的人、不同工具链的AI,或现场测量与模型推断的交叉。

由此可以提出一个更严格的设计原则:不要购买“多答案”,而要购买“低相关失效”。群体需要的不是十个看起来不同的说法,而是在关键错误发生时仍能至少有一条路径拒绝随主流一起失败。这个原则把模型选择从功能排行榜问题转化为系统可靠性问题,也使认知响应多样性具有了可操作的工程含义。

表面共识与真实共识:AI时代为什么必须给“多数”打独立性折扣?

在传统群体决策中,多数意见之所以具有信息价值,一部分原因在于不同个体拥有不同私有信号。若100个人分别观察世界后有80个人得出同一结论,这个80%通常比一个人的判断更有分量。但如果100个人先看了同一个AI答案,然后80个人表示赞同,80%并不具有同样的信息含量。两种情形的“票数”相同,生成过程完全不同。

Lorenz等人的经典实验表明,社会影响可以降低群体判断的多样性,却不一定改善集体误差,并可能使参与者对收敛后的答案更加有信心[4]。AI让这一问题具有新的强度:一个模型不是普通同伴意见,而是一种极其流畅、覆盖广、可即时解释的高权威锚点。它能够在群体成员形成第一判断之前就提供一个完整叙事,从而改变后续意见的相关结构。

因此,在研究综述、政策咨询、投资委员会或医疗会诊中,仅统计“有多少人同意”越来越不够。更重要的是记录每个判断的证据谱系:哪些成员在看AI答案前已有独立判断?哪些成员调用了不同模型?哪些结论基于共同数据库?哪些异议真正来自独立来源?这可以称为“共识谱系审计”。

本章提出一个原则:共识强度应按证据独立性折扣,而不是按人数原值计价。 当多个判断共享同一来源、模型或推理模板时,应把它们视为一个相关簇;真正增加集体信心的是来自不同簇的一致,而不是同一簇内部的重复。这个原则与上一篇“最小充分验证路径”中的独立第二路径可以自然衔接:对高后果结论,至少需要一个不属于主导认知簇的验证路径。

为什么AI会使异议更难出现:从“异议成本”到“反常识税”

共同模型不仅提高主流答案的生成效率,也可能提高异议的相对成本。过去,大家都要花三小时查资料,一个异议者多花一小时寻找反例并不算太离群;当AI把主流答案压缩到三分钟后,仍坚持从原始资料重建问题的人,成本可能高出十倍。随着组织越来越追求速度,这种人很容易被评价为低效、固执或“不会用AI”。于是,异源性不是被禁止,而是在成本结构中自然退出。

这种现象可以称为“反常识税”:当主流认知路径由高性能AI大幅降价,任何拒绝共同锚点、保留独立路径的人都要支付额外时间、技能与社会解释成本。若组织没有为这种成本设置预算,异议最终只会保留在那些个人动机极强的人身上,难以成为稳定系统能力。

文化进化论中的成功偏置进一步放大这种成本差。主流AI工作流不断产生可见成功案例,少数路径则只有在主流出错时才显示价值;但低频重大错误本来就很少出现,因此少数路径的贡献在日常绩效指标中经常不可见。组织会倾向于削减“平时看起来没有产出”的冗余,就像把备用系统视为闲置成本。

生态学的视角恰好提醒我们:韧性资源的价值往往只在扰动到来时显现。一个耐旱物种在正常降水年份可能并不高产,却在极端干旱中维持系统功能;一个坚持使用原始数据和不同模型的审查者,在99次普通任务中可能只是慢一点,却可能在第100次共同模型失误时成为唯一的纠偏入口。

因此,保护认知异源性不能只靠“欢迎不同意见”的文化口号,还需要在绩效制度中承认冗余价值:为独立核验预留时间,为少数报告设置正式入口,让“发现主流错误”成为可计量贡献,而不是把所有人都按平均产出速度评价。

什么时候趋同是好事,什么时候趋同变成危险?

并非所有认知趋同都值得担心。科学进步本来就包含对更优理论的收敛,工程标准化可以显著降低接口错误,统一法律文本能减少歧义,成熟软件库也比每个人重复造轮子更可靠。问题不是“大家相同”,而是“为什么相同”和“相同之后是否还有逃生路径”。

本章给出四个判断条件。第一,证据可验证性:如果结论可以被低成本、客观测试,例如程序是否通过测试、计算是否重算一致,那么趋同风险较低;如果结论涉及不可观察因果、未来预测或稀缺信息,相关错误更难暴露。第二,错误后果:低后果任务可以用效率优先,高后果任务需要更高CRD。第三,环境稳定性:在重复、稳定、分布内任务中,统一最优流程通常有效;在快速变化、分布外或对抗环境中,异响应更重要。第四,可逆性:错误可快速回滚时可以更集中;不可逆决策则需要更多独立路径。

由此可以形成一个“趋同—异源性调节原则”:常规、可验证、低后果、可逆的任务允许高度AI标准化;新颖、难验证、高后果、不可逆的任务必须提高异源性预算。不是给所有任务强制多模型、多专家,而是把CRD当作一种按风险配置的资源。

这也是生态学与工程思想的共同点:系统并不需要在所有部件上无限多样,而要在共同失效最危险的关键功能上保留足够独立冗余。认知治理同样应把多样性资源集中在承重判断、关键预测、事实不确定区和价值冲突区。

四类AI协作场景:认知单一化风险如何具体出现

14.1 研究与学术写作。若大量研究者用同一模型做文献综述、生成研究问题和解释结果,平均写作结构可能显著改善,但“哪些文献先被看到、哪些解释最自然、哪些反例值得追”的入口也更可能趋同。最危险的不是句式相似,而是同一篇关键论文被错误概括后,被不同作者从AI输出中反复引用,最终形成虚假的二级共识。对策不是禁止AI写综述,而是要求关键结论至少有一条原始文献路径、一个对立检索式和一个非同源数据库。

14.2 编程与软件工程。高性能代码模型可以让更多人写出可运行代码,但如果团队大量依赖同一模型生成权限控制、异常处理或数据库操作,常见漏洞模式可能跨项目复制。十名工程师分别让同一模型“审查安全问题”也不等于十次独立安全审计。高后果模块应保留不同静态分析器、不同测试策略、人工威胁建模或独立安全团队,目的就是降低共同失效。

14.3 法律与政策分析。法律任务高度依赖法域、时间、事实前提与例外。模型若对一个最新修法理解错误,多个分析师共享同一模型后可能同步给出措辞完美但适用错误的意见。随后这些意见在组织内部互相引用,会制造“我们多个部门都得出一致结论”的外观。这里最重要的是共识谱系:一致究竟来自多次独立法源核对,还是来自同一个AI摘要。

14.4 商业与战略决策。AI可以快速生成SWOT、市场规模、竞争分析和情景预测,减少团队的信息整理成本;但如果所有团队在会议前都看到同一份AI总结,独立判断在开会前已经被锚定。真正的“十人决策”可能退化为“一份AI先验+十个相关修订”。对于重大决策,可以要求关键参与者先提交盲独立判断,再开放AI综合;或者把团队分为使用不同数据/模型的两组,最终再对冲差异。

实证证据已经出现到什么程度:我们知道什么,又不能过度推出什么?

本章的理论并非建立在“AI一定让所有人变得相似”的假设上。当前经验研究呈现的是条件性结果。Doshi与Hauser发现,生成式AI可以提高个体创造性评价,同时降低群体故事之间的多样性[8];Hosanagar与Ahn的实验研究也观察到AI参与程度提高时,聚合层面的内容多样性可能下降,而保留人类在早期创意任务中的参与可以缓解这种趋势[34]。另一方面,Ashkinaze等人的动态实验发现,高强度暴露于AI创意在其任务设计中反而提高了集体创意多样性[14]。这说明“AI→单一化”不是机械定律,而取决于模型采样、任务、交互设计和信息网络。

这种不一致反而强化了本章的观点:我们不应只测最终文本相似度,而应测“失效相关性”和“响应多样性”。两个故事可以语义不同,却在事实问题上共享同一错误;两个法律意见可以措辞相似,却分别经过独立法源验证,因此并不存在同等风险。表面内容多样性只能回答“看起来有多不同”,无法直接回答“遇到共同扰动会不会一起错”。

Kim等人对LLM错误相关性的研究为共同失效提供了更直接证据[10],但它仍主要测量模型之间,而不是“人+AI”群体。未来真正关键的实验应比较四种群体:纯人独立判断、共享同一AI、使用不同AI、使用同一AI但强制独立资料源;同时记录平均准确率、错误重合度、少数正确者比例、共识形成速度与错误纠正时间。只有这样,才能直接检验CMP。

同时,Burton等人关于LLM与集体智能的综述指出,LLM可能同时改变信息获取、协调、偏差与群体多样性,影响方向取决于具体制度设计[9]。因此本章的定位是“机制理论+可检验预测”,而不是把尚未充分测量的社会长期效应写成既成事实。

六条可检验命题:如何把“认知单一化”从隐喻变成研究对象

命题一:平均绩效—相关性分离命题。 在AI辅助条件下,个体平均准确率可以上升,同时个体错误指示之间的相关系数ρ上升;两者在经验上应被分开估计。若只测平均分,会漏掉系统性共同失效的变化。

命题二:有效独立数下降命题。 在参与人数n固定时,随着ρ上升,N_eff下降;当N_eff显著下降时,多数投票、重复复核和多代理一致性所带来的置信增益应按相关性折扣。

命题三:成功偏置加速命题。 AI在常规任务上带来的可见绩效优势越大,个体越倾向复制其工具和工作流;如果模型生态高度集中,这种复制会比低性能工具更快压缩来源与方法异源性。

命题四:共识伪独立命题。 当AI生成内容被大量复制进入社会信息环境后,后来者会把同源重复误判为多源支持;若向判断者披露信息谱系,主流答案的可信度评价将发生系统变化。

命题五:响应多样性—尾部韧性命题。 在常规任务上,低CRD群体可能与高CRD群体表现相当甚至更高效;在分布外、规则突变或共同模型盲点任务上,高CRD群体应具有更高的至少一人正确概率、更短的纠错时间和更低的错误传播范围。

命题六:独立优先命题。 “先独立判断后看AI/他人答案”的流程,相比“先看统一AI答案后分别复核”,应产生更低的错误相关性和更高的异议发现率,即使最终平均准确率差异不大。

治理框架一:给共识做“独立性会计”,而不是只数赞成票

第一个治理工具是“共识独立性账本”。对高风险结论,每个支持判断至少记录三个标签:主要模型/工具、主要证据源、主要方法。若多个判断共享同一三元组,就把它们视为一个认知簇,而不是多份完全独立证据。组织不必为所有日常任务做这件事,但在重大投资、科研结论、法律意见、安全部署等场景中,这一成本是可接受的。

第二个工具是“独立性折扣后的共识强度”。例如委员会十人中九人支持某方案,但其中八人都基于同一个AI生成的市场分析,只有一人使用独立数据源,那么不能简单写“9/10专家一致”。更准确的表述应该说明共识的来源结构。这样做并非贬低AI,而是恢复证据计数的基本诚实:复制不能被当成重复观察。

第三个工具是对AI多代理系统应用同样标准。多个代理只要共享同一基础模型、上下文与检索源,就可能具有强共因失效。多代理讨论可以提高搜索和推理覆盖,但“几个代理都同意”不能自动获得与几个独立专家同等的置信增益。至少一个代理需要在数据、模型家族、工具或验证方法上真正异构。

治理框架二:异源性预算——不是人人都独立重做,而是在关键处买一条不同的路

保护认知异源性的最大现实障碍是成本。如果要求每个人在使用AI后都完全独立重做一次任务,效率红利会被抵消。因此本章提出“异源性预算”(Heterogeneity Budget):组织不追求全流程人人异构,而是在共同失效后果最高的节点,预先分配少量资源维持独立路径。

异源性预算可以有四种支出方式。第一,模型预算:关键判断至少使用一个不同模型家族或不依赖LLM的工具;第二,资料源预算:承重事实至少从一个独立原始源核对;第三,方法预算:核心结论至少用一种不同于生成路径的方法验证,例如AI做定性综述,人用数据复算;第四,人员预算:保留至少一个不先看主流答案的审查者。

这种设计与“最小充分验证”思想一致:不是让所有地方都多样,而是找到结论翻转集与共同故障点,在那里买独立性。对低后果内容,单模型高效生成完全合理;对关键节点,则必须把一部分节省下来的认知劳动重新投资到失效去相关上。

可以把异源性预算理解为AI效率红利的一部分保险费。一个组织若因为AI把原来十小时的任务降到两小时,未必要把节省的八小时全部转化为更多产量;在高风险任务上拿出其中一小时建立独立路径,仍然拥有巨大净效率增益,却显著提高系统韧性。

异源性预算与本书第八章的最小充分验证共用一条原则,此处需要说明它们的分工,以免读者以为是同一件事重复了两遍。

两章共同承认:同源的重复不构成独立的证据。差别在使用方向。第八章面对的是一份已经生成的输出,问题是"用什么样的验证动作,以最低成本压缩掉那些会翻转结论的风险";本章面对的是一群将要形成共识的判断者,问题是"如何在共同失效发生之前,保住至少一条不会一起错的路径"。前者是事后的风险压缩,后者是事前的多样性保全。

这个分工有一个实践后果:第八章的验证可以在结论产生之后补做,本章的异源性不能。一旦所有人都已经看过同一份 AI 生成的分析,异源性就无法通过事后增加检查来恢复——这正是本章"先独立,后汇聚"之所以是顺序问题而非努力问题的原因。因此在高后果任务上,本章的措施必须先于第八章的措施部署;两者的次序不可互换。

治理框架三:保护少数路径——让“平时看起来多余”的人和方法在关键时刻仍然存在

生态系统中的稀有功能与响应类型在平常时期容易被低估,认知系统亦然。组织如果只按平均效率优化,很可能逐步淘汰手工检索、独立推导、小众数据库、非主流模型和不同专业视角。短期看,这是标准化;长期看,却可能把所有纠错能力集中到同一基础设施。

因此,高风险组织需要“少数路径保护”。这不是保护任何特定反对意见,而是保护至少一条不依赖主导路径的能力。例如:研究团队保留能直接读原始文献的人,软件团队保留独立安全工具链,法务团队保留权威法源检索,投资团队保留不看市场共识先写反方备忘录的角色。

少数路径必须被制度化,否则它会在日常绩效压力下自然消失。可以采用轮值红队、盲独立预判、双轨检索、异构工具强制项、定期“断AI演练”等方式,使替代路径保持可用。所谓断AI演练,不是反技术,而是测试:当共同模型不可用或明显失效时,团队是否仍有能力恢复关键判断。

Shirado与Christakis的网络实验甚至发现,在某些协调任务中,少量行为上带有噪声的自主代理反而能帮助人群摆脱局部僵局、提升全局协调[30];Ueshima等人的研究也显示,简单自主代理可以增强人类群体的创造性语义发现[29]。这些结果共同提示:系统中的“非一致性”并不总是成本,适度设计的异质扰动可以成为探索与纠偏资源。

治理框架四:“先独立,后汇聚”——改变信息顺序,比要求大家勇敢反对更有效

群体认知单一化有一个高度可操作的控制变量:信息出现的顺序。如果AI标准答案在最开始就展示给所有人,后续判断很难真正独立;如果先要求成员形成初始判断,再开放AI与群体信息,至少可以保存一轮未被共同锚点污染的信号。

因此,对高风险任务可以采用三阶段流程。第一阶段“盲独立”:关键参与者分别形成简短初判,并记录最关键的证据和不确定点;第二阶段“AI扩展”:使用AI补充资料、挑战假设、生成反例和备选方案;第三阶段“结构化汇聚”:比较各路径分歧,优先调查那些由不同独立路径产生的冲突,而不是简单投票。

这一流程看似比直接让AI先写答案慢,却并不需要每个人完成完整报告。独立阶段可以只要求回答几个承重问题,例如“最可能使本结论失效的三项事实是什么”“你当前首选方案及置信度是多少”。只要这些初始信号在共同锚定之前被保存,就能显著提高后续共识的可解释性。

对多人+多AI系统亦可如此。不同代理先在隔离上下文中独立推理,使用差异化工具与资料源,再进入辩论;而不是所有代理共享同一长上下文反复互相引用。独立先行并不能消除共同训练语料带来的相关性,但能减少由直接社会影响和共同锚点造成的额外相关。

风险分级:哪些任务最需要认知响应多样性?

CRD不应成为所有AI使用场景的统一合规负担。本章提出四级风险:L0为创意探索与可随时撤销的低后果任务,重点追求效率,不要求额外异源性;L1为普通知识工作,关键事实做来源抽查即可;L2为重要专业判断,需要至少一条独立资料或方法路径;L3为高后果、不可逆或系统传播任务,需要结构化异源性预算、共识谱系审计和独立第二路径。

风险升级信号包括:结论将直接触发资金、法律权利、医疗处置、生产系统变更;错误会被自动传播给大量下游用户;问题高度新颖或处于模型知识边界;多个参与者都使用同一AI;搜索结果高度同质;结论缺少可快速实验验证;或者主流答案的支持主要来自互相引用的二手资料。

相反,如果任务能够被快速客观测试,例如一段本地脚本是否正确解析文件,哪怕所有人都用同一AI也未必需要很高CRD,因为外部执行结果本身就是强独立反馈。认知异源性是为“没有便宜真值反馈”的场景准备的昂贵资源。

对AI产品设计的启示:不要只优化“给出更好的一个答案”,还要优化“保留不同的可检验路径”

当前许多AI产品的默认目标是给用户一个更完整、更一致、更自信的答案。从单用户体验看,这非常合理;从群体韧性看,却可能产生过度中心化。未来产品可以增加“异源模式”:在高风险问题上,不只是给三种措辞,而是明确调用不同来源、不同方法或不同模型角色,展示哪些部分共享证据、哪些是真正独立得到。

第二,产品可以显示“证据谱系”。当一个回答引用多个网页时,应尽量帮助用户识别这些网页是否都转载同一个原始来源;当多个代理都同意时,应显示它们是否共享同一基础模型与检索结果。这样,用户才能区别“多次重复”与“多源一致”。

第三,产品可以支持“盲独立回答”。在团队场景中,系统先私下收集成员初判,再统一展示AI建议和同伴意见,降低早期锚定。第四,系统可以在检测到高模型集中度时提示“当前结论主要依赖单一认知簇”,并建议添加独立资料源或第二方法。

第五,对模型评测也应增加“生态指标”。除了单模型准确率、幻觉率和基准得分,可以测量不同模型之间的错误相关矩阵、模型簇结构、共同盲点以及多模型组合的有效独立数。一个稍弱但错误模式高度互补的模型,在生态系统中可能比又一个高度同质的强模型更有公共价值。

对教育的启示:AI时代真正不可外包的,不只是“会不会独立做题”,而是“能不能生成异源判断”

如果教育仍把“独立完成所有认知劳动”作为理解的唯一证明,它会错过AI带来的真实能力扩展;但如果教育只训练学生会向AI提问和整合答案,又可能让一代人的推理路径高度同质。更合适的目标,是培养学生在使用AI的同时保留生成独立信号的能力。

例如,同一个问题可以要求学生先给出自己的最小判断,再让AI回答,随后比较差异;要求学生寻找一个足以推翻AI结论的反例;要求两组学生使用不同资料源或不同模型,再分析为什么会收敛或分歧;要求标注“哪些判断来自AI,哪些来自原始证据,哪些来自个人经验”。这些训练不是怀旧式拒绝AI,而是在培养CRD。

真正重要的能力因此从“我能不能不借助工具完成一切”转向“当所有人都借助同一强工具时,我还能不能看见它没有看见的东西”。这与AI时代的理解标准自然连接:能够识别适用边界、发现关键缺口、改变前提后重组解释,本质上也是一种认知响应多样性。

对公共知识与平台治理的启示:防止“同源复制”伪装成“社会共识”

公共信息环境中的一个新挑战,是内容数量与独立来源数量逐渐脱钩。生成式AI可以让同一源头在短时间内产生大量改写版本;如果平台、搜索或读者只按网页数量、提及次数和文本表面差异理解“共识”,就可能把复制强度误当成证据强度。

因此,未来的信息质量治理需要更多“来源聚类”而非简单计数。对事实性议题,可以尝试识别多篇内容是否追溯到同一原始数据、同一新闻稿、同一论文或同一AI生成链。对社会共识的展示,也应尽量区分“独立机构分别验证”与“多个站点转述同一来源”。

这并非AI独有的问题,传统新闻转载和信息瀑布早已存在;AI的变化在于复制成本更低、改写能力更强,表面文本差异更大,因此“同源性”更难肉眼识别。共识谱系由此从学术规范问题上升为公共认知基础设施问题。

理论边界:多样性本身也会失败,异源性不是新的万能答案

第一,过度多样会降低协调效率。Baumann、Czaplicka与Rahwan的模型研究指出,多样性对集体学习的效果取决于任务复杂度与网络结构;在简单任务中,多样性甚至可能降低表现,而在复杂任务和特定网络条件下才显示优势[7]。因此,本章反对把“多样”道德化。CRD是一种风险资源,不是越高越好。

第二,独立路径也可能共同受现实世界同一个偏差影响。两个模型来自不同公司,不代表训练语料真正独立;两个数据库也可能都转录同一个错误源。所谓异源性必须追溯到足以改变失效机制的层级,而不是换皮。

第三,少数意见不天然正确。文化进化中的反从众同样可能维持有害或低质量变体[22]。保护少数路径的目的不是赋予少数结论更高真理地位,而是保留一种“在多数共同失效时还有别的传感器”的结构能力。少数路径也必须接受证据和结果检验。

第四,AI也可以主动增加多样性,而不是只减少多样性。Wan与Kalman通过设置不同AI“人格/角色”生成差异化创意,在其实验中恢复了群体创作的多样性[13];Ashkinaze等人的动态实验也显示,特定条件下AI暴露能够增加创意多样性[14]。这意味着真正的问题是设计:单一默认模型会不会成为唯一认知入口,以及系统是否有意识地制造独立的探索路径。

第五,本章的N_eff公式采用等相关近似,只用于概念说明,现实群体的错误相关矩阵往往高度异质。更严谨的测量应使用完整协方差结构、聚类相关性或任务级共同错误图谱。不能把一个简化指标误当成精确社会测量。

未来研究议程:从“文本相似度”走向“共同失效科学”

第一,应建立人—AI群体的错误相关基准。现有评测主要比较单模型准确率,未来需要报告“哪些题大家一起错”,并区分同模型、跨模型、人+模型、不同资料源组合。错误相关矩阵可能成为比排行榜更重要的生态指标。

第二,应开发CRD测量。可以设计一组受控扰动:改变关键事实、撤掉某一证据、引入分布外案例、替换法规版本、制造数据异常,观察不同判断者是否产生不同的报警与纠错动作。CRD应测“响应函数差异”,而不是最终答案词向量距离。

第三,应研究共识谱系对信任的影响。把“十个独立来源支持”与“十个同源AI改写支持”随机展示给参与者,看披露来源依赖后其置信度如何变化,可以直接检验共识伪独立效应。

第四,应研究异源性预算的最优分配。在给定时间与成本下,究竟把预算用于第二模型、原始资料、人工专家、红队还是随机抽样,哪一种最能降低高后果共同错误?这可以与上一篇MSVP的风险压缩率研究结合,形成AI验证的资源配置科学。

第五,应研究长期文化反馈。短期实验通常只观察一次AI辅助,而真正的文化进化发生在多轮传递中。需要让参与者的AI辅助产出成为下一轮参与者的输入,观察变异、错误与共识如何跨代传播,并比较有无谱系标记、反从众角色和异构模型时的动力学差异。

第六,应研究“能力提升与异源性衰减”的临界点。如果更强模型持续降低p,什么时候它的能力红利足以抵消ρ上升?又在什么任务上ρ的尾部风险会占主导?这一问题需要任务风险分布、错误后果和相关结构共同进入模型,而不能只比较平均分。

结论:AI时代要保护的不是“大家意见不同”,而是“大家不能只剩一种失败方式”

生成式AI带来的一个巨大文明收益,是把高质量认知能力以前所未有的低成本分发给更多人。它可以提升普通人的写作、研究、编程和分析水平,也可以缩小个体之间的技能差距。本章并不把这种趋同理解为退步。真正需要警惕的是另一种更隐蔽的趋同:不同个体虽然都变得更强,却越来越依赖同一个基础模型、同一批信息源和相似的推理模板,于是剩余错误从“各错各的”转变为“偶尔一起错”。

统计学习理论告诉我们,平均准确率与错误相关性是两个不同变量;文化进化论告诉我们,高性能工具恰恰会因为成功而被更快复制,并把频率转化为可信线索;生态学告诉我们,承担相同功能的多个高性能单元,如果对扰动缺少响应多样性,仍然可能组成一个脆弱系统。三者碰撞后,认知单一化悖论就不再只是“AI会让文字千篇一律”的审美担忧,而成为一个可形式化、可测量、可治理的集体认知问题。

因此,AI时代群体智慧的新公式不应是“更多人 + 更强AI = 更聪明的群体”,而应增加一个被长期忽略的条件:这些人和AI之间必须保留足够的失效去相关性。十个人的价值不只是十倍算力,而是十种可能发现不同错误的路径;一旦这些路径被压成同一个认知簇,人数仍在,群体的有效独立性却已经下降。

真正成熟的人机协作制度应同时追求两件事:让多数人借助最强工具快速提高平均表现,同时在关键节点制度性地保存少数异源路径。我们可以让90%的日常工作高度标准化,但必须知道剩下10%的独立性放在哪里;可以让AI先完成绝大多数搜索和生成,但必须保留一个不同资料源、不同模型、不同方法或不同责任主体,能够在主导路径失效时发出不一样的信号。

最终,群体认知韧性不是靠人人永远争论获得的,而是靠一种更精细的结构:平时可以快速收敛,关键时刻能够重新分叉;多数路径可以共享高性能AI,系统仍保留不会与它同时失灵的替代路径;共识可以形成,但必须知道它究竟来自多少独立证据。 AI越强,这种能力越重要。因为一个低质量工具的错误通常容易被看见,而一个高质量、被广泛信任的工具所留下的少数共同错误,恰恰最可能穿过整个群体而不被发现。

理论贡献与跨学科意义

本章的第一项理论贡献,是把“AI造成内容同质化”的讨论推进到“错误相关结构”层面。文本相似本身未必危险,真正决定群体纠错能力的是同一个错误是否会同时穿透多个判断者。由此,研究对象从内容表面多样性转向失效函数多样性。

第二项贡献,是通过N_eff把统计学习中的相关性问题翻译为群体认知可理解的指标:十个人不一定等于十份独立证据。这个概念为“多数意见”“多模型一致”“多人复核”提供了一个统一的独立性折扣语言。

第三项贡献,是从生态学引入并重构“响应多样性”,提出认知响应多样性CRD。它比一般的观点多元更严格,因为它要求承担同一认知功能的主体,在面对环境变化和共同盲点时能够产生不同检测与纠错反应。

第四项贡献,是把文化进化论置于错误相关性的动态生成过程中。共享AI不是静态技术选择;高性能会通过成功偏置增加采用率,采用率又通过从众与声望线索转化为更强社会可信度,最终形成相关错误放大回路。这样,模型层的偏差与文化层的路径依赖被连接起来。

第五项贡献,是提出一组不以“拒绝AI”为前提的治理工具:共识独立性账本、异源性预算、少数路径保护、先独立后汇聚以及风险分级。它们的共同原则不是让每个人重新独立完成全部任务,而是在共同失效最危险的地方保留一条不同的路。

本章附表

维度低异源性表现高异源性表现主要治理问题
来源多人引用同一摘要/数据库至少一个原始或独立资料源来源谱系是否独立
模型同一基础模型多代理自洽不同模型家族或非LLM工具共同训练/架构盲点
方法全部依赖语言推理计算、实验、反例、现场证据并存是否有不同失效敏感性
流程先看统一答案再复核先盲独立再汇聚锚定与社会影响
人员同专业、同激励、同角色跨专业/红队/少数路径异议成本与角色保护
传播同源内容被重复计为共识标注谱系并做独立性折扣可见共识是否等于独立证据
统计学习理论文化进化论生态学AI时代的集体认知对应
单个模型准确度个体学习成功率单个物种/功能单元表现个体AI辅助绩效
模型错误相关/协方差共同来源与高保真复制共同敏感性/共同失效不同人的AI错误相关性
集成多样性文化变异与替代路径响应多样性认知响应多样性(CRD)
集成收益被相关性吞噬从众与成功偏置使路径锁定单一化降低韧性人数增加但有效独立判断数下降
异构模型/去相关维持探索与反从众通道功能冗余+异响应异源性预算与独立第二路径
总体损失/尾部风险错误的社会放大与路径依赖扰动后的恢复能力共同错误的发现、纠正与恢复速度
风险级别典型任务CRD要求建议机制
L0 低风险创意草稿、可撤销日常文本单模型即可,事后快速检查
L1 一般普通研究整理、内部分析中低关键事实独立来源抽查
L2 重要专业意见、重要数据分析、生产代码中高独立资料/方法路径 + 盲初判
L3 高风险重大资金、法律权利、安全、医疗、不可逆部署共识谱系审计 + 异源性预算 + 独立第二路径
© 德麦国际出版社 · 孔凡鹤《一直没出事》· ISBN 979-8-90690-011-1