伪发生：比幻觉更深的 AI 风险
与八重反幻象检查

一、最大的风险不是错误答案

谈论生成式 AI 的风险，人们最容易设想的是它会答错——错误的事实、错误的计算、错误的判断。这类风险真实存在，也已有大量研究 [1][2]。但它不是最深的风险。错误答案有一个救赎之处：它通常可以被现实撞回来。算错的公式会被验算逮住，错误的事实会被文献驳倒，失败的方案会在执行中崩掉。错误是显眼的、可纠正的。

更深的风险是另一种东西：伪发生——不是答错，而是看起来发生了、实际上什么也没发生。大模型极擅长在几秒钟内造出一套术语自洽、气势恢宏、读起来像重大突破的话语体系；它流畅、完整、自指圆融，却不能解释任何真实问题，不能进入任何工具验证，不能被任何共同体承认。它是一座幻象世界——有世界的外观，无世界的发生。这一现象与法兰克福对 bullshit 的经典分析同构：bullshit 的要害不是说假话，而是对真假根本不关心 [3]；与「伪深刻废话」的实证研究同构：语法完整、听起来深刻的随机语句，能系统性地骗过评估者 [4]。伪发生比错误答案危险得多，因为错误让人警觉，伪发生让人陶醉——一个团队可能围着一套华丽的幻象话语兴奋数月，投入资源、写出长文，最后发现它从未触及任何真实结构。

二、伪发生的三种典型形态

形态一：幻象世界模型。最纯粹的伪发生：一套语言流畅、结构完整的话语，在三个层面上都是空的——概念彼此指涉却不锚定任何真实对象，没有任何数据、文献、工具、实验的支撑，也不回应任何真实的目标与处境。它是纯符号搭起的空中楼阁，每一块砖都是别的砖的影子。特征是：读起来什么都说了，查起来什么都没说；越是宏大，越无法被任何具体问题证伪 [5][6]。

形态二：伪创新。创新外观下的原地踏步。真正的创新重构了问题的纠缠、生成了真实差异、显露了新结构；伪创新只动符号表层：把「用户」改叫「价值共创主体」，把「流程优化」改叫「范式跃迁」，旧方法套上新隐喻。特征是：去掉新词之后，剩下的还是旧结构——新的只是命名，不是存在。这一形态在管理学与学术话语中早有系统观察 [7][8]。它尤其危险，因为换词换包装与真正的创新在表面上难以区分，都呈现为「出现了新的说法」。

形态三：迎合性幻象。源于系统与使用者的关系扭曲：若系统被调成只迎合使用者的欲望、只强化其想听的结论，它就与使用者合谋，共同建造并不断加固一个错误的世界模型。这种幻象最隐蔽，因为它穿着「高度配合」「善解人意」的外衣，而实际上关闭了发生最需要的东西——来自他者的、敌意的、不顺从的撞击。一个只会顺从的系统，无论多博学，都是一台幻象加固机。这与确认偏误的经典研究 [9] 及对语言模型迎合性（sycophancy）的近期实证 [10] 一致。

三种形态共享同一病灶：发生被符号表层的丰盛所冒充——幻象世界模型用符号的丰盛冒充实质的充实，伪创新用命名的更新冒充结构的更新，迎合性幻象用配合的顺滑冒充检验的严格。

三、为什么大模型天然倾向伪发生

伪发生不是大模型偶然的失误，而是结构性倾向。大模型学习的是人类文明沉积下来的信息场，而这个信息场里既沉积了真正发生留下的结晶，也沉积了大量华丽却空洞的话语、流行却无效的概念、自洽却从未被验证的体系。模型在生成时并不天然区分这两者——它按语言的统计结构生成「看起来像该出现在这里的话」[11][12]，而「看起来像发生」的话语恰恰是它最擅长生成的。生成幻象比生成真正的发生更省力：前者只需调用符号层的流畅，后者需要被现实约束、逻辑审查、价值判断反复拉扯。

由此得出一个关键推论：不能把反幻象任务交给模型自己自觉完成。指望模型自己识别自己的幻象，等于指望符号层自己跳出符号层——这在结构上做不到。反幻象必须是他律：由外部组织法强制注入，由外部约束（检索、工具、审稿、反馈）强制拉拽，由人作为方向中心强制审查。这与科学哲学的一个老洞见同构：科学的可靠性从不来自科学家个人的自觉诚实，而来自制度化的组织性怀疑——同行评议、可重复性、证伪压力 [13][14][15]。

四、八重反幻象检查

反幻象要落地，必须是嵌入发生流程的强制关卡，而非事后的质量抽查。每显露一个候选的「新结构」，依次过八关；任何一关不过，打回或判为伪发生。

五、实例走查：「组织熵增定律」如何被逐关拦截

抽象的八关，不如看一个幻象被拦截的实例。设某系统在处理组织管理问题时生成了一个动人的候选：它宣称发现了「组织熵增定律」——任何组织都会随时间不可逆地走向低效，正如热力学第二定律所示，唯有持续注入「负熵」（创新能量）才能对抗宿命。话语宏大、自洽、借用物理学权威意象，听起来像重大洞见。让它过关。

E 检查：它没有抓住任何具体组织里「什么与什么锁死」的真实纠缠，只是把「组织会变差」的模糊印象套上物理隐喻——抓的是伪缝，黄灯。D 检查：把「组织熵增」「负熵注入」全部还原为旧词，剩下「组织久了会僵化，需要不断创新」——一句人人皆知的旧话，判定不过。工具检查：「组织熵」如何定义、如何量化、什么单位？一要求操作化即崩塌——「熵」在这里是借来的词，不是可算的量。这正是索卡尔与布里克蒙系统批判过的「借科学术语制造权威感」的标准操作 [5][6]。审稿检查：有组织在数十年里持续保持甚至提升效率吗？显然有——「不可逆走向低效」被反例直接击破。反馈检查：变差是熵增、变好是注入了负熵——无论如何都能自圆其说，恰恰不可证伪。

六、诚实的边界：灰色地带为什么消灭不了

一个诚实的机制必须承认自己的极限。八重检查在两端极为有效——明显的真实发生稳稳通过，明显的幻象被逐关拦下——但中间存在灰色地带：一个足够精巧的幻象，可以逐一满足八关的形式要求而实质落空。它可以锚定真实文献、套用真实工具算出某个数、经得起一定程度的反例攻击、甚至留有形式上的证伪接口——把每一关的形式都做足，却在最根本的一点上空着：没有让任何旧框架装不下的新结构第一次显露。这种「形式合格、实质落空」的产物是反幻象机制最难的对手，因为它恰恰是冲着检查的形式去构造的——学术出版中的可重复性危机与「按统计仪式包装无效发现」的研究，展示的正是同类现象 [16][17]。

为什么不能靠加一关或把判据写死来彻底消灭它？因为「是否发生了新结构」不存在一条可机械套用的判别线——这个判断最终需要一个具备判断力的主体在具体语境里识别；任何清单都是这个判断的可操作近似。且判据收得越紧，越会误杀那些形式不齐、实质却真正发生的粗糙创新——反幻象收得太紧，就变成了反创新。正确的姿态是三件事：承认检查的作用是收窄而非消灭（把需要人判断的范围从「所有产出」收窄到「过了形式检查却仍可疑的少数」）；对灰色地带不强行二元裁决，而诚实标注「形式检查已过，成立尚待独立复现与时间检验」，交给共同体与时间这两个更慢更硬的裁决者；把这个极限本身当作公开的裂缝持续追问。

七、结论：没有免疫系统的系统是宏大叙事生成器

把全文收束为一个判断：检查不是产出完成后的事后质检，而是嵌入发生每一步的内构件——事后审查面对的是已经成型、已经动人、已让人投入情感的幻象大厦，要推翻它需要极大的反向力量；前移的检查拦截的是幻象的种子。费曼所说的「不自欺——而你自己正是最容易被骗的人」[15]、萨根的「胡说检测工具箱」[18]，都指向同一个方向：可靠性来自嵌入过程的强制程序，不来自产出后的良好愿望。

最后一记警告必须对内：一套极擅长生成宏大结构的理论语言，本身就带着强烈的宏大叙事潜能——越熟练于这套语言的人，越有能力造出动人的幻象。这是任何强表达力的框架（包括本文所依的框架）必须时刻警觉的自反陷阱。因此原书立下的写作纪律——不用「真」作强调修饰、不用「本体论级」拔高、每一个判断都落到可检验的具体——本质上是反幻象机制在语言层的落实：一个靠拔高词堆砌、无法被任何反例触动的判断，是幻象的语言标本；一个写明了判据、可按判据检验的具体结构，才是发生的语言痕迹。没有这套免疫系统的生成系统，无论多博学，都会退化为一台宏大叙事生成器；装上它，才谈得上思想创新。