九章的共同判断、三对最危险的近亲、九个读数的三种形状,以及会让整本书失效的那几件事
前面九章分别处理九个看上去互不相干的问题:能力归谁、能力怎么维持、帮助要不要撤、绩效为什么骗人、判断属于谁、理解算不算数、责任落在哪里、验证做到什么程度算够、群体为什么会一起错。它们各自动用的三门学科几乎没有重叠——认知神经科学与核设施运维之间、解释学与审计学之间、生态心理学与统计学习理论之间,本来没有对话的必要。
把它们放进一本书,不是因为都谈生成式人工智能。共同的题材不构成一本书,只构成一个专辑。真正让九章成为一本书的,是它们在各自领域内被逼出的同一句判断:
能力、判断与责任并不是先失去,而是先失去可观测性;正常运行的成功本身销毁了证明它们仍在的证据,因此它们只能在代理被有意打断的断面上被重新判定。
这句话在九章里没有一次以相同的措辞出现。第一章把它写成"结果质量不能认证能力",第二章写成"零事故不能区分备用能力可用与不可用",第三章写成"辅助态的好表现不再透明地显示这个人本人能做到什么",第四章写成"能力可能在绩效持续上升时变得不可见",第五章写成"最后动作在人不等于判断由人形成",第六章写成"流畅的迁移可能恰恰掩盖了不会撤回",第七章写成"每个节点都有责任语言,没有节点能改写下一轮",第八章写成"检查覆盖率不是充分性",第九章写成"多数同意不等于多份独立证据"。
九种措辞、九个学科、九个对象,句子的骨架却是同一根:一个本来用来证明 X 还在的信号,在 AI 持续代行之后不再证明 X 还在,而它失效的方式恰恰是它看起来更好了。
本章的任务是把这根骨架显式地摆出来,说明九章之间是什么关系、哪几对最危险、九个读数其实是几种形状,以及在什么条件下整本书应当被放弃。
同一条判断在九章里换了九次位置。换的是三样东西:被宣布为"没出事"的那个信号、断口应当开在哪里、以及断口上读什么。
| 章 | 被当作"还在"的证据 | 断口开在哪里 | 读数 |
|---|---|---|---|
| 一 | 任务结果的质量 | 对代理施加一条可判定的扰动 | 生差、裁差、改向、回写四环节是否由主体重新闭合 |
| 二 | 长期正常运行、无事故 | 在真实故障之前主动做一次接管证明 | 异常发现、情境重建、独立裁决、干预执行、恢复验证五门串联是否全通 |
| 三 | 辅助状态下的当前表现 | 周期性收回首判、差分、盲段与恢复回合 | 证据龄比:距上一次有效独立表现证据过去了多久 |
| 四 | 持续上升的绩效曲线 | 锚定、扰动、撤援、延迟迁移四层测量 | 可观察绩效对潜在能力的预测力是否下降 |
| 五 | 最终由人签字、点击、批准 | 扰动、反事实边界、重新发起三类测试 | 是否持有决定性理由、能否识别失效条件、能否主动重开判断 |
| 六 | 能解释、能举例、能迁移到新情境 | 表面相似而关键前提已破坏的边界破坏任务 | 首次边界修订由谁发起:主体自主撤回,还是外部提示之后 |
| 七 | 流程上有明确的责任人 | 事故前置审计与近失误保留 | 认知可达性、因果控制杠杆、改写权限三者是否落在同一主体身上 |
| 八 | 已经检查了很大比例的内容 | 用与原生成路径失效模式低相关的程序去攻击承重节点 | 残余未核错误是否还足以翻转结论 |
| 九 | 多数人独立得出了同一结论 | 分布外、规则突变与共同盲点任务 | 有效独立判断数 N_eff = n / [1 + (n−1)ρ],以及至少一人正确的概率 |
这张表是全书的索引,也是全书的论证。读者可以从任何一行进入:每一行的第二列都是一个在自己领域里被广泛承认的良好信号,第三列都是一次有意制造的中断,第四列都是只有在中断之后才存在的量。
三列之间的关系不是并列而是递推。正因为第二列的信号在 AI 代行条件下失去了分辨力,第三列的中断才必须由人主动安排;也正因为中断是被安排的,第四列的读数才可能存在。 如果第二列的信号仍然有效,全书九章都没有必要。
把九章的判断按动作分类,落在三个族上,而且九章同时落在三个族的交叉点。
第一个动作是遮蔽。 九章无一例外地描述了同一件事:成功的运行掩盖了证据。第二章的零事故掩盖了备用通道的潜伏失效,第四章的绩效曲线掩盖了潜在能力的变化,第六章的流畅解释掩盖了越界,第七章的无事故运行掩盖了责任结构的空洞,第九章的表面共识掩盖了同源。值得注意的是遮蔽的方向:不是失败被掩盖,而是成功本身成了掩盖物。这与传统的隐瞒、舞弊、指标造假是不同的机制——没有人隐瞒任何东西,信息也没有被销毁,只是产生这类信息的场合不再出现了。
第二个动作是错置。 九章都指出了一次证据类型的偷换:把正确答案当成能力的证据(第一章),把无事故当成可用的证据(第二章),把当前表现当成本人会的证据(第三章),把产出当成能力的证据(第四章),把末端动作当成判断的证据(第五章),把迁移当成理解的证据(第六章),把签字当成责任的证据(第七章),把检查覆盖率当成充分性的证据(第八章),把多数同意当成独立性的证据(第九章)。九次错置有一个共同形状:被偷换掉的那一项,全都是"过程属于谁",换上来的全都是"结果长什么样"。 AI 之所以让这种错置变得危险,正是因为它极大地提高了结果的质量,同时极大地改变了过程的归属,而制度只盯着前者。
第三个动作是断口。 九章给出的解法在形式上完全一致:不去问"它现在怎么样",而去制造一个中断,问"它在中断处怎么样"。第一章的定向代理扰动、第二章的接管证明、第三章的盲段、第四章的撤援、第五章的重新发起测试、第六章的边界破坏、第七章的近失误、第八章的判别性检验、第九章的独立性折扣,都是同一个动作的九种工程形式。
三个动作合起来,就是全书的方法论:遮蔽解释了为什么看不见,错置解释了为什么以为看得见,断口是唯一能重新看见的地方。
还有一个次一级的动作族值得单列,因为它决定了这本书是不是只在描述一次性事故:自强化。第四章的绩能遮蔽循环、第七章的末端责任压缩—改写责任空位循环、第九章的相关错误放大回路,以及第二章那个"AI 越可靠,人获得自然接管练习的机会越少"的悖论,都说明遮蔽不是静态的。看不见会使决策者更倾向继续外包,继续外包又使更少的证据被产生。 这条正反馈是本书判断"这不是一次误判,而是一种会自己长大的结构"的依据,也是第十一章要处理的问题:一个会自己长大的结构,多半也会长出应付检查的办法。
一本由九章构成的书,最容易受到的攻击不是"这些说法不对",而是"这九章其实是同一章"。本节主动把最危险的三对摆出来,并给出可判定的合并条件。凡满足合并条件的,本书应当合并相应章节,而不是辩解。
第三章与第四章是最可能被合并的一对。 两章都说绩效与能力之间的连接被 AI 削弱了:第三章称之为能力证据债,第四章称之为能力可见性塌缩。两者的形式陈述几乎可以互相翻译——第四章的"可观察绩效对潜在能力的预测力下降"正是第三章"辅助态表现不再显示本人能做到什么"的计量版本。分界线只有一条:第三章不主张能力真的发生了变化,它只主张系统失去了判断依据;第四章则给出了一个能力本身与能力可见性同时下降的动力学模型。 前者是认识论主张,后者是因果主张。判定方法:设计一组实验,让辅助态绩效与独立能力的相关下降,同时用锚定任务证明独立能力并未下降。若这种情形在经验上根本不出现——即相关下降总是伴随能力下降——那么第三章的"债"就只是第四章"塌缩"的早期阶段,两章应当合并,本书降为十章。 本书事先声明:这是九章里最可能被合并的一处。
第一章与第五章是第二对。 两者都在处理归属:一个问能力归谁,一个问判断归谁;一个用四环节,一个用三节点。四环节的"生差、裁差、改向、回写"与三节点的"理由持有、失效识别、重新发起"在测试设计上高度重叠——两章都用扰动,都看主体能否主动发起。分界在于对象的性质:能力是可以长期不用而仍然存在的,判断则是每一次都要重新形成的。 因此第一章允许深度外包只要断面上能复闭环,第五章却要求在每一次被声称为"人做的决定"里都保有理由。合并条件:若在同一批受试者身上,能力归属测试与判断归属测试的通过与否高度一致(相关高于 0.8),则两者不是两个维度,第五章应并入第一章作为一节。
第二章与第三章是第三对。 两章都在做维护设计,一个叫最低接管维持剂量,一个叫能力校准回路;一个的循环是"拆门—微调用—待命暴露累计—风险触发证明—扰动接管—恢复回写",另一个是"首判—协作—差分—盲段—恢复"。这两条循环的相似程度足以让读者怀疑是同一条。分界在目的:第二章的循环是为了让能力保持可用,第三章的循环是为了让能力保持可见。 前者若成功,人的接管可靠度提高;后者若成功,系统对人的能力状态的判断精度提高,而人的能力可能一点没变。合并条件:若按第三章的校准回路执行一年,接管可靠度的提升与按第二章的剂量向量执行没有差别,则维持与校准不是两件事,第二章应并入第三章。
另有两对次危险的,一并写明:第六章与第一章(理解与能力,第六章已在其末节给出分界:一个测代理坏掉时能否闭合,一个测代理还好用时能否停止);第八章与第九章(验证与群体,第八章的"证据独立度"与第九章的"独立性折扣"是同一个量在个体任务与群体判断上的两次使用,若两者能被同一个形式量统一,两章的独立性将显著削弱)。
第二节那张表的第四列列出了九个读数。若九个读数彼此独立,这本书就有九个互不相干的测量传统,读者无从下手。实际情况要简单得多:九个读数只有三种形状。
第一型是串联门型,占五章。 第一章的四环节、第二章的五门、第五章的三节点、第六章的撤回与否、第七章的 ECR 三要素,都是若干个二值判定,且都明确规定不许取平均——五门中有一门不过,整条接管路径就不通;ECR 缺一,改写责任就空着。这一型的共同前提是:能力的失效是路径性的,不是程度性的。 一条路上任何一处断了,整条路就不通,而把各段完好程度加权平均会得到一个漂亮但无意义的分数。
第二型是相关与折扣型,占三章。 第三章的证据龄比、第四章的预测力下降、第九章的 N_eff 与 ρ,都是连续量,都表达"名义上的数量要按某种相关性打折"。第九章打的是判断之间的折扣,第三章打的是时间上的折扣,第四章打的是测量通道上的折扣。三者可以写成同一个形式:有效证据量 = 名义证据量 × (1 − 冗余度)。 这一型的共同前提是:证据可以累加,但同源的证据不能重复计数。
第三型只有一章:成本效率型。 第八章的 η(v) = ΔR(v)/c(v) 是全书唯一一个把验证动作按"单位成本压缩多少结论相关风险"排序的量。它之所以孤立,是因为只有第八章的对象是可以选择做多少的——其余八章的对象是"有没有",第八章的对象是"做到哪里为止"。
这个归类有一个直接的实践后果,也是本书给组织的最短建议:不要为九章各造一套指标。 串联门型的五章可以共用同一张门卡,只需替换门的名目;相关折扣型的三章可以共用同一个冗余度估计程序;成本效率型只在需要决定投入多少验证资源时启用。九章,三种量表,一套记录格式。
同时必须承认这个归类暴露的一处缺陷:九个读数没有一个是分布量。 全部九个读数都以事件或个人为单位取值,没有任何一个回答"在一个一百人的组织里,合格的那些事件是不是集中在少数人身上"。一个团队完全可能九项全部合格,而合格全部来自三个人。本书对此没有答案,只能要求凡使用本书方法的组织同时报告参与率与事件集中度。这是全书自设的第一个盲区。
本书九章各自与自己领域的近邻做了划界。这里处理的是另一件事:与在同一时期、同一题域、用同一类方法工作的其他研究者划界。最近的一支来自对"AI 时代两极分化"的研究,其核心判断是:在人机耦合状态下,不同个体的当下产出差距会收敛,而一旦脱钩,能力差距反而扩大;由此提出耦合可逆性这一分化轴,并进一步描述一种没有能力承载的成功状态。
这一支与本书第四章距离最近,因为两者都在说"辅助态的表现掩盖了个体之间的真实差别"。分界有三处,都可判定:
第一,变量不同。那一支关心的是个体之间的差距如何变化,是一个分布量;本书第四章关心的是绩效对能力的指示能力如何变化,是一个信号量。两者可以正交:一个群体的耦合态差距可以完全不收敛,而每个人的绩效对其能力的指示力都在下降。
第二,断口的用途不同。那一支把脱钩当作分化的显现时刻,是一个描述性的分水岭;本书把断口当作必须被主动、周期性安排的测量装置,是一个规程。前者研究脱钩发生时会看到什么,后者主张不能等脱钩自然发生。
第三,本书恰好补上了那一支的一个空位。若耦合可逆性确实是一条分化轴,那么就需要一种在脱钩发生之前测量它的方法——本书第三章的证据龄比与第四章的四层测量正是这样的方法。反过来,那一支给本书提供了一个本书没有的东西:分布视角,正是上一节承认的那个盲区。
因此这两支不是竞争关系而是互补关系,且互补的方向是明确的:本书提供断口上的读数,那一支提供读数在人群中的分布。 若将来的研究表明,脱钩后的能力差距扩大完全可以由本书九个读数的差异预测,则本书应当承认那一支是本书的推论而非独立发现;若表明差距扩大主要来自本书读数之外的因素(例如资源、机会与既往积累),则本书应当承认自己只覆盖了分化机制的一半。
九章各自写了自己的证伪条件。本节给出书一级的三条撤回条款——不是某一章错,而是整本书的判断不成立。
第一条:如果正常运行的信号并没有失去分辨力。 本书全部论证的起点是"良好的日常绩效不再能证明能力、判断与责任仍在位"。这是一个经验命题,可以被推翻。推翻的方式是:在若干个 AI 深度介入的真实场景中,长期收集日常绩效指标与断口读数,若日常绩效对断口读数具有稳定且足够高的预测力(例如跨场景相关持续高于 0.8),那么断口就是多余的,本书的全部工程建议都应当撤回,只保留一句提醒。
第二条:如果断口读数本身不能预测真实失效。 本书要求组织付出成本去制造中断,其正当性完全依赖于断口读数能预测出事时会发生什么。如果在真实的 AI 失效事件中,事前断口读数良好的个体与读数糟糕的个体,在异常发现速度、恢复时间与损失规模上没有系统差别,那么本书就只是发明了一种昂贵而无效的考试。这一条最难检验,因为真实失效事件稀少;本书接受用高保真模拟作为替代,但同时承认这是一个减分的替代。
第三条:如果这套方法在被制度化之后,其最省事的达标方式恰好摧毁它要保护的东西。 这一条与前两条性质不同——它不问理论是否为真,而问理论为真时会不会自我毁灭。如果组织采用本书方法之后,普遍出现的是"为通过断口测试而专门训练的应试能力",而真实接管能力并未提高,那么本书即使在理论上正确,在实践上也应当被撤回。这一条由第十一章单独处理,因为它是本书自认最可能发生的一种失败。
三条撤回条款按可检验性排序:第一条最容易,第二条最重要,第三条最可能。
最后诚实地列出四件事,它们都在本书的射程之外,写在这里以免读者把本书当成一套完整方案。
一,本书不知道断口应当多密。 九章都能说明为什么需要中断,也都能说明中断处读什么,但没有一章能回答"多久一次"。第二章提出了最大静默期加事件触发的框架,第三章提出了刷新窗口,但两者的具体数值都没有经验依据,目前只能由后果等级与衰减速度粗略推导。
二,本书的读数全部以事件或个人为单位,没有分布量。 上一节已经承认,此处重申,因为它同时影响九章。
三,本书没有处理权限问题。 第七章指出改写责任需要认知可达性、因果控制杠杆与改写权限三者合一,但其余八章在设计断口测试时,默认了被测者拥有改向与干预的权限。现实中大量人员没有这个权限,把"制度不给权限"读成"个人没有能力"是本书方法最容易造成的伤害。凡实施本书方法的组织,须先分离这两者。
四,本书自身的证据由 AI 深度参与生成。 九章的写作、检索、结构与语言都不同程度地使用了生成式系统。按本书自己的判据,这意味着本书的论证质量并不能自动证明作者拥有相应的理解与判断。本书的自我处置是:把每一章的承重命题、竞争解释与撤回条件写死在正文里,使读者可以绕过作者直接检验——这正是本书对自己开的那个断口。 检验它的方式与检验其他任何一章相同:找出一处表面相似而关键前提已经改变的地方,看这本书有没有在外部指出之前主动撤回。第三章那次因公开数据不支持而把主张从"能力必然退化"收窄为"能力可观测性下降",第一章那次因转场效应而把测试从"闭卷"收窄为"定向扰动",第六章那次因反向证据而撤回"AI 削弱理解"的宽命题,是本书能提供的三处记录。它们不足以证明本书理解了自己在说什么,但至少给出了可供检验的痕迹。