专著母题 · 德麦国际专著第 78 号
《一直没出事》
AI 持续代行之后,能力、判断与责任不是先失去,而是先失去可观测性;正常运行的成功销毁了证明它们仍在的证据。
一、它推翻的默认看法
默认看法是:「一直没出事」是最省钱的安全论证,结果好就说明人还在位。它隐含的前提是产生结果的过程与承担能力的主体同一,看结果就能推知人。生成式 AI 抽掉了这个前提:结果变好了,而结果与人之间的推理链断了,同一句话同时与「人仍胜任」和「人早已不能接管」两种状态相容。书因此也不接受另一种流行问法,即 AI 让人变强还是变弱,因为这是个混合量,污染了尺子。作者的三层反直觉是:次序反了(先失去的是可观测性,不是能力本身);信号变好看而非变差;观测位置只有断口,即代理被有意打断的断面。作者从照护研究带来一个职业性的警惕:很多次复盘里,事前那段「没出事」的时间并不是安全的证明,而是一段没有人去看的时间。
二、母题怎样立起来
九章是分别写成的,各从三门互不通气的学科进入,装书时才发现它们在说同一句话:本来证明 X 还在的信号,在 AI 持续代行后不再证明 X 还在,且失效方式是看起来更好。第一编查能力:正确答案不等于能力,最低保留单位是代理出错时主体能否重新生成可观察、可裁决、可干预、可更新的闭环;待命不等于可用,借航空、核设施和运动训练给出最低接管维持剂量;帮助不必撤离但能力须持续可观测,否则积累能力证据债;成功遮蔽退化,绩效上升时诊断信号被吸收。第二编查判断与理解:末端签字不等于判断归属,须同时持有理由、识别失效条件、能重新发起;会迁移也可能没懂,理解是把结构与其失效条件一起持有。第三编查责任与验证:有人签字而无人能改写下一轮;验证不必重做,只需最小充分路径。第四编把个体推到群体:人人更准,错误相关性反而升高,人数不等于独立证据数。
第十章把九次换位列成表,证明它们是同一条脊梁而非套模板,并写明三对最危险近亲及合并条件。第十一章转向自身:断口测试一旦制度化,会被预告化、题库化、代考化、记账化地应付掉,所以设一条底线,断口读数不进入个体绩效、晋升与留用决定。书因此不主张少用 AI,判据与使用量正交。
三、核心构念
- 断代理复闭环判据(PSRC):扰动代理后,主体须生成独立预期并发现差异、基于非同源理由裁决、实施干预并把结果回写,才继续把该能力归属于主体。
- 最低接管维持剂量(MTMD)与接管保真环:把维护剂量改写为异常发现、情境重建、独立裁决、干预执行、恢复验证五分量向量。
- 能力证据债与证据龄比:AI 代行关键节点后,因缺少暴露前的人类独立表现证据而无从判断能力是否可用;偿还靠周期性收回首判、协作、差分、盲段、恢复五环节。
- 绩效遮蔽循环与能力可见性塌缩:绩效是人、AI、匹配与任务的混合量,能力越不可见越多外包。
- RIR 判据:理由持有、失效识别、重新发起三者同时满足才算判断归属,且不以判断正确为前提。
- 越界熟练、ECR 三要素、最小充分验证路径、认知单一化悖论:分别指通得过迁移测试却不能在失效处停下、完整改错责任所需的认知可达性、因果控制杠杆与改写权限、以风险而非覆盖率定验证强度、错误相关性使人数不等于独立证据数。
四、全书骨架
四编十一章,另有前言、导读、导论、结语与后记,约20.2万字。第一编「能力」(第一至四章)、第二编「判断与理解」(第五、六章)、第三编「责任与验证」(第七、八章)各以三门学科处理一个断裂点,第四编「从个体到群体,再回到这本书自己」含第九章认知单一化、第十章九次换位与三条撤回、第十一章断口测试自己会被应付掉。第十章的换位表四列九行:被宣布「没出事」的信号、断口开在哪里、断口读什么;九个读数只有三种形状,即串联门、相关折扣、成本效率。结语留下一个未答问题:第一眼从哪里来。
五、关键案例与证据
三个开篇场景:教研室里作业越来越好但老师说不出学生会了什么;追责会开得顺利而被处分者没有权限改任何设置;航空与核电的接管假设越来越难验证,核电的解法是对备用系统做监督试验。数据证据是四处公开数据的压力测试,四次都对作者不利。第三章二次分析 Bastani 等高中数学实验的825名学生,练习与独立考试的相关对照组 r=0.756,通用 GPT 组0.435,教学护栏组0.486,平均成绩却几乎无差别,主张据此从「退化」收窄为「可观测性下降」。第一章四项在线实验(总样本3,562)把「闭卷重做」改为「定向扰动」。第六章因设计良好的 AI 导师产生更高学习增益,撤回「AI 削弱理解」的宽命题。第九章用折扣公式 N_eff=n/[1+(n−1)ρ]。
六、碰撞接口
- 可抽出的命题:(1)凡以结果质量推断主体能力者,皆须先证明结果与主体之间的推理链未被代理切断。(2)能力不是被 AI 夺走的,而是证明能力在位的证据被正常运行销毁了。(3)末端签字不是判断归属,有人被责不等于有人能改写下一轮。
- 可相撞的方向:与一切依赖「运行良好即合格」的制度相撞,如考试与绩效考核、合规审计、财务内控、医疗照护交接、自动化运维。可撞点在于断口读数能否不被应付,以及书自承的未答问题:让决策者相信需要去看的唯一材料,正是尚未生产出来的证据。
- 站内邻书:第79号《没有人违规》(材料列为同向);第72号《照护的智慧》(同作者前作,处理人与人之间的交接);第94号《下一轮由谁开始》(材料列为跨界,与「改写下一轮」可对读);第75号《空白不是零》(跨界,同讲无记录被读成无事)。
七、边界:什么情况下算错
书给出三条书级撤回条款,并列出三对最危险近亲及合并条件:若九章的读数实际上是同一章,应降为十章。作者认下四件:不知断口有多密;读数无分布量;未处理权限问题;本书由 AI 深度参与写作,因此论证质量不能自动证明作者拥有相应的理解与判断。各判据尚未经心理计量学效度验证,不得用于个人能力认证、职业资格判定或人事决定。断口测试在制度化后会被应付,若无法保持隔离,这套方法会以看起来成功的方式失败。九次压力测试均在部分领域收窄了原主张,说明命题仅在代理持续代行且可设计断口的条件下成立。