专著母题 · 德麦国际专著第 78 号

《一直没出事》

AI 持续代行之后,能力、判断与责任不是先失去,而是先失去可观测性;正常运行的成功销毁了证明它们仍在的证据。

副题
AI 时代,能力、判断与责任如何先失去可观测性
作者
孔凡鹤 著
分类
人工智能
题域
人工智能·人机协作
题型
Why

一、它推翻的默认看法

默认看法是:「一直没出事」是最省钱的安全论证,结果好就说明人还在位。它隐含的前提是产生结果的过程与承担能力的主体同一,看结果就能推知人。生成式 AI 抽掉了这个前提:结果变好了,而结果与人之间的推理链断了,同一句话同时与「人仍胜任」和「人早已不能接管」两种状态相容。书因此也不接受另一种流行问法,即 AI 让人变强还是变弱,因为这是个混合量,污染了尺子。作者的三层反直觉是:次序反了(先失去的是可观测性,不是能力本身);信号变好看而非变差;观测位置只有断口,即代理被有意打断的断面。作者从照护研究带来一个职业性的警惕:很多次复盘里,事前那段「没出事」的时间并不是安全的证明,而是一段没有人去看的时间。

二、母题怎样立起来

九章是分别写成的,各从三门互不通气的学科进入,装书时才发现它们在说同一句话:本来证明 X 还在的信号,在 AI 持续代行后不再证明 X 还在,且失效方式是看起来更好。第一编查能力:正确答案不等于能力,最低保留单位是代理出错时主体能否重新生成可观察、可裁决、可干预、可更新的闭环;待命不等于可用,借航空、核设施和运动训练给出最低接管维持剂量;帮助不必撤离但能力须持续可观测,否则积累能力证据债;成功遮蔽退化,绩效上升时诊断信号被吸收。第二编查判断与理解:末端签字不等于判断归属,须同时持有理由、识别失效条件、能重新发起;会迁移也可能没懂,理解是把结构与其失效条件一起持有。第三编查责任与验证:有人签字而无人能改写下一轮;验证不必重做,只需最小充分路径。第四编把个体推到群体:人人更准,错误相关性反而升高,人数不等于独立证据数。

第十章把九次换位列成表,证明它们是同一条脊梁而非套模板,并写明三对最危险近亲及合并条件。第十一章转向自身:断口测试一旦制度化,会被预告化、题库化、代考化、记账化地应付掉,所以设一条底线,断口读数不进入个体绩效、晋升与留用决定。书因此不主张少用 AI,判据与使用量正交。

三、核心构念

四、全书骨架

四编十一章,另有前言、导读、导论、结语与后记,约20.2万字。第一编「能力」(第一至四章)、第二编「判断与理解」(第五、六章)、第三编「责任与验证」(第七、八章)各以三门学科处理一个断裂点,第四编「从个体到群体,再回到这本书自己」含第九章认知单一化、第十章九次换位与三条撤回、第十一章断口测试自己会被应付掉。第十章的换位表四列九行:被宣布「没出事」的信号、断口开在哪里、断口读什么;九个读数只有三种形状,即串联门、相关折扣、成本效率。结语留下一个未答问题:第一眼从哪里来。

五、关键案例与证据

三个开篇场景:教研室里作业越来越好但老师说不出学生会了什么;追责会开得顺利而被处分者没有权限改任何设置;航空与核电的接管假设越来越难验证,核电的解法是对备用系统做监督试验。数据证据是四处公开数据的压力测试,四次都对作者不利。第三章二次分析 Bastani 等高中数学实验的825名学生,练习与独立考试的相关对照组 r=0.756,通用 GPT 组0.435,教学护栏组0.486,平均成绩却几乎无差别,主张据此从「退化」收窄为「可观测性下降」。第一章四项在线实验(总样本3,562)把「闭卷重做」改为「定向扰动」。第六章因设计良好的 AI 导师产生更高学习增益,撤回「AI 削弱理解」的宽命题。第九章用折扣公式 N_eff=n/[1+(n−1)ρ]。

六、碰撞接口

七、边界:什么情况下算错

书给出三条书级撤回条款,并列出三对最危险近亲及合并条件:若九章的读数实际上是同一章,应降为十章。作者认下四件:不知断口有多密;读数无分布量;未处理权限问题;本书由 AI 深度参与写作,因此论证质量不能自动证明作者拥有相应的理解与判断。各判据尚未经心理计量学效度验证,不得用于个人能力认证、职业资格判定或人事决定。断口测试在制度化后会被应付,若无法保持隔离,这套方法会以看起来成功的方式失败。九次压力测试均在部分领域收窄了原主张,说明命题仅在代理持续代行且可设计断口的条件下成立。