本书前面反复出现一个现象:用 AI 之后,人在粗粒度上做得更多——一天读完并解构一本从未读过的理论著作,一周写出一篇像样的研究——而在细粒度上退步:独立复述论证结构、独立找出要害缺陷的能力下降。
通行的解释是”分工不同了,各取所长”。本编认为这个解释漏掉了一笔账。准确的说法是:
粗层那份记在自然人名下的能力,其来源是复合体,经过一次”归算”过账到人端。
归算是会计里的成熟概念:把一笔共同发生的成本或收益,按某种规则分摊到各个主体名下。分摊额是一个记账结果,不是一次独立计量。
于是账本实际上有三本,而制度上只有一本:
| 账 | 记什么 | 方向 |
|---|---|---|
| 细层账 | 自然人独立执行那些工序的能力 | 真降 |
| 复合体账 | 人+配置合起来的产出能力 | 真升 |
| 粗层账 | 记在自然人名下的”更高层能力” | 账面升(归算而来) |
三本账被合成一本的时刻,就是错误发生的时刻。
会计对归算有一条铁律,本编直接借用:
分摊额不得被用作被分摊对象的独立计量。
翻译过来:你可以说”这位学生在复合体中表现出很强的理论解构能力”,但不能把这句话当作”这位学生具有很强的理论解构能力”的计量结果。前者是归算,后者是计量;把归算额当成计量额,就是本书本书所说的空值结算换了一个载体。
归算还需要一个归算基——按什么规则分摊。候选有四个:在场、配置所有权、发起、签收。本编推荐签收:谁在最后承担了”我认这个结论”的动作,谁得到这笔归算。理由是签收是唯一与后果链终点重合的口径,与第 4.4 节的责任判据一致。
“任何工具都会损害某种能力”这句话流传很广,也很便宜。它太强了——眼镜、助听器、假肢明显不损害任何能力;而且它与本编自己的杀死—旁生律冲突。
可辩护的版本要退到工序层:
凡工具接管了一道原本由人执行的工序,该工序在个体端停产。
由此得到一个二分:
| 类型 | 机制 | 例 |
|---|---|---|
| 替人做 | 工序在个体端停产,该工序上的能力随之退化 | 石膏、导航、自动驾驶、代答式 AI |
| 让人能做 | 工序不停产,甚至因为能做而被保全 | 眼镜、助听器、假肢、逼走式 AI |
大模型同时落在两格,所以不能整体判定,只能逐工序判。这也正是本书第二编那张工序表的意义:它逐格标出哪一道工序由谁执行——本质上就是在做这个二分。
最后一块拼图:如果细层真的在降,为什么账本上看不见?
答案是本编的一条通则:
损害发生在细层,报警器装在粗层。粗层的读数由归算而来,只要复合体的产出在升,粗层账面就在升,报警器永不响。
判据很具体:
一处细层损害会不会入账,取决于是否存在一个只在细层才会失败的场合。
不存在这样的场合,损害就永不入账。这条判据一下子解释了一件事——为什么焦虑最先在教育爆发:
教育是唯一专门制造”细层失败场合”的机构。闭卷、限时、禁用工具,这些安排的全部功能就是人为制造一个只有细层才会失败的地方。别的行业没有这种场合,所以看不见损害;教育有,所以最先看见。
⚠ 本句为形态清查新抓到的一处(附录六第十一节之二),此前从未被发现。它与第十九章那一句是同一形态,第 6.8 节列出的反例同样适用:执业资格考试的闭卷与模拟机、军队的无补给演练,都是人为制造的细层失败场合,且不在教育的下游。“唯一”在此同样过强;可保留的是弱形式——教育是把这种场合制度化到每一个人身上的那一家,而不是唯一制造它的那一家。是否为本句单立回写表,列待裁第 8 项。
而这个场合是花钱买的(第 2.3 节)。一旦维持成本超过收益,它会被取消——而取消不等于问题解决,取消是把报警器拆了。
由此得到一条可证伪的预测:
闭卷比例的下降,应当与学位通胀同步发生。两者若无关联,本节的机制判负。
上述分析看起来需要整套制度改造,但它其实有一个成本极低的最小实现,任何一门课明天就能做。
在每一份作业的交付要求里,加一栏:这次你独立做了哪一道工序,以及你在那里失败了没有。
这一栏的作用不是考核,是制造入账口。第 7.4 节说损害不入账是因为不存在只在细层才会失败的场合;这一栏就是那个场合的最小形态——它不要求整场闭卷,只要求在一份复合体产出里,指认出一道由人端单独执行的工序,并如实报告结果。
三条执行纪律:
这条改动的性价比极高,因为它同时提供了本书三个读数的取数口:k_self(能不能说出被排除的候选)、ρ 的弱形式(能不能在无援条件下重走一段)、以及细层损害的入账记录。
上述分析给出一条很硬的课程结论,它与本书本书的课程设计相容,但理由不同:
两类场合必须分开设,不能混在同一门课里。
- 细层留存场:禁用工具,限时,唯一功能是保留失败发生的地方——不是为了考核,是为了让损害可见;
- 复合体训练场:全部开放,测的是复合体读数(分布、场、美的组织质量,而不是产出的漂亮程度)。
混在一起的后果很确定:细层留存场会被复合体的成绩淹没,因为后者总是更好看。
“责任”在中文里是”责备”加”任务”:有人来讨,你得去做。英文的 responsibility 来自 response——回应。两条词源指向同一件事:负责是一种回应。
但回应什么、用什么回应?这里通行的回答是”用行动回应”或”用赔偿回应”,而这两个回答都停在一号位与二号位上——赔一个东西是客体侧,改一个做法是互动侧。本编主张往里走一层:
负责=以三号位的”差异性发生”来回应。
用一个日常例子把它撑开。我打碎了你的一个碗。负责是什么意思?
三种负责都是真的,但强度不同、可替代性也不同。赔一个碗可以由别人代赔;改变相处方式可以靠规则强制;只有第三种不能被代替——没有人能替你改变你的分布、场与美。
三者是并列、有序,还是按损害类型定权重,本编不裁定,登记为待处理。
沿着同一条线,另外两个概念也可以被重新定位。
惩罚 = 被讨要的、尚未自发发生的”负责”总量。
这句话解释了一件常被误解的事:为什么主动认错与承担会减轻处罚。不是因为态度好,是因为那部分负责已经自发发生了,讨要的总量随之减少。
过错 = 主体性亏损,即三号位的亏损。
亏损需要一种还原性弥补——不是补上一个物,而是把亏掉的那一重重新发生出来。这就是为什么单纯的赔偿常常让双方都不满意:赔偿处理的是一号位的损失,而受损的那一重在三号位。
再把”评估、判断、归责”这些动作拆开,会发现它们全部落在三号位上。归责实际上只有三个操作:
| 操作 | 内容 | 传统形态 | AI 之后落在哪 |
|---|---|---|---|
| 赋词 | 把一个名字挂到三号位上 | 署名、判决书、学籍、签收 | 落在席位上(人+配置的登记单元) |
| 约束 | 限制三号位的活动范围 | 吊销、降档、禁入、监禁 | 落在配置上 |
| 改变 | 要求三号位重新发生 | 再训练、再认证、悔改 | 落在配置与人端同时 |
这张表说明了一件事:所谓”AI 带来归责危机”,危机不在技术,在于三个操作的落点全部失去了唯一的承载者。赋词该挂在谁名下、约束该施加在哪、改变该要求谁做——三问都没有现成答案。
因此本编的判断是:
AI 带来的归责危机主要是三号位危机,即主体性危机。
它不是客体性的(AI 没有损坏什么东西),也主要不是互动性的(人机交互的规范是次一级的问题),而是主体性的。这也解释了为什么关于 AI 的公共讨论总在偏移:人们争的是安全、就业、版权,而真正在变的那一层没有名字。
如果判断已经由复合体作出,那么”以三号位的差异性发生来回应”这件事,也必须由复合体来做。
负责要改为”人—AI 复合体的回应”。
这与第 4.4 节的防滑坡边界不矛盾,因为两句话管的是不同的事:承受仍在人端(谁挨罚、谁承担后果),而回应由复合体完成(要改变的那一重分布、场、美,是复合体的)。
一个具体的推论:立誓也需要复合体一起打造。发誓的是人,而最后能不能兑现,取决于复合体——因此在发誓之前必须有研究与可行性计算。一个人独自许下一个只有复合体才可能完成的承诺,在结构上就是空头的。
这一条把一件古老的伦理纪律翻译成了新的形态:先算计花费,再决定盖楼。区别只在于,现在”算”这个动作本身也是复合体做的。
上述全部论证有一个很不舒服的自指后果,本编把它写出来,而不是绕开。
与 AI 一起写成的专著,作者本人并不知道其中大部分细节。
这句话如果成立,那么传统意义上的”著者”身份在这里就已经悬空了:署名者不能逐句复述、不能逐条担保、无法在隔离场里把它重走一遍。按第 6.4 节的认领三条件,这份产出的可分离、可复验、可独占三条都不干净。
有三种处理方式,本编只接受第三种:
第三种处理把署名从”来源声明”改成了“认领与承受声明”。它与第 9.5 节的平台三栏是同一件事:判错存量与签收记录,就是这种新署名的证据形态。
这个例子的价值在于它不是假想的。凡是今天在用复合体工作的人,都已经处在这个位置上;区别只在于有没有把它说出来。
必须与一个流行论题划清界限。
流行论题问的是:AI 是否应当被赋予责任主体地位?本编认为这个问题问错了层。责任的落点由承受位置决定(第 4.4 节),而 AI 不在任何后果链的终点上——它不承受。因此:
判断可以是复合体的,回应可以是复合体的,承受只能是人的。”AI 承担责任”这个说法在本编的框架里连提出的位置都没有。
反过来说,这也意味着人端不可被替换:在复合体中,人是唯一不可复制的落点。配置可以复制,对话史可以迁移,模型可以换;只有承受的位置不能。