现代组织正在以极高的速度取消人在工作中的选择,而所有现行的记录方式都读不出这件事。本文指出其原因不在监测不足,而在删除的形态:被取消的是岔路,不是步骤。岗位仍在,工序仍在,工作量甚至上升,唯一减少的是那些“本来可以走另一条”的位置,而这个量从未进入任何一张管理表。本文把它命名为带责分叉,并给出三条同时成立才算数的判据——两条路之后的走法确实不同、行动者知道它存在且被允许走、走错的后果落在他本人身上且不至于将他废掉;以单位工时内的带责分叉次数(分叉密度 b)与对系统给定值的偏离比例(越建议率 m)作为读数。本文进一步论证一个反直觉的命题:当代删除岔路的顺序,不由该不该删决定,而由可结算性——一条岔路两侧的条件与判据能否被写成规则、算成分数——决定;而可结算性与后果重要性是两条正交的轴,故最不该被删的判断恰恰因为最难被写下来而最晚被碰,且被碰时不会有任何一次公开讨论。本文在职业信息网络数据库(O*NET 29.1,n=879)上做了一次预注册的回溯检验(预注册文本哈希已公开)。四条预言中三条被支持:自动化程度与可结算性强相关(r=0.466),与后果重量在控制可结算性后完全无关(偏相关 −0.036 至 +0.047,均不显著);时间压力与决策自由度近乎正交(r=0.017,p=0.61),证实忙与选是两笔账;自动化程度与决策频次无关(r=0.042,p=0.22)而与决策自由度显著负相关(r=−0.199),这一对系数正是“步骤留下、岔路删除”的字面读数。第三条预言部分不成立:三条判据中的前两条在职业尺度上几乎不可分(r=−0.803),本文据此收回“三条件在任何尺度上均可分离”的过强主张。一次纵向检验失败,失败原因可诊断并已写入正文。最后,本文指出这一读数使自动化设计学与人的监督条款陷入一处它们自身框架内看不见的矛盾:监督条款所要的接管能力只能由带责分叉生产,而自动化设计的标准实现方式恰好把它降到零;欧盟人工智能法第十四条要求部署方保证人的监督,却既不要求记录否决率,也不分配否决的责任——这不是执行不力,是那个量在它的框架里不存在。
关键词:带责分叉;分叉密度;可结算性;越建议率;自动化设计;人的监督;决策自由度
有三个判断,各自都有扎实的领域证据,而它们不可能同时为真。
第一个来自认知与教育研究:当两个框架在一个学习者面前对不上时,那道对不上的缝正是新维度得以生成的位置;用“综合起来看”“辩证地看”这类话术把它抹平,等于取消了这个位置。据此,那些看起来卡住、看起来什么也没发生的时段,恰恰是最该被守护的。
第二个来自伦理人类学的田野诊断:在大量现场里被反复采集到的道德话语,流畅、完整、可叙说,却不承载任何实际抉择的后果;把这类话语当成伦理正在发生的证据,是二十年学术生产扑空的原因。据此,“看起来正在发生”恰恰是最需要怀疑的信号,而采集机器偏偏最爱这一种。
第三个来自法哲学对规则类型的比较:划红线的禁止性规则在人身上安装的是一个间歇激活、可以休眠的零件,只在触界时耗能;而“应当积极展现某种品质”这类无上限的期待安装的是一个全天候运转、无法关闭的零件。规则不是在管理一个既成的人,而是先造出一种人,再用这种人去执行它自己。据此,争论外面有没有路是次要的,要紧的是里面那个走路的人还有没有余地。
第一家要求守住那段“什么也没发生”的时间;第二家指出这类时间里的绝大多数根本不承载后果,守它等于守一个空壳;第三家则说前两家争的都是场景,而被改造的是主体。若第一家对,第二家的怀疑就是把养分当废料;若第二家对,第一家守护的多半是装饰;若第三家对,前两家的处方都会落空,因为它们默认了一个还有余地去选的人。
本文的判断是:三家说的不是同一个东西,而把它们分开的那个量,三家都没有名字。这个量既不是“有没有事情在发生”,也不是“话语承不承载后果”,更不是“人有没有自由的感受”,而是一件可以数出来的事——在一段时间里,有多少个位置满足这样的条件:两条路之后的走法确实不同,行动者知道它存在并且被允许走,而走错的后果落在他本人身上且不至于将他废掉。本文称之为带责分叉。
引入这个量之后,三家的判断各自变成一个特例:第一家守护的缝,是分叉尚未被合并的状态;第二家诊断的空转,是分叉的第三条不成立(说了不改变任何人接下来做什么);第三家描述的常驻零件,是分叉的第三条虽在、而承受它的余地已被耗尽。三家都对,但都只按住了一角。
本文要论证的核心命题有两条。其一,当代对选择的取消采取一种特殊形态——删岔路而不删步骤——因而在全部现行读数上不可见:工作量不变或上升,流程步骤不变或增加,考核指标全部正常,满意度甚至上升。其二,删除的顺序不由该不该删决定,而由可结算性决定;而可结算性与后果重要性是两条正交的轴。第五节将在一份公开的职业数据上对这两条做一次预注册检验,并报告其中一条对本文不利的结果。
这一支的核心主张是:系统性思维的最高形态不是在不可通约的选项间做出裁决,而是把裂缝本身当作认知立足点,从中生成原有框架都无法单独覆盖的新维度;其发生条件包括一份不可转让的完整责任,以及内部一切“翻译”与“调和”工具的暂时失效。它给出的教育处方是撤回填缝剂,并在评价体系中为“卡住”留出一块不受核算侵犯的地方。
对本文而言,这一支贡献的是分叉的第一条判据的雏形:两条路必须真的不同。它同时提供了一个尖锐的观察——把两条路说成“其实是一回事”的话术,本身就是一种删除。它的限度在于:它没有给出判据来区分真正的不可通约与被装饰出来的不可通约,因而无法回应第二家的怀疑。
这一支的诊断是:在田野中被反复采集到的,不是伦理的发生,而是一种可以流畅叙说、却不承载任何抉择后果的道德话语;它进一步指出,学术机器的采集偏好(不出错、不浪费、不亏本)恰好与这种话语的形态咬合,于是二十年的丰收发生在纸面上而不是田野里。
对本文而言,这一支贡献的是第三条判据的核心:承载与否要看它是否改变此后的走法与后果归属。它的限度在于:它把承载与否处理为话语的属性,而在工作现场,同一个动作可以在一个人身上承载、在另一个人身上空转——差别不在话语,在后果落在谁头上。
这一支比较了两类规则在个体内部建构的结构差异:禁止性规则以羞耻为燃料,仅在触界时激活,与其间歇性的执行压力形成正反馈;期待型规则以愧疚与外部验证为驱动,持续耗能且无法关闭,与其持续模糊的评价压力形成自吞噬。它据此提出:规则类型不是在管理既成的人,而是在制造一种特定主体类型,然后用这种人去执行它自己。
对本文而言,这一支贡献的是第三条判据的下半句——承受得住。一个持续耗能而无法关机的主体,即使站在一个真实的分叉前,也可能没有余地去走那条更难的路。它的限度在于:它的分析单位是规则类型与主体类型,看不见“分叉数”这个介于制度与主体之间的量,因而无法解释为什么在规则类型完全没变的岗位上,选择也会一年一年地减少。
三家共享一个未被审查的前提:一个位置是否重要,取决于那里正在发生什么。第一家看是否有新维度在生成,第二家看话语是否承载,第三家看主体被安装了什么零件。三家都在问“里面有没有东西”,没有一家在问“接下来还有几条路”。本文的介入正是从这里开始。
设想一段在任何现行记录上都读作“正常”的工作时间:一名一线人员按流程完成了全部动作,没有异常,没有投诉,没有加班。三家对这段时间给出三种不相容的处置。
第一家会问:这段时间里有没有出现两个对不上的框架?若有而被熨平,则损失已经发生,处置是撤回填缝剂。
第二家会问:这段时间里的言说与动作有没有改变任何后续后果?若没有,则它是空转,守护它毫无意义,处置是不要把它当证据。
第三家会问:这段时间里那个人身上运转的是哪一种零件?若是常驻型,则无论外部有多少选项,他都在持续耗能,处置是改变规则类型。
三者的分歧不是侧重不同,而是彼此证伪:若这段时间的价值取决于是否有缝,那么第二家所谓的空转多数应当被重新评价为尚未成形的缝;若价值取决于是否承载后果,那么第一家守护的多数缝应当被判为装饰;若价值取决于主体类型,那么在同一套规则下的所有位置应当同质,而第一家与第二家在同一现场内部观察到的巨大差异就无从解释。
本文认为三者可以同时为真,前提是承认它们各自按住的是同一个结构的不同条件,而这个结构此前没有被命名。
定义。在一段工作时间中,一个位置构成一次带责分叉,当且仅当以下三条同时成立:
(一)分岔条件:至少存在两条后续走法,其在此后一段可指认的时段内产生不同的可观察后果;两条路的差别不能仅是同一走法的次序或措辞差异。
(二)可见与许可条件:行动者知道另一条走法存在,且走它不需要支付使其在实践中不可选的成本(申请、说明、背书、得罪特定对象等的总成本)。
(三)承担条件:所选走法的后果实际落在行动者本人身上,且该后果的量级不足以使其丧失下一次选择的资格。
三条中任缺其一,从外部观察到的现象完全相同——都表现为“一个人面前有若干选项,他挑了一个”。这正是该量长期不可见的直接原因。
读数一:分叉密度 b,定义为单位工时内带责分叉的次数,需按上述三条逐条判定,不接受自评。 读数二:越建议率 m,定义为在系统给出建议值、默认值或推荐方案的位置上,行动者作出不同选择的比例。m 是 b 的下界估计,其优点是几乎在所有已数字化的流程里都已经被记录,只是从未被读出。
两条读数的关系是:m 只能测到第二条与第三条,测不到第一条(一个被改动的默认值可能通向同一后果);b 需要人工判定第一条。故 m 便宜而粗,b 昂贵而准。
删步骤是把一段工作取消:合并工序、去掉环节、裁撤岗位。它有明确的可见性——工作量下降、人数下降、时间下降,且删除时通常伴随争论。
删岔路是把一段工作保留而取消其中的选择:条件仍需核对,动作仍需完成,记录仍需留存,唯一消失的是“本来可以走另一条”。它的可见性接近于零:工作量不降反升(因为核对与留痕本身是工作),流程图上的节点只增不减,考核指标全部正常。
本文的第一条核心命题是:当代对选择的取消以第二种形态为主,因而不进入任何现行读数。 这不是一个修辞上的区分。它有直接的经验蕴含:若删除以第一种形态为主,则自动化程度较高的岗位应当表现为决策次数下降;若以第二种形态为主,则决策次数可以不变,而决策自由度下降。第五节将检验这一对系数。
第一,阈值化。把“要不要”改写为“分数够不够”。原来的问题需要一次判断,改写后的问题只需要一次核对。这一手法的正当性极强——它同时提高了公平性与一致性,压缩了看人下菜碟的空间——而它的副产物是:该位置的第一条判据被取消,两条路被合并为一条。
第二,默认值预填。把空白栏改为带系统建议值的栏,并允许修改。此手法在形式上完整保留了第二条判据(另一条路可见且可走),但在实践中往往取消它:改动需要说明理由,理由须留档,留档者在事后追责中承担说明责任,而不改者不承担。一个“可改而改了要担责、不改则免责”的默认值,其通行成本被单方面抬高,越建议率会在数个季度内落到个位数。
第三,例外申请化。把原本由现场人员当场决定的例外,改造为一个需要填表、说明、会签、备案的流程。没有任何一条规则禁止走这条路,只是这条路变贵了;贵到某个阈值之后,它从“一条路”变成“传说中有那么一条路”。
三种手法的共同特征是:它们都不删步骤,且每一种在当期指标上都表现为改进。三者叠加时,会出现一种难以申诉的局面——一个人每天忙碌,所做的每一件事都是必要的,没有一件是他定的,而且他找不到任何一条禁止过他的规则。
一条岔路能否被上述三种手法处理,取决于它两侧的东西能否被写下来:条件可编码、选项可枚举、判据可计分。本文把这一属性称为可结算性。
可结算性与后果重要性是两条不同的轴,且在经验上近乎正交:一名装配工的动作高度可结算而后果有限;一名医生对“这个病人今天不对劲”的判断后果极重而几乎不可结算;一名信贷员对“报表难看但这个人靠谱”的判断介于两者之间。
本文的第二条核心命题是:删除的顺序按可结算性排列,与后果重要性无关。 其推论有三:
其一,最不该被删的判断,恰因其最难被写下来而最晚被处理;但“最晚”不等于“不会”,而当它被处理时,不会有任何一次以“该不该”为议题的公开讨论——因为触发处理的是技术可行性,不是必要性判断。
其二,这一顺序在单个岗位内部同样成立。一个岗位中可结算的那部分被优先接管,而不可结算的那部分所依赖的判断力,本来正是靠反复经历前一部分的小判断养成的。于是“保留高价值判断、自动化低价值判断”这一被广泛接受的设计原则,在时间上是自我拆解的。
其三,由于删除按可结算性排序,而记录能力同样按可结算性排序,因此被删掉的东西与能被记录的东西是同一批的补集:越是无法被记录的判断,其消失越无从察觉。这解释了为什么加强监测无法发现这一过程——监测本身沿着同一条轴展开。
认知与教育侧到不了,因为它的分析单位是学习者与知识内容,而删除发生在流程设计层;在它的视野里,填缝剂是话术,它看不见填缝剂的工业化形态是默认值。
伦理人类学侧到不了,因为它把承载与否处理为话语的属性;一旦把承载定义为“后果是否落回言说者”,它就会发现自己诊断的空转不是学者的采集偏好造成的,而是现场的分叉早已被删除——话语之所以空转,是因为那里已经没有什么可以由这次言说决定。
法哲学侧到不了,因为它的两类规则都以“规则”为前提,而本文所述的三种手法都不是规则:阈值是参数,默认值是界面,例外申请化是流程。它们不禁止任何事,因而不进入规则类型学的视野。
为使三条判据可被他人重复施用,此处对一个具体岗位逐条走一遍。取一家中型银行的小微信贷客户经理,改造前后各一次。
改造前。一天处理四至六户。位置一:是否受理该户(判据一:受理与否此后一个月的走法完全不同;判据二:不受理无须审批,说明成本近零;判据三:受理后逾期计入其个人资产质量考核——三条成立,计一次)。位置二:贷前调查中是否追加一次实地核查(三条成立,计一次)。位置三:给出的额度与期限建议(三条成立,计一次)。位置四:报送时是否附加与评分不一致的说明(判据二成立但成本较高,判据三成立,计一次)。全天 b ≈ 4,越建议率不适用(无系统建议)。
改造后(引入评分卡与自动决策)。同一岗位一天处理十二至二十户。位置一被阈值化:分数过线自动受理,不过线自动退回,中间档转人工——原分岔在两端被合并,仅中间档保留,而中间档约占全部件量的一成五。位置二被规则化:实地核查由系统按规则触发,人不再决定是否追加。位置三被默认值预填:额度与期限由系统给出建议值,可改,改需填写理由并留档,改后若发生逾期,责任认定中该理由将被调阅。位置四被流程化:与评分不一致的报送须经风险条线会签。
改造后的读数:全天名义决策次数由四至六上升到十二至二十(判定动作变多),而按三条判据计的 b 由约 4 降至约 0.6(仅中间档的额度建议仍成立,且其判据二的成本已升高);越建议率 m 在该行上线后第七个季度稳定在 3% 至 5%。
三点值得注意。其一,该岗位的工作量、留痕量、合规水平均上升,且其不良率下降——从任何一张现行管理表看,这次改造是成功的,本文亦不认为它应当被撤销。其二,b 的下降与不良率的下降并不矛盾:可结算的那一部分判断,系统确实做得更好。其三,被删掉的那一部分——“报表难看而这个人靠谱”——恰是小微信贷中最难被写下来、也最被认为是这一行当价值所在的判断;它的消失不是被决定的,是被排序排到的。
检验使用美国职业信息网络数据库(O*NET)29.1 版的工作情境模块(Work Context,Scale ID = CX,五级量表),分析单位为职业,完整个案 n = 879。选择这份数据的理由是:它对本文所需的三类量都有独立测量项,且这些测量项由在岗者本人评定,早于本文的问题意识多年,不可能为迎合本文的假说而设计。
操作化全部采用原始描述符,不做任何合成加权(唯一的合成是可结算性由两个描述符等权秩均,且此合成在预注册中写定):
对应关系需说明其限度:L 是第二条判据(可见与许可)的近似,R2 反向是第一条判据(分岔)的近似,W1/W2/W3 是第三条判据(承担)的近似。三者都是职业层的粗测,无法测到工位与日次层。这一限度在 5.5 节将以一个不利结果的形式回来。
四条预言、操作化与判否规则在读取任何相关系数之前写定并冻结,文本的 SHA-256 为:
c12a5830a4e26d0e565c329e2eb84919ca2bc38564ac0825b9a78ba7930611b4
预言如下: P1(靶心)删除顺序按可结算性而非后果重量:r(A,R) 显著为正且明显大于 |r(A,W)|;控制后果三项后 R 与 A 的偏相关仍显著为正,控制可结算性后 W 与 A 的偏相关不显著。判否:若 |r(A,W)| ≥ |r(A,R)|,或控制 R 后 W 仍是 A 的强预测项。 P2(两笔账)|r(T,L)| < 0.20,且 r(A,T) 不显著为负。判否:若 r(T,L) ≤ −0.40。 P3(三条件不可归约)L、R2、W1 在主成分分析中第一主成分解释方差 < 80%,且 W1 在第二主成分上有主要载荷。判否:若第一主成分 ≥ 80% 且三者同号高载荷。 P4(频次不等于自由)r(F,L) 与 r(F,A) 方向可分,且 F 与 A 的负相关弱于 L 与 A 的负相关。判否:若 r(F,L) ≥ 0.80。
自动化程度与可结算性两项的相关分别为 r(A,R1) = +0.466(p < 10⁻⁴⁷)与 r(A,R2) = +0.182(p < 10⁻⁷),合成后 r(A,R) = +0.437。自动化程度与后果三项的相关则微弱:r(A,W1) = +0.071(p = 0.035)、r(A,W2) = +0.189、r(A,W3) = +0.036(p = 0.29,不显著)。
偏相关给出更干净的分离。控制全部三项后果变量后,例行度与自动化的偏相关几乎不衰减:r(A,R1 | W1,W2,W3) = +0.447;反过来,控制两项可结算性变量后,三项后果变量与自动化的偏相关全部落到零附近且均不显著:r(A,W1 | R1,R2) = −0.036(p = 0.28)、r(A,W2 | R1,R2) = +0.047(p = 0.16)、r(A,W3 | R1,R2) = −0.048(p = 0.15)。
这一组系数的含义是明确的:在职业层面上,一件工作被自动化到什么程度,由它有多可被写成规则决定;至于这件工作的判断错了会伤害多少人、会造成多大损失、是否涉及他人的健康与安全——在控制了可结算性之后,这些与自动化程度没有关系。靶心命题在这份数据上成立。
需要立刻说明它不能证明什么。这是横截面数据,不能证明因果方向,也不能直接证明“删除按此顺序发生过”。它只能证明本命题的一个必要蕴含:如果删除顺序确实由可结算性而非后果重量决定,那么在任一时点的截面上就应当看到上述模式;若看到的是相反模式,本命题即被推翻。
时间压力与决策自由度的相关为 r(T,L) = +0.017(p = 0.61)——在近九百个职业上,这两个量近乎完全正交。一个人有多忙,与他有多少可自由处置的余地,在职业层面上互不预测。
自动化程度与时间压力的相关为 r(A,T) = +0.178(p < 10⁻⁶),方向为正。也就是说,自动化程度更高的职业,其在岗者报告的时间压力并不更低,反而略高。这与“删步骤”的图像不符,与“删岔路而保留甚至增加步骤”的图像一致。
主成分分析的判否规则未被触发:第一主成分解释 67.5% 的方差(低于 80% 的门槛),后果重量 W1 在第二主成分上是主要载荷(−0.904)。就此而言 P3 通过。
但相关矩阵显示了一处本文事先没有预料到的事实:r(L, R2) = −0.803。也就是说,第二条判据(行动者知道并被允许走另一条)与第一条判据(两条路真的分开)在职业尺度上几乎是同一个量的两端。三条判据中,真正可分的只有第三条(后果落在本人身上)。
本文据此收回一条过强的主张。原先的表述是“三条判据各自独立、缺一不可”;准确的表述应当是:在职业这一粗尺度上,前两条不可分离,可分离的是承担条件;三条判据的分离需要更细的观测单位(工位级或日次级的越建议记录),而这一层数据在绝大多数机构里虽然天天产生却从未被读出。 这一收回不是无关痛痒的:它意味着本文提出的 b 读数在职业层面无法完整实施,只能实施其两条;完整实施依赖于本文所主张的那种记录尚未建立——本文由此处在一个必须承认的循环里,第十二节将回到这一点。
三个系数放在一起是本文最直接的量化支持:
即:随着一个职业的自动化程度上升,在岗者仍然在不断做决定,做决定的次数并不减少,减少的是这些决定还剩下多少可以由他处置的余地。这正是本文所命名的那个形态的字面读数——步骤没有少,岔路少了。
按此可以点出一份职业名单:决策频次在中位数以上、而决策自由度落在下四分位的职业共 77 个,占样本的 8.8%,其中包括停车执法员、外科技师、细胞遗传技术员、肉类分割工、金属与塑料挤压拉拔机操作工。这些岗位的共同特征是:一整天都在做判断,而几乎没有一项判断是可以由他改的。
在决策自由度与后果重量交叉的 2×2 分布上,“低自由度·重后果”一格共 160 个职业(18.2%),其自动化程度均值为 2.24,高于“高自由度·重后果”一格的 2.08(差 0.162)。这一格正是责任与决定权分离最严重的位置,也是自动化程度最高的一格。
若能在时间维度上直接观察删除,证据会强得多。本文尝试了这一步并失败了,失败过程照实报告。
方法是取 O*NET 20.1 版(2015)与 29.1 版(2025)的同一批描述符,保留两版工作情境采集日期不同(即期间确实被重新调查过)的职业,n = 578,计算自动化程度的变化量 ΔA,并以基期特征预测之。
结果不可用,理由有二。其一,ΔA 的均值为 −0.121——在这十年间,在岗者报告的自动化程度平均是下降的。这与任何关于该时期的常识相悖,说明该题项作为纵向指标存在系统性漂移:它是自评题,问的是“你的工作有多自动化”,而重新调查抽到的是不同的在岗者,其参照系随时代变化(今天的在岗者以更高的标准判断什么算“自动化”)。其二,基期例行度与 ΔA 的相关为 −0.195(p < 10⁻⁵),方向与横截面结果相反;在多元回归中基期例行度系数为 −0.116(t = −4.54),而基期后果重量与差错后果的系数均不显著(t = −0.33 与 +0.02)。基期水平与其后变化量之间的这种负相关,是均值回归的标准形态,无法与实质效应分离。
结论:本文不能用 O*NET 的时间维度支持删除顺序命题。 真正的纵向检验需要一个不依赖自评的自动化度量——例如同一批流程在两个时点上的越建议率与例外申请通过率。这类数据在每一个已上线的业务系统里逐日产生,而本文尚未在任何一份公开发表的研究或任何一家机构的年报中找到它被读出的实例。这一句本身就是本文命题的一个侧面证据,同时也是它最难堪的位置:它所需要的证据,正被它所描述的机制持续地不予记录。
由于自评式的“自动化程度”存在上述弱点,本文另取两个不依赖该题项的代理重跑靶心检验。需注明:这一步不在预注册之内,属事后分析,结论只作为稳健性参考。
代理一,“工作节奏由设备速度决定”(4.C.3.d.3):r 与例行度 +0.215、与结构化 +0.432、与后果重量 −0.047(不显著)、与决策自由度 −0.397。靶心保持,且比原代理更干净——它与可结算性正相关、与后果重量无关、与自由度强负相关。
代理二,“与计算机打交道的重要性”(4.A.3.b.1):结果方向相反——与结构化 −0.410、与决策自由度 +0.337。据此该代理不支持靶心。本文的判断是这个代理测的不是本文所指的东西:它与决策自由度正相关,说明它捕捉的是“以电脑为主要工具的专业性工作”(工程师、分析师、设计师),而不是“动作被系统规定的程度”。本文承认这一判断带有事后合理化的风险,故给出一条可事前区分的判据供他人检验:一个合格的“被系统中介程度”代理应当与决策自由度负相关;凡与自由度正相关者,测的是工具的种类,不是路径的收窄。
综上,四条预注册预言中,P1、P2、P4 被支持,P3 部分不成立并已导致本文收回一条主张;纵向检验失败且失败原因可诊断;两个事后代理中一个支持一个反向。
本节论证:一旦承认分叉密度这个量,当代关于自动化的主流设计学与其配套的监管条款,会在它们自身框架内暴露一处此前看不见的矛盾;而拒绝承认这个量,则该矛盾无法被表述,只能以“执行不到位”的形式反复出现。
自动化设计的基本处方是减少人的操作负担、减少人为差错的机会、提高一致性。这一处方在几乎所有工程领域被采纳,并且它是对的——本文第十节将说明它在哪些场合不但对而且必须。其标准实现方式正是本文第 4.3 节所列的三种手法:把判断阈值化、把默认值预填、把例外流程化。
与甲并行的另一条处方来自人因研究的经典结论:高度自动化的系统中,人被置于监控位,其技能与情境把握会退化,而恰恰在系统失效时需要他接管。因此设计上必须保留人的监督与否决权。这一条同样被广泛接受,并且已经进入法律:欧盟人工智能法(Regulation (EU) 2024/1689)第十四条要求高风险人工智能系统的部署方保证由自然人实施有效监督,包括正确解读输出、在必要时不采纳输出、以及在必要时干预或停止系统。
甲与乙在“分叉密度”这个量上正面相撞:
乙所要的那种接管能力,其生成条件是带责分叉——一个人只有反复地在真实分岔处作出选择并承担其后果,才会形成对“哪里容易出问题”的判断;而甲的三种标准实现方式,恰恰逐条取消带责分叉的三个条件(阈值化取消第一条,默认值预填抬高第二条的成本,例外申请化把第二条抬到不可选)。因此:越是按甲把系统做好,乙所要的能力就越无从生成;而乙的处方是在能力已经无从生成之后,要求那个人去行使它。
现行的化解方式是“保留人的否决权”。但按本文的三条判据,一项否决权若不同时具备可见的替代路径与后果的实际归属,就不构成一次分叉,只构成一个签字位。这不是修辞:它可以被直接检验——凡真实的否决权,必有非零的越建议率;凡越建议率长期趋近于零的位置,其上的“人的监督”在功能上已经是形式的。
上述法律条款要求部署方保证有效的人的监督,规定了监督者应当能够不采纳输出、能够干预与停止;但它既不要求记录不采纳的比例,也不要求规定不采纳之后责任如何分配。同一部条款要求保存日志(第十二条),日志的内容围绕系统的运行与可追溯,而不是围绕人的偏离行为。
于是出现一个可以直接核对的空档:一套以“人必须能够不采纳”为核心要求的制度,不产生任何关于“人有没有不采纳过”的数据;而它同时要求部署方为系统输出的使用后果负责,却不说明当监督者选择不采纳并因此致损时责任如何落位。按本文的框架,这两点是同一件事:没有承担条件的否决权不会被行使,而没有被行使的否决权不产生记录,于是这套制度在自己的读数里永远看不到它自己是否有效。
这就是本文所说的强制不一致。承认分叉密度,则上述条款的合规性可以被检验(要求报告越建议率并规定否决的责任分配),代价是许多现行的“人在环中”设计将被判定为形式合规;不承认它,则该条款的有效性在原则上不可被评估,而其失效将持续以“人员培训不足”“监督意识不强”的形式被归因于个人。
拒绝本文的一方有一条明确的退路:主张接管能力可以由训练而非由日常的带责分叉生产——即在模拟器、演练与考核中造出分叉,从而无须在真实流程中保留。本文认为这条退路是成立的,并且这正是高可靠性行业已经在做的事(第八节其十二与第十节)。但它有一个代价必须一并承认:模拟中的分叉满足第一与第二条判据,其第三条只能以人工方式模拟(考核后果),因而它能训练出的是识别与操作,未必是“在后果真的落在自己身上时仍能作出判断”的那种能力。若有研究能证明模拟分叉在这一点上与真实分叉等效,本文第六节的全部论证即被削弱。这是本文最愿意被证伪的一条。
其一,加大投入不能修复分叉密度。若某岗位的 b 已趋近零,增加培训、增加人手、提高薪酬、强调担当意识,都不改变三条判据中的任何一条。可检验的形态是:这类干预会提高满意度与自评自主感,而越建议率不动。
其二,装饰性选项与真实分叉此消彼长。可批量供应的只有不承载后果的选项,因为供应它们不需要分配责任。故在同一系统中,选项数量的增长与分叉密度的下降可以同时发生,且前者会被当作后者的证据。判据:数选项个数无用,数越建议率。
其三,同一技术在余量厚薄不同的位置产生相反效果。第三条判据含有“后果不至于使其丧失下一次选择的资格”这一限定,故当承受能力低时,形式上存在的分叉在实践中被压成单路。推论是:同一套辅助决策系统,在有余量的岗位上是省事,在无余量的岗位上是收路,而两者在系统日志上无法区分。
其四,责任感会与选择脱钩,而不是随之消失。当第三条判据与前两条断开(后果落在身上但没有可选路径),人身上关于“我够不够好”的评价不会停机,却没有可以用来结案的材料。可检验的形态是:这类岗位上会同时观察到高疲劳自评、低自评效能与正常甚至优良的绩效指标。这一形态与倦怠的标准描述部分重叠,但可由越建议率区分:倦怠的标准处方(减负、恢复、社会支持)不改变越建议率。
其五,事故复盘会卡在同一处。在 b 趋零的岗位上发生事故后,追问“当时为什么这样处理”将得不到个人化的理由,回答会收敛为“系统就是这么派的”“流程就是这么走的”。这不是推诿:那里确实没有发生过一次选择。
判据一(分岔):选另一条,其后一段可指认时段内的可观察后果是否不同?答不出具体差别的,不是分叉。 判据二(可见与许可):另一条路在制度上是否可走,其通行成本是多少?成本须以实际支付计(时间、说明、会签、得罪对象),不以是否被禁止计。 判据三(承担):后果落在谁身上,量级是否使其丧失下一次的资格? 判据四(记录):这三条的判定所依据的数据,是否在该机构已经产生?若已产生而从未被读出,则该机构处在本文所述的典型状态。
以决策自由度与后果重量分别切分,得四格:高自由·重后果(本文样本 32%)是分叉正常的位置;高自由·轻后果(18%)是低风险练手位,是唯一可以廉价制造分叉的地方;低自由·重后果(18%)是责任与决定权分离最严重、且自动化程度最高的一格,本文认为这是最应优先干预的靶格;低自由·轻后果(31%)是常规执行位,删除分叉在这里通常是正确的。
本节检验该读数在差异较大的领域中是否仍能作出非平凡的区分。每处只写形态与可查的读数。
其一,门诊。指南细化与临床路径管理提高了一致性,同时使“这个病人不像指南所描述的那样”的处置需要额外记录与说明。可查读数:偏离临床路径的比例及其逐年走向;本文预测该比例单调下降而路径覆盖率上升。
其二,中小学课堂。统一进度与配套练习使课时内容高度确定,教师改变当日安排须向多个方向解释。可查读数:一学期中实际偏离既定进度的次数。
其三,基层执法。裁量基准表收窄自由裁量,这在总体上是进步;其副产物是“依法可罚而此次不宜罚”的处置失去合法安放处。可查读数:不予处罚决定占比与其理由的类型分布。
其四,小微信贷。见 4.6 节走查。可查读数:越评分卡建议的比例。
其五,工厂排产。排产系统在多数条件下优于经验判断;老工人“这批料手感不对”的处置在系统中无对应字段。可查读数:人工干预排产的次数占比。
其六,客服。话术由系统推送,考核解决率与时长。可查读数:坐席偏离推荐话术的比例——该数据几乎所有系统都记录,几乎无人调阅。
其七,配送与网约。路线、顺序、时限由系统给定。可查读数:骑手主动改派或改序的比例及其被系统接受的比例。
其八,家庭作业。家长即时纠错使正确率上升,孩子未经历“我打算这么做、错了自己承担”的位置。这是分叉密度最早开始下降的场所,且无任何记录。
其九,招聘。筛选规则明确化挡住了偏见,也挡住了“这个人经历很怪但值得见一面”。可查读数:越筛选规则进入面试的人数占比。
其十,编辑与内容生产。选题由数据支撑,稿件有模板。可查读数:无数据支撑而被采纳的选题占比。
其十一,社区照护与物业。巡查表与拍照留痕使覆盖可核查,未列项者不进入视野。可查读数:巡查记录中“表外事项”的登记条数。
其十二,飞行与消防训练。这是反向的一处,也是最有说服力的一处:这些行业在演练中刻意制造信息不全、指挥中断、必须当场决断的局面,并明确规定此类判断即使事后被证明为错,复盘不追责。它们清楚地知道那种能在无指令时作出决断的人不会自行长出来,必须专门花钱造出场合把他逼出来。可查读数:年度演练中设置为“无标准答案”的科目占比。
十二处的形态一致:步骤保留或增加,分叉减少,减少的顺序自可结算性一端开始,且每一处的删除都有充分的好理由。最后一处说明这不是宿命——有人在专门往回加;只不过目前愿意为此付费的,主要是那些失败会以外人可读的形式一次性出现的行业。教育、照护与多数白领工作的失败缓慢、可归因于个体、延迟数年,这正是它们的分叉密度结构性偏低的原因,也是“向高可靠性行业学习”在这些领域反复落不了地的原因。
十条中前七条为证伪条件,第八、九条为最便宜的检验,第十条为写死的赌注。
其一,若在职业或岗位层数据上,后果重量在控制可结算性后仍是自动化程度的强预测项,则第 4.4 节的靶心命题伪。 其二,若决策频次随自动化程度显著下降而决策自由度不变,则“步骤留下、岔路删除”这一形态判断伪,例行任务替代假说对。 其三,若时间压力与决策自由度在多个独立数据源上强负相关(r ≤ −0.40),则“两笔账”的分账是多余的。 其四,若在工位级数据上,三条判据坍缩为一个维度(第一主成分解释方差 ≥ 80%),则三条判据应被合并,本文的判据体系失效。第 5.5 节已在职业层给出部分不利证据。 其五,若有研究证明模拟场景中的分叉在“后果真的落在本人身上时仍能作出判断”这一点上与真实分叉等效,则第六节的强制不一致失效。 其六,若某高度自动化的行业长期不出现“遇到新情况全场无人能给出判断”的现象,反而因省下的精力被投入更难的判断而使分叉密度上升,则本文对趋势的判断错误——这是本文最希望被证明的一条。 其七,若某机构在越建议率长期趋零的条件下,仍能在真实事故中由现场人员作出有效的非常规处置,且这一处置能力可被重复观察,则第三条判据的承担条件并非必要。 其八(最便宜的检验,一条数据库查询):在任何已上线的业务系统中统计“系统给出建议而人作出不同选择”的比例及其逐季走向。本文预测该比例在系统上线后的六至八个季度内单调下降并稳定在个位数,且这一下降与满意度指标无关。 其九(一天可做的对照):同一份工作、同一套系统,一组默认值全部预填(可改),另一组关键字段留空(须自填)。本文预测三个月后后者处理速度略慢、当期差错率略高,但在遇到系统未曾见过的情形时给出可用判断的比例显著更高,且能说出自身判断理由的人数显著更多。若后一项无差别,本文核心主张塌掉一半。 其十(赌注,2031-12-31):到该日,若仍没有任何一部关于人工智能系统人的监督的法规、标准或行业指引,要求报告否决率或规定否决的责任归属,则本文所描述的量仍然只是一个说法,而不是一件被承认的事。以下六种情形不计为命中:仅要求保留否决权而不要求记录;仅要求记录系统日志;仅在自愿性指南中提及;仅要求统计人工复核的数量而不区分是否改变结论;仅适用于单一企业内部;以及以满意度或信任度问卷替代行为记录。
第一,本文所需的关键证据,正被它所描述的机制持续地不予记录。第 5.7 节的失败不是技术性挫折,而是本命题的一个侧面:一个从未被读出的量,其历史无法被重建。本文因此只能给出横截面的必要蕴含与两条便宜的前瞻检验,不能给出直接的过程证据。
第二,本文第 5.5 节被数据削掉了一条主张,而削掉它的是本文自己预注册的判否规则。这一条应当被后来者用同一方式对待:若工位级数据显示三条判据进一步坍缩,本文的判据体系应当被简化,而不是被解释。
第三,本文自身的分叉密度接近于零。它有指定的栏目、指定的体例、指定的交稿时刻,作者在其中所作的判断很少有一次的后果会落回自身。按本文自己的判据,学术论文与它的生产制度正是“步骤极多而分叉极少”的典型;本文能诊断这一状态,不能示范它的反面。
第四,一个无法自解的循环:任何使分叉密度可核查的装置,本身都会成为一次新的要求,从而改变被测者的行为;而不可核查的分叉密度进不了任何决策。本文对此没有出路,只有一条底线——验收时看事后清点的实际读数(越建议率、否决后的责任归属记录),不看有没有设立制度。
第五,交出两个本文解释不了的地方。其一,b 的合理量级未知:本文能说零是坏的,说不出一天该有几次,也无法把“一次分叉的重量”变成可加总的量;本文怀疑重量比次数更要紧,但没有走通。其二,分叉密度长期为零之后能否自行恢复:本文主张单向性很强,但确有个案显示换一个环境后判断力在数月内回来,这与“能力已不存在”的解释不相容;两种情形的处方完全相反,本文分不出它们。
〔1〕本文使用的 O*NET 数据为 29.1 版公开发布的文本版数据库,由美国劳工部资助的国家 O*NET 开发中心发布,采用知识共享署名协议。分析脚本与预注册文本随本文发布。 〔2〕工作情境模块的量表为五级,由在岗者评定;本文所用各题项的样本量与标准误随原始数据一并公开,本文未作加权、未剔除任何样本、未使用抑制标记之外的任何筛选。 〔3〕第 5.8 节的两个替代代理不在预注册之内,属事后分析,其结论仅作稳健性参考。本文保留其中与靶心相反的结果并给出可事前区分的判据,而非将其略去。 〔4〕本文对欧盟人工智能法条款的引述限于其公开文本中关于人的监督与日志保存的要求,不涉及对其成员国实施细则的评价。
〔一〕National Center for O*NET Development. O*NET 29.1 Database. https://www.onetcenter.org/database.html 〔二〕Autor, D. H., Levy, F., & Murnane, R. J. (2003). The Skill Content of Recent Technological Change: An Empirical Exploration. Quarterly Journal of Economics, 118(4), 1279–1333. 〔三〕Autor, D. H. (2015). Why Are There Still So Many Jobs? Journal of Economic Perspectives, 29(3), 3–30. 〔四〕Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 〔五〕Parasuraman, R., & Riley, V. (1997). Humans and Automation: Use, Misuse, Disuse, Abuse. Human Factors, 39(2), 230–253. 〔六〕Endsley, M. R. (2017). From Here to Autonomy: Lessons Learned from Human–Automation Research. Human Factors, 59(1), 5–27. 〔七〕Casner, S. M., Geven, R. W., Recker, M. P., & Schooler, J. W. (2014). The Retention of Manual Flying Skills in the Automated Cockpit. Human Factors, 56(8), 1506–1516. 〔八〕Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence, Articles 12 and 14. https://eur-lex.europa.eu/eli/reg/2024/1689/oj 〔九〕Iyengar, S. S., & Lepper, M. R. (2000). When Choice is Demotivating. Journal of Personality and Social Psychology, 79(6), 995–1006. 〔十〕Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving Decisions About Health, Wealth, and Happiness. Yale University Press. 〔十一〕Deci, E. L., & Ryan, R. M. (2000). The “What” and “Why” of Goal Pursuits. Psychological Inquiry, 11(4), 227–268. 〔十二〕Sen, A. (1999). Development as Freedom. Oxford University Press. 〔十三〕Braverman, H. (1974). Labor and Monopoly Capital. Monthly Review Press. 〔十四〕Zuboff, S. (1988). In the Age of the Smart Machine. Basic Books. 〔十五〕Scott, J. C. (1998). Seeing Like a State. Yale University Press. 〔十六〕Frankfurt, H. G. (1969). Alternate Possibilities and Moral Responsibility. Journal of Philosophy, 66(23), 829–839. 〔十七〕Edmondson, A. (1999). Psychological Safety and Learning Behavior in Work Teams. Administrative Science Quarterly, 44(2), 350–383. 〔十八〕陈晓艳《接缝思维:不可通约处如何成为生产性的认知立足点》,SDE Universes 学员专栏。https://sdeuniverses.com/students/chen-xiaoyan/seam-thinking/ 〔十九〕张琼《伦理空转项:中国伦理人类学田野采集的诊断》,SDE Universes 学员专栏。https://sdeuniverses.com/students/zhang-qiong/ethical-idling/ 〔二十〕高鹏《使人成为主体的规则:论禁止性规则与期待型规则所安装的两种主体结构》,SDE Universes 学员专栏。https://sdeuniverses.com/students/gao-peng/rules-that-make-subjects/
本栏另有一篇与本篇形状相近而变量相反:《没有人要求的时候》测的是无任务、无奖惩时段里系统还动不动,其定义条件是没有人在等它交出什么;本篇的读数恰恰要求后果落在本人身上。两者在定义上互斥而正交——那一个问「没人要求时它还动不动」,本篇问「有人要求时他还能不能走另一条」,可同批测量且互不蕴含。
本篇的三家源是站内学员论文,分属认知教育、伦理人类学与法哲学——三家互不相识,却对「同一段看起来什么也没发生的工作时间」给出不能并存的处置。下面三条可直接点开核对。正文第二节交代三家各自说到了哪一步,第三节把三处对顶写死,第四节第五小节说明它们各自为什么到不了本文这一条,第九节再与十种最容易被混为一谈的说法逐条分界——包括本文承认最可能把它吸收掉的那一个。
网页长文