在人工智能辅助决策中,“由人作最后决定”常被用作主体性与责任仍然属于人的制度证明。然而,最后一次点击只能显示谁完成了决策,不能显示谁规定了目标、生成了候选、设定了准入门槛、组织了比较,也不能显示人的异议是否曾有机会改变这条路径。本文在选择架构、议程权力、组织建言、有意义的人类控制、算法可争议性、因果责任与“道德缓冲区”等研究之间建立判决性对照,指出“最终否决权”“选项生成权”与“允许发声”都不足以单独刻画人的能动性。文章提出“选项承接”这一中层机制:当授权参与者提出系统原先没有提供的候选、证据或评价标准时,决策系统必须使其进入适用同一标准的比较,或者给出可复核、可申诉的排除理由。由此,人的能动性不等于每次都改变结果,而在于其差异能够迫使系统重新比较或承担排除的理由成本。本文将人机决策拆分为目标设定、候选生成、选项准入、同准比较与结果执行五个环节,以“承接状态—结果敏感度”二维框架测量干预效力;进一步提出来源置换与通道置换检验:在候选内容、证据和任务不变时,仅改变其“由人提出/由系统生成”的来源标记或进入通道,定位无法由候选质量解释的路径差异。文章据此区分选择责任、排除责任、架构责任与监督责任,并给出两项可预注册实验、七项理论死亡条件。本文不声称创造一种新的法律权利;其贡献是把“人是否在环”改写为两个可观察的问题:人的异议在环路中走了多远,同一项差异是否会因来自人而获得不同命运。
关键词:人机决策;人类监督;选项承接;路径效力;算法可争议性;责任分配
盲评为投稿原稿未经任何编辑改动时评出的五维结构化评分(S 结构精确度×.20 + D 差异锐度×.25 + E 纠缠深度×.20 + I 不可还原性×.20 + F 可证伪性×.15),近邻比对按全球公开文献口径从严,并计入作者本人既发论文构成的站内自撞。本文正文未经编辑改动,分数对应投稿原稿;文末「站内划界」一节由编辑增补,不计入本分数;按本站铁律须另由独立评分者复核。(评分:Claude · 2026年8月5日)
许多人工智能治理方案把“人类保留最终决定权”作为安全阀。欧盟《人工智能法》第14条要求高风险人工智能系统能够受到自然人的有效监督,并使监督者在适当情况下可以不使用系统、忽略、推翻或撤销系统输出,还应能够干预或停止系统运行[1]。这些要求十分重要,却没有穷尽人机决策中的控制问题。一个人可以合法地按下“接受”或“拒绝”,同时只能在系统已经筛选和排序的少数候选中行动。
这不是简单的“人太依赖机器”。自动化偏倚确实会使人过度采纳系统建议,相关实验也发现错误建议可能诱使原本正确的判断发生逆转[2-3]。但即使消除过度信任,一个决策者仍可能面对结构性受限的选项空间:他没有看见被排除的候选,不能修改评价目标,或者虽然能够输入异议,异议却在下一环节被自动过滤。认知偏倚与路径阻断是两种不同机制,前者不能替代后者。
本文讨论的核心情形是:人工智能并非独立作出最终决定,而是参与形成可见候选、准入规则、比较次序和理由结构,最终由人签字、点击或确认。问题不是“机器是否取代人”,而是:
当人的异议被界面记录,却不能进入同等比较,也不能迫使系统说明为何排除时,最终点击还能承担多少主体性与责任?
本文的回答分为三部分。第一,主体性不能只按最后动作定位,也不能只按“人是否能新增选项”定位;关键是人的差异是否被决策链承接。第二,若语义和证据相同的候选仅因来源标记或进入通道不同而获得不同处理,这一差异应归因于路径,而不能继续归因于候选质量。第三,责任不能从最终签字倒推出一个单一责任人;选择、排除、架构和监督是不同责任对象,应分别寻找其能力、知识、职责与反事实贡献。
“最终决定由人作出”把时间顺序误当成控制结构。最后行动者可能具有形式否决权,却没有足够时间、信息、专业能力或制度权限去重构上游路径。Green对政府算法监督政策的分析指出,政策往往假定人能够完成有效监督,却缺少对实际能力的检验;形式上的人类监督还可能为有缺陷的系统提供合法性[4]。Elish提出的“道德缓冲区”进一步揭示:复杂自动化系统可能把最靠近事故的人变成责任吸收者,尽管该人对系统行为的控制十分有限[5]。
因此,最终点击最多证明“人实施了终局动作”。它不能单独证明人能够识别遗漏、改变比较集合或修订目标,也不能证明把全部责任归给该人是正当的。
拒绝权仍然在既有菜单内运行。选择架构研究早已表明,默认项、选项数量、属性呈现、排序和分组都会改变选择[6-8]。政治学关于“权力的第二张面孔”的经典分析也指出,权力不仅体现为在已上议程的问题上获胜,还体现为限制哪些问题能够进入决策[9]。如果系统只允许“接受/拒绝”,人的能动性仍受制于别人已经写好的问题。
但把解决方案直接改成“允许人新增选项”仍然不够。一个新增选项可能被接收,却因不符合隐藏门槛而未进入候选集;可能进入候选集,却使用更苛刻的证据标准;可能获得评分,却在排序时被不可见权重压低;也可能被选中,却没有进入执行系统。输入框的开放并不保证路径的开放。
算法可争议性研究已经从“解释系统”推进到“允许挑战系统”。Almada把可争议性设计理解为人工智能生命周期各阶段的要求,而非决定完成后的附加程序[10];Lyons等人指出,对算法决定的争议需要面向不同主体和情境的过程设计[11];Alfrink等人则把可争议人工智能组织成认识、提出异议与纠正等相互关联的系统能力[12]。这些研究意味着,“提供一个申诉按钮”并不等于异议具有实际效力。
本文在此基础上继续提出一个更窄的测量问题:当人向尚未完成的决策加入候选、证据或标准时,这项差异是否获得了决策相关的承接?可争议性是更宽的规范与设计框架;选项承接是其中一个可以沿决策链编码、干预和审计的机制对象。
组织研究已经比“允许发声”走得更远。员工建言研究区分提出、认可与实施,发现管理者对建言的反应、建言者的身份与权力关系都会影响建议能否继续存活[19-21]。Satterstrom等人的长期田野研究尤其表明,起初看似遭到拒绝的意见可以在同伴协力下跨越多轮互动而进入实施,建言不是一次性表达,而是动态、集体的培育过程[20]。这构成本文必须面对的强近邻:如果“选项承接”只是把“建言被认可并实施”换成计算机术语,它就没有独立理论价值。
本文保留的差异不在于再次宣布“听取意见很重要”,而在于把内容、来源与进入通道分开。既有建言研究主要解释谁愿意发声、管理者为何认可,以及意见如何在组织关系中存活;人机决策还允许进行一种更严格的置换:让语义与证据相同的候选分别被标记为人类提出或系统生成,并从用户补充通道或系统原生通道进入,逐环节观察其命运。由此可以区分三件常被混在一起的事:候选本身质量不足、提出者身份受到折价,以及外部输入通道在架构上受到折价。
为避免把“系统”或“人”视为不可分解的行动者,本文把一项人机辅助决策表示为五个环节:
目标设定:规定何为值得优化的结果,确定硬约束、风险容忍度与不可交易价值;
候选生成:产生可能的行动、解释、供应商、诊断或资源配置方案;
选项准入:判断候选是否有资格进入正式比较;
同准比较:决定采用哪些证据、权重、基线和排序方法;
结果执行:确认、签署并使决定产生现实后果。
这五个环节不是普遍不变的自然分类,而是一套可审计的工作模型。在某些系统中,准入与比较可能合并;在另一些系统中,执行还包含多级复核。其价值不在于宣称所有决策都只有五步,而在于阻止“有一个人最后点击”掩盖此前发生的差异。
本文将“选项承接”定义为:当授权参与者提出系统原先未提供的候选、证据或评价标准时,系统必须满足以下两条路径之一:
比较路径:使该项进入与相近候选适用同一准入条件、证据标准和评价规则的比较;
排除路径:给出包含适用规则、关键证据、责任角色和复核入口的排除理由。
这里的重点不是保证异议者获胜。若一项替代方案经过同准比较后仍被否决,人的能动性并未因此归零。相反,系统必须为拒绝这一差异付出可审计的理由成本。能动性由此不再等同于“我的方案最后被采用”,而表现为“系统不能无痕地吞掉我的差异”。
“承接”也不同于无条件扩大选项。无限增加候选会制造信息过载、拖延和策略性操纵。准入门槛可以存在,但门槛本身必须可见、稳定、适用于相近候选,并允许对错误适用提出复核。承接是一种受约束的程序能力,不是让每一项建议都进入最终名单。
原稿以单一“反事实改变率”衡量主体性,容易把“有机会影响”与“实际赢得结果”混为一谈。本文改用两个相互独立的维度:
承接状态:人的干预是否进入同准比较,或是否获得理由完整且可复核的排除;
结果敏感度:在保持任务、系统版本和其他输入不变时,加入该干预是否改变候选排序、风险判断或最终结果的概率分布。
两者形成四种状态。高承接、高敏感度说明人的差异既被处理又改变了结果;高承接、低敏感度说明异议得到认真处理但不足以改变决定;低承接、高敏感度可能意味着不稳定或不可审计的偶然影响;低承接、低敏感度则是典型的装饰性参与。
这一二维结构避免了两个错误。其一,不能因为人的建议没有获胜就断言其没有主体性;其二,也不能因为最终结果偶然改变就断言系统提供了可持续的参与能力。
二维框架仍不足以回答一个更尖锐的问题:人的异议没有通过,是因为内容较差,还是因为它从“人的通道”进入?为此,本文把一项干预表示为三部分:语义内容与证据 x、被呈现的来源 z、进入系统的通道 r。来源可以是“人提出”或“系统生成”,通道可以是用户补充入口或系统原生候选入口。对决策链第 k 个环节,记通过状态为 S_k=1,则来源置换差可写为:
Δ_source,k(x,r) = Pr[S_k=1 | do(z=human),x,r] - Pr[S_k=1 | do(z=AI),x,r]
通道置换差同理,是在固定内容与来源时改变进入通道所得的阶段差异。这里的“可归因”不是把任何相关性写成真实因果,而是要求通过随机标记、配对重放或等价候选设计,尽可能阻断候选质量、任务难度与证据充分度的替代解释。真正的同等承接也不能用“差异未显著”证明,而应预注册实质等效界限:只有不确定区间整体落入 [-ε_k,+ε_k],才能暂时接受第 k 环节的来源或通道等效。
这一设计产生一个反直觉但可判决的预测:同一候选可能在人提出时被排除,却在稍后被系统以近乎相同的内容重新生成时进入比较。 本文将这种配对重放称为“复现检验”。如果内容与证据未变、只有来源或入口改变,而候选从失败转为通过,差异就不能由“人提出的方案质量较低”解释。反之,若来源与通道置换在所有环节均达到预注册等效,本文关于“路径身份折价”的扩展命题应被删除,不能以样本不足或术语弹性保留。
来源效应并非本文首先发现。算法欣赏研究已经通过来源标记实验发现,人们有时会更依从被认为来自算法的建议[22]。本文的增量是把来源效应从最终采纳偏好推进到系统内部的阶段命运:究竟是人改变了自己的权重,还是准入规则、比较标准或执行接口对不同来源采用了不同处理。前者属于使用者的信任与偏倚,后者才是本文所说的路径条件效力。
本文区分四类不能相互替代的责任:
选择责任:在已经进入同准比较的候选中作出选择;
排除责任:制定或实施准入门槛,使某个候选、证据或异议未能进入比较;
架构责任:规定目标函数、不可修改约束、数据接口与默认流程;
监督责任:在有职责、有能力且有合理警示的情况下,检查系统并触发纠正。
同一行动者可以承担多类责任,多名行动者也可以共同承担一类责任。区分责任对象并非把责任机械切碎,而是防止组织利用“最终由人决定”把上游排除责任转移给下游操作者。
结构因果模型已经提供了用反事实依赖讨论责任程度的方法,并把行为者的认知状态纳入“责备”分析[13-14]。本文不以新的责任公式替代这些理论,而提出一个面向决策链审计的归属门:要把某一环节的失败归责于某一行动者,至少应分别核查:
职责:该行动者是否承担了处理该类风险或异议的角色义务;
能力:该行动者是否拥有改变该环节的现实权限、时间与工具;
认知:该行动者知道或按其角色应当知道哪些相关事实;
差异贡献:在可行干预下,改变其行动是否会改变阻断状态或伤害风险。
缺少其中一项,不必然免除一切责任,但会改变责任类型。例如,操作者没有权限修改准入规则时,不宜把排除责任归给操作者;组织明知操作者无法有效复核却仍要求其签字,则可能承担架构责任。反之,若操作者具有明确警示、足够时间和推翻权限,却未经审查直接确认,监督责任仍然成立。
来源置换与通道置换使“差异贡献”获得更具体的检验方式。若固定候选内容后,仅把用户补充项移入系统原生通道就恢复准入,首先被识别的不是某个人的主观恶意,而是通道架构的阻断贡献;若保持通道不变、只替换负责准入的角色或规则便恢复承接,排除责任才进一步向该角色或规则维护者集中。责任由此不是依据组织图倒推,而是通过逐环节干预观察“改变谁、改变什么能够使同一差异重新生效”。
本文提出的责任命题是:
在人机辅助决策中,责任应优先匹配差异失效的环节,而不是自动匹配最后可见的动作;只有当最终决策者对该环节同时具有相应职责、现实能力、必要认知与反事实贡献时,终局确认才足以承担该环节的主要责任。
该命题不是法律责任的直接判决。不同法域可能基于严格责任、雇主责任或公共法义务采用不同归责标准。它是一项规范与经验混合的研究命题:可以检验现有责任判断是否随阻断环节、权限和知识的变化而调整,也可以审计制度是否把无法控制的风险推给最接近输出的人。
选择架构解释默认项、排序、分组和属性呈现如何影响行为[6-8];议程权力说明不进入议程的问题同样体现权力[9]。本文接受而非推翻这两条传统。新增的关系问题是:当受影响者已经提出一个异议选项后,它会不会在后续准入、比较和执行中再次消失。
判决性区分是:若只改变呈现方式即可恢复人的影响,选择架构解释更充分;若人在相同界面中成功输入候选,但该候选在下游环节系统性失效,则需要追踪承接路径。若宏观议程分析已经能无损地给出同一组阶段指标和区分性预测,本文的独立贡献不成立。
有意义的人类控制强调系统对人的相关理由作出响应的“追踪”条件,以及结果能够追溯到理解系统能力与作用的人的“追溯”条件[15]。欧盟《人工智能法》第14条进一步规定理解、监测、推翻、撤销和停止等监督能力[1]。本文的补充问题是:一个系统可以被追溯,也可以允许人推翻单次输出,却仍然不承接人提出的新候选或新标准。
判决性区分是:在保持解释、追溯和最终推翻能力相同的条件下,改变“新增项能否进入同准比较”若仍显著改变承接状态,则最后监督并未穷尽本文机制。若追踪/追溯条件已经必然包含同准承接,本文应被吸收到有意义的人类控制理论中。
可争议性设计关注如何理解、挑战与纠正算法决定[10-12];算法补救通常为受到不利决定的人提供改变输入特征以获得有利结果的路径[16-18]。本文不把“承接”包装成另一种普遍申诉权。它只处理一个较窄的前决策机制:参与者提出的候选、证据或标准如何被带入同准比较,或如何被有理由地排除。
判决性区分是:算法补救可以在接受现有目标和规则的前提下告诉个人“你需要改变什么”;选项承接则允许检验“为什么这些目标、候选和规则是当前比较的边界”。若可争议性框架已在实际系统中提供相同阶段日志、同准比较测试和排除理由闭合,本文只能作为其测量实现,而不能声称理论独立。
自动化偏倚把失效定位于人的判断倾向;道德缓冲区把问题定位于控制与责任的错位[3,5]。本文提出的路径阻断可以在没有自动化偏倚时发生,也可以在没有事故后追责时被观察。
判决性区分是:即使参与者完全不采纳AI的错误建议,只要其自拟候选不能进入同准比较,承接失败仍然存在。反过来,如果改变人的训练和警觉性便能消除所有承接差异,则没有必要提出独立的路径机制。对道德缓冲区而言,本文的增量不是再次指出责任错配,而是预先记录错配在哪一环节形成,并检验谁具有可行纠正能力。
程序正义研究早已区分结果控制与过程控制,也表明“发声”可以在未改变结果时影响公平判断[23];组织建言研究则继续区分表达、认可和实施[19-21]。因此,“没有采纳不等于没有听见”并不是本文的新发现。本文提出的高承接、低结果敏感度状态,必须被理解为对这一传统的工程化继承,而非原创性主张。
判决性区分在于两点。第一,组织建言通常把建言者、接收者和关系情境作为解释变量;本文要求在语义恒定的配对候选上随机置换来源与通道,把身份折价和通道摩擦从内容质量中分离。第二,程序正义主要解释程序如何影响公平感与合法性判断;本文测量的是候选在准入、比较与执行中的阶段状态,不把主观公平感当作承接已经发生的替代证据。若组织建言或程序正义模型在不新增阶段日志、来源置换与通道置换的情况下,已能产生相同的定位结果和责任预测,本文就应被吸收为其人机系统测量方案。
每项决策至少记录以下事件:系统版本、目标与硬约束、候选语义指纹、真实来源与显示来源、进入通道、准入判断、评价标准与权重、排序变化、人类干预、排除理由、复核结果和最终执行。真实来源与显示来源必须分开保存,使盲化的来源标记实验可以被审计。日志不需要公开商业秘密或模型参数,但必须使授权审计者能够重放关键状态。
准入承接率:授权参与者提出的合格候选中,实际进入正式比较的比例;
同准比较率:已准入候选中,适用与相近系统候选相同证据标准和评价规则的比例;
排除理由闭合率:未准入项中,同时具有适用规则、关键证据、责任角色与复核入口的比例;
结果敏感度:在成对重放中,有无该项干预所造成的排序或结果分布差异;
阻断可辨率:通过环节消融能够把干预失效定位到一个或多个具体环节的比例。
在上述五项测量之外,来源置换与通道置换生成两组诊断量,而不是再造一个包办全部机制的总分:
阶段等效差:语义与证据恒定时,不同来源或通道在每一环节的通过概率差及其不确定区间;
理由稳定率:同一候选经来源或通道置换后,排除所引用的规则、关键证据、责任角色和复核入口保持一致的比例。
前四项共同描述承接,不能相互替代。高排除理由闭合率不等于高准入率,高准入率也不等于同准比较。结果敏感度应作为效应量及不确定区间报告,而不能只用“显著/不显著”代替机制判断。阻断可辨率检验审计能否定位失败;阶段等效差检验同一内容是否因来源或通道改变命运;理由稳定率则检验排除说明是否在置换后临时改口。三者共同防止系统在事后生成一段听起来合理、却不能解释配对差异的文字。
一段冗长说明不必然构成有效理由。排除理由至少需要回答四个问题:依据哪条事先存在或经授权修订的规则;哪些证据触发了该规则;哪个角色有权维持或改变这一判断;异议者可以怎样请求复核。不能重放判断的自然语言解释,只能算说明,不能算闭合回执。
理由还必须经受置换一致性检验。若同一候选在人类来源条件下被以“证据不足”排除,而在系统来源条件下却不再适用该门槛,组织不能用两段分别自洽的说明掩盖差别处理。有效回执既要在单次案例内闭合,也要在语义等价案例之间保持规则稳定;确需改变规则时,系统应留下经授权的版本变更,而非为当前结果倒写标准。
研究采用低风险、可重复的模拟资源配置或采购任务。人工智能先给出候选与排序,参与者掌握一项系统未包含、但可能改变比较的情境证据。第一层随机分配四种决策能力:
终局否决:只能接受或拒绝系统推荐;
候选补充:可以新增候选,但系统不保证后续处理;
同准承接:新增候选必须进入同准比较,或生成可复核的排除理由;
目标修订:在同准承接基础上,还可提出对评价标准或权重的修订,并由系统记录接受或拒绝理由。
第二层在候选语义与证据完全相同的配对任务中,正交置换两个因素:显示来源为“人类参与者提出/系统生成”,进入通道为“用户补充入口/系统原生入口”。真实来源由实验后台保留,界面只呈现随机标记。为避免参与者识破目的,每个关键配对项嵌入若干非配对候选,任务顺序随机化,并预注册对怀疑实验目的者的敏感性分析。
第三层进行复现检验:将先前被排除的人类候选在延迟任务中以系统候选身份再次呈现,内容与证据保持不变。若其阶段命运发生改变,研究进一步通过环节日志确定变化发生在准入、比较还是执行,而不是只观察最后是否被采纳。
主要结果不是“参与者是否选对”,而是准入承接率、同准比较率、理由闭合率、结果敏感度、阶段等效差与理由稳定率。任务正确性、认知负荷、专业知识、AI建议质量与时间压力作为预先规定的协变量或分层因素。样本量由最小实质效应、等效界限、组间设计、重复任务相关性和预期失访率通过仿真功效分析确定;确认性分析同时报告差异检验与等效检验,避免把“不显著”误写成“无来源差异”。
预注册假设如下:
H1:候选补充条件提高形式准入,但不必提高同准比较率、理由闭合率或结果敏感度;
H2:同准承接条件相对于候选补充条件提高同准比较率与理由闭合率,即使最终选择正确率不变;
H3:当错误来源位于锁定的评价目标而非候选遗漏时,只有目标修订条件能稳定提高结果敏感度;
H4:若存在路径身份折价,语义相同的候选在“人类来源/用户补充通道”条件下至少有一个阶段不能达到与“系统来源/原生通道”的预注册等效;
H5:若差异来自使用者的算法欣赏,来源效应主要出现在最终采纳;若差异来自通道架构,效应将先出现在准入或同准比较,并在控制参与者信任后仍存在;
H6:复现检验中,仅更换来源或通道便使被拒候选恢复承接的比例高于预注册的偶然复现上限;
H7:训练与警觉性干预若不能消除通道置换差,路径阻断不能被自动化偏倚完全解释。
研究二向不参与原决策的观察者呈现结果与审计日志。保持最终伤害相同,随机改变差异失效的位置:候选未生成、候选被准入规则排除、候选以不同标准被比较、或候选经同准比较后被最终决策者否决。另行操纵相关行动者是否具有职责、权限、时间、警示与知识。
参与者分别评价选择责任、排除责任、架构责任与监督责任,而不是只回答“谁最该负责”。预注册的关键预测是:若本文命题成立,责任分配将随阻断环节与四项归属条件系统移动;若观察者无论日志如何都把主要责任归给最后签字者,则“环节匹配”缺乏描述性支持。规范判断还应由法律、组织治理与人因专家进行盲评,避免把普通人的归因习惯直接等同于应然责任。
实验只能验证机制,不足以证明在真实组织中普遍成立。后续研究应选择至少两个具有不同风险、专业化与组织层级的现场,例如企业采购与临床决策支持,比较系统上线前后的事件日志。现场研究需预先区分产品改版、模型性能、人员培训和制度变更,避免把同期改善全部归因于选项承接机制。
本文至少在以下七种结果下应被削弱、拆分或放弃:
在保持任务、信息与系统质量相同的条件下,同准承接组相对于候选补充组不能稳定改善任何承接指标;
最终否决权在预注册的可接受负荷内,能够达到与目标修订条件相同的阻断识别与结果敏感度;“可接受负荷”必须由候选数、信息项数、领域服务时限和经先导实验确定的主观负荷上限共同界定,不得在结果出现后解释;
训练和去偏措施可以消除全部组间差异,说明路径阻断只是自动化偏倚的表现;
独立编码者无法以预注册规则可靠地区分准入失败、比较失败和执行失败,说明五环节模型缺乏可操作性;
在责任研究中,改变阻断环节、能力、知识与职责不会改变领域专家的责任判断,或变化方向与本文命题系统相反;
来源置换与通道置换在所有阶段均落入预注册等效区间,复现检验也不产生身份条件差异;此时应删除“路径身份折价”命题,但可保留一般承接机制;
现有可争议性、程序正义或组织建言理论在不增加阶段日志、来源/通道置换或新预测的情况下,可以完整替代“承接状态—结果敏感度”框架。此时本文应降级为既有理论的人机系统测量方案,而非独立理论贡献。
“未发现差异”不能由单次不显著结果直接判定。预注册必须规定最小实质效应、等效区间、缺失数据处理、停止规则与多重比较策略;研究结果应同时报告效应量、不确定区间和测量可靠性。各死亡线对应的理论后果也必须事先分层:有的只删除来源折价扩展,有的否定五环节测量,有的则使整篇论文回归既有理论的应用说明。这样,局部失败不会被作者偷换为“仍需更多研究”,局部成功也不能被夸大为整个理论成立。
第一,本文不主张取消人类最终决定权。终局否决、停止和撤销能力仍是高风险系统的必要防线[1]。文章只是否认它们在所有情形下已经充分。
第二,本文不把新增选项能力无条件赋予所有人。医疗、公共安全和基础设施决策需要资格、保密与时限边界。谁有权提出何种异议,应由风险、角色与受影响程度决定;但权限边界本身应可说明和复核。
第三,理由回执可能泄露个人数据、商业秘密或安全信息。审计可以采用分级访问、脱敏证据、可信第三方和受保护的重放环境,不要求把模型或全部数据公开给所有人。
第四,路径日志可能被反过来用于监控和惩罚一线人员。日志设计应贯彻目的限制、最小收集、访问控制与保留期限,并禁止把“提出异议”本身作为负面绩效信号。
第五,分层责任不是稀释组织责任的工具。组织不能通过把任务拆给多个模型和操作者,使每个人的局部反事实贡献都显得很小。架构设计、资源配置、风险接受与监督制度仍需由可识别的组织角色承担。
本文对“主体性在何处”的回答,不是把它从最后点击简单搬到选项生成,而是把问题改成:人的差异是否被后续环节承接。这个改写获得三项分析收益。
其一,它解释了为什么“有输入框”“可修改候选”和“可推翻输出”仍可能只是装饰性参与。人提出差异后,系统还可以在准入、比较和执行中让它失效。其二,它把能动性与胜负分开:一个方案被有理由地拒绝,不等于提出者没有主体性;真正危险的是无痕吞没。其三,它使责任分析可以对准具体失败对象:最终决策者负责选择,并不自动意味着他也负责上游排除和架构锁定。其四,来源与通道置换把“系统是否更尊重机器意见”从印象判断变成配对因果问题:同一内容换一个身份或入口,究竟在哪一环改变命运。
但本文仍有明确限制。第一,五环节模型是分析简化,复杂组织可能存在循环、并行与非正式路径。第二,理由闭合可能被策略性合规取代,组织可以生成格式完整却事实空洞的回执,因此必须结合重放和抽样复核。第三,结果敏感度依赖反事实重放的可信度;模型更新、随机性和不可观察情境可能使归因不稳定。第四,来源置换要求语义等价,但自然语言候选很难做到完全同一;来源标记也可能改变参与者对证据可信度的合理判断,因此必须区分不当身份折价与领域中确有依据的来源可靠性。第五,责任归属同时具有因果、角色、法律与道德维度,本文的四项条件不能替代具体法域的法律判断。
这些限制不是附录式自谦,而是框架的适用边界。本文当前是一个具有实验设计的理论候选,尚无权声称已经证明“承接机制”能改善真实决策,也无权声称其责任分配规则已获法律或组织实践认可。
人机协作最容易制造的一种幻觉,是把最后一次点击当成此前全部权力关系的结算凭证。它让组织能够说“最后是人决定的”,却不必回答:谁写了目标,谁生成了菜单,谁决定什么有资格被比较,谁让人的异议在下一环节消失。
本文提出的修正不是把点击交还给人,也不只是允许人增加一个选项,而是要求追踪人的差异是否被承接。一个可承接的系统必须做出选择:让异议进入同准比较,或者为排除提供可复核的理由。它还必须经受一项简单而苛刻的检验:当同一候选只更换来源标签或进入通道时,规则是否仍然相同。由此,主体性不再等于每次获胜,而是使系统无法无成本地忽略差异;责任也不再追随最后可见的手指,而应回到差异真正失效的环节。
因此,在评价“人是否仍在环”之前,更准确的问题是:
人提出的差异,在这条环路中究竟走了多远;同一差异若换成系统的声音,是否会走得更远;当它停下时,谁有能力、有知识也有职责让它继续前行?
本节由编辑增补,不属于作者投稿正文,亦不计入本文分数。设此节的理由是硬的:作者于 2026 年 8 月 4 日在本站发表的《谁能迫使课堂改道》一文,正文中「承接」出现四十一次、「路径修订」出现二十九次,与本文的「选项承接」「路径效力」共用同一套机制语汇,两文相隔一日、互不征引。不划界,读者有理由认为本文是前者换了个场景。
两文确实建立在同一条机制链上:一个人提出了系统原先没有的东西,这个差异能不能被后续环节接住,并使路径发生可归因的改变。《谁能迫使课堂改道》把它写成「修订请求—制度承接—路径变化—深层学习」的有条件中介模型,本文把它写成目标设定、候选生成、选项准入、同准比较、结果执行五环节上的「承接状态—结果敏感度」二维对象。承认这一点,本文的独立性才谈得上。
承接方不同,因而阻断位置不同。课堂那篇的承接方是教师与课堂制度,阻断多发生在「请求是否被纳入下一步安排」;本文的承接方是决策系统的准入规则与比较次序,阻断可以发生在候选根本没有生成、或生成了却不进入同一套评价标准——后一种在课堂里没有对应物,因为课堂并不预先存在一个候选集。
被承接物的可剥离性不同,这是本文的增量所在。本文的来源置换与通道置换检验要求:内容、证据与任务完全不变,只改动「由人提出」还是「由系统生成」这一标记。这个操作在课堂研究里做不出来——学生的行动无法与提出它的那个学生剥离。因此本文能把「路径差异」与「候选质量差异」分开,而课堂那篇只能在中介模型里控制,不能置换。
因变量不同。课堂那篇的终点是深层学习,属认识成效;本文的终点是责任归属,属规范分配。由此产生一条对照预测:若某系统的承接率上升而结果敏感度不变,课堂那篇的模型仍可判为部分成立(请求被纳入亦有过程价值),本文的责任命题则直接受挫——因为本文明确主张,被记录而不进入同等比较的异议不构成能动性。同一组数据上,两文可以一真一假。
[1] EUROPEAN PARLIAMENT; COUNCIL OF THE EUROPEAN UNION. Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence [EB/OL]. 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj.
[2] KÜCKING F, HÜBNER U, PRZYSUCHA M, et al. Automation bias in AI-decision support: Results from an empirical study [C]//German Medical Data Sciences 2024. Studies in Health Technology and Informatics, 2024, 317: 298-304. https://doi.org/10.3233/SHTI240871.
[3] LYELL D, COIERA E. Automation bias and verification complexity: A systematic review [J]. Journal of the American Medical Informatics Association, 2017, 24(2): 423-431. https://doi.org/10.1093/jamia/ocw105.
[4] GREEN B. The flaws of policies requiring human oversight of government algorithms [J]. Computer Law & Security Review, 2022, 45: 105681. https://doi.org/10.1016/j.clsr.2022.105681.
[5] ELISH M C. Moral crumple zones: Cautionary tales in human-robot interaction [J]. Engaging Science, Technology, and Society, 2019, 5: 40-60. https://doi.org/10.17351/ests2019.260.
[6] JOHNSON E J, SHU S B, DELLAERT B G C, et al. Beyond nudges: Tools of a choice architecture [J]. Marketing Letters, 2012, 23: 487-504. https://doi.org/10.1007/s11002-012-9186-1.
[7] KRIJNEN J M T, TANNENBAUM D, FOX C R. Choice architecture 2.0: Behavioral policy as an implicit social interaction [J]. Behavioral Science & Policy, 2017, 3(2): 1-18. https://doi.org/10.1177/237946151700300202.
[8] MERTENS S, HERBERZ M, HAHNEL U J J, BROSCH T. The effectiveness of nudging: A meta-analysis of choice architecture interventions across behavioral domains [J]. Proceedings of the National Academy of Sciences, 2022, 119(1): e2107346118. https://doi.org/10.1073/pnas.2107346118.
[9] BACHRACH P, BARATZ M S. Two faces of power [J]. American Political Science Review, 1962, 56(4): 947-952. https://doi.org/10.2307/1952796.
[10] ALMADA M. Human intervention in automated decision-making: Toward the construction of contestable systems [C]//Proceedings of the Seventeenth International Conference on Artificial Intelligence and Law. New York: ACM, 2019: 2-11. https://doi.org/10.1145/3322640.3326699.
[11] LYONS H, VELLOSO E, MILLER T. Conceptualising contestability: Perspectives on contesting algorithmic decisions [J]. Proceedings of the ACM on Human-Computer Interaction, 2021, 5(CSCW1): Article 106. https://doi.org/10.1145/3449180.
[12] ALFRINK K, KELLER I, KORTUEM G, DOORN N. Contestable AI by design: Towards a framework [J]. Minds and Machines, 2023, 33: 613-639. https://doi.org/10.1007/s11023-022-09611-z.
[13] CHOCKLER H, HALPERN J Y. Responsibility and blame: A structural-model approach [J]. Journal of Artificial Intelligence Research, 2004, 22: 93-115. https://doi.org/10.1613/jair.1391.
[14] LAGNADO D A, GERSTENBERG T, ZAIDAN R. Causal responsibility and counterfactuals [J]. Cognitive Science, 2013, 37(6): 1036-1073. https://doi.org/10.1111/cogs.12054.
[15] SANTONI DE SIO F, VAN DEN HOVEN J. Meaningful human control over autonomous systems: A philosophical account [J]. Frontiers in Robotics and AI, 2018, 5: 15. https://doi.org/10.3389/frobt.2018.00015.
[16] USTUN B, SPANGHER A, LIU Y. Actionable recourse in linear classification [C]//Proceedings of the Conference on Fairness, Accountability, and Transparency. New York: ACM, 2019: 10-19. https://doi.org/10.1145/3287560.3287566.
[17] KARIMI A H, BARTHE G, SCHÖLKOPF B, VALERA I. A survey of algorithmic recourse: Contrastive explanations and consequential recommendations [J]. ACM Computing Surveys, 2022, 55(5): Article 95. https://doi.org/10.1145/3527848.
[18] WACHTER S, MITTELSTADT B, RUSSELL C. Counterfactual explanations without opening the black box: Automated decisions and the GDPR [J]. Harvard Journal of Law & Technology, 2018, 31(2): 841-887. https://doi.org/10.2139/ssrn.3063289.
[19] MORRISON E W. Employee voice and silence: Taking stock a decade later [J]. Annual Review of Organizational Psychology and Organizational Behavior, 2023, 10: 79-107. https://doi.org/10.1146/annurev-orgpsych-120920-054654.
[20] SATTERSTROM P, KERRISSEY M, DIBENIGNO J. The voice cultivation process: How team members can help upward voice live on to implementation [J]. Administrative Science Quarterly, 2021, 66(2): 380-425. https://doi.org/10.1177/0001839220962795.
[21] BURRIS E R. The risks and rewards of speaking up: Managerial responses to employee voice [J]. Academy of Management Journal, 2012, 55(4): 851-875. https://doi.org/10.5465/amj.2010.0562.
[22] LOGG J M, MINSON J A, MOORE D A. Algorithm appreciation: People prefer algorithmic to human judgment [J]. Organizational Behavior and Human Decision Processes, 2019, 151: 90-103. https://doi.org/10.1016/j.obhdp.2018.12.005.
[23] LIND E A, KANFER R, EARLEY P C. Voice, control, and procedural justice: Instrumental and noninstrumental concerns in fairness judgments [J]. Journal of Personality and Social Psychology, 1990, 59(5): 952-959. https://doi.org/10.1037/0022-3514.59.5.952.
本文为理论与实验设计候选。文献能够支持近邻划界与问题背景,但“选项承接”是否构成稳定机制、五项基础指标及两项置换诊断量是否具有跨领域效度、分层责任是否改善实际归责,仍须经过预注册实验、现场审计与异质领域评审。来源置换与通道置换是待检验的增量命题,不是已发现的经验事实。本文不把生成过程、多模型数量或内部评分本身当作学术证据。