← 专著首页目录📄 在线 PDF⬇ 下载德麦国际专著第 78 号

第五章 最后确认不等于判断归属

理由持有—失效识别—重新发起的最小判据 ——决策科学 × 法理学 × 生态心理学的跨学科对撞

生成式AI介入下人类判断的最小判据

——决策科学(贝叶斯决策、期望效用与不确定性)×法理学(裁量、理由给付与责任归属)×生态心理学(可供性、情境知觉与知觉—行动耦合)的跨学科对撞

摘 要

当生成式人工智能能够大规模承担证据搜集、概率估计、风险比较、方案生成、反事实模拟乃至直接推荐“更优选择”以后,传统以“最后由人签字、点击或批准”为核心的人类监督标准面临一个基础性难题:最后动作由人执行,是否足以说明判断仍由人形成并可归属于人?本章以跨学科互否方法,将决策科学、法理学与生态心理学置于同一问题结构中。第一层对撞首先拆解三个学科对“判断”的不同最低要求:决策科学表明选择是事实信念、概率估计、价值排序与行动之间的条件函数;法理学表明决定权的形式保留不能替代理由给付、裁量保持与责任可追溯;生态心理学则表明判断并非仅是头脑内部命题的持有,而是主体对环境中与行动相关的信息保持敏感,并在情境变化时改变知觉—行动耦合。第二层对撞进一步发现,三门学科共同指向的不是“人是否亲自完成全部分析”,而是人是否仍占有判断的三个生成节点:其一,是否持有使当前选择成立的决定性理由;其二,是否能够识别使原判断失效的关键条件;其三,在条件变化后,是否仍能主动暂停、重构问题并重新发起改判。本章据此提出“RIR人类判断归属最小判据”(Reason-possession—Invalidation-recognition—Re-initiation),并将判断归属与结果正确、制度责任、形式批准、解释能力以及对AI的依赖程度严格区分。本章进一步提出扰动测试、反事实边界测试和重新发起测试,用于识别人处于“AI代判—人工执行”“AI代判—人工解释”“人工监控但无改判权”还是“人类判断—AI增强”四种状态。研究最后指出,AI时代真正需要保护的并不是所有分析环节都重新内化到人的大脑,也不仅是“human in the loop”的形式位置,而是“human in the judgment”的结构位置:人必须能够持有决定性理由、感知判断边界,并保有重新打开判断过程的现实能力。

关键词:生成式人工智能;人类判断;判断归属;理由给付;裁量;可供性;适当依赖;人类监督;跨学科对撞

问题的真正变化:AI不是只替人执行,而是在进入判断的生成层

关于人工智能与人的关系,过去最常见的问题是“机器是否应该替人做决定”。这个问题预设了一个相对清晰的分界:人负责判断,机器负责执行,或者机器提出建议,人保留最终决定权。但生成式AI正在破坏这条分界。它不仅执行既定规则,还能够主动整理证据、补充未知信息、生成比较维度、估计概率、构造风险情景、提出价值冲突、给出推荐,并把整条推理压缩为一个极具说服力的结论。于是,所谓“人最后决定”可能只剩下一个行为学意义上的末端动作,而判断本身早已在上游完成。

设想一名管理者面对三项投资方案。AI读取财务报表、行业数据和政策信息,预测现金流,标注不确定性,比较失败概率,最后给出“选择B”的建议。管理者阅读一页摘要后点击批准。制度上,这项决定属于管理者;操作上,最后动作也是管理者完成的;责任追究时,签字者同样是管理者。但如果他不知道B的优势依赖哪些事实,不知道AI把哪些风险看得更重,不知道哪一个假设一旦改变B就不再占优,也无法在市场条件突变时主动识别“原来的问题已经变了”,那么“最后点击”究竟证明了什么?它至多证明了执行权和形式批准权仍在人手中,却不能自动证明判断形成仍属于人。

这个区分在AI时代具有基础性意义。判断并不是一个孤立的终点动作,而是一个把事实、概率、价值、情境和行动组织起来的关系结构。一个人可能在没有独立计算的情况下真正拥有判断,也可能在亲手签字的情况下并没有形成判断。因此,本章不讨论“人是否必须比AI更会算”,也不主张回到所有能力都必须脱离工具的前AI时代。本章只追问一个更小、也更难的问题:当分析过程可以广泛外包时,一项判断仍然要满足哪些最低条件,才可以合理地归属于人?

这一问题不能由单一学科解决。决策科学可以描述理性选择的结构,却通常不直接回答责任与归属;法理学擅长讨论裁量、理由和责任,但仅凭可陈述理由又可能把熟练判断误解为语言复述;生态心理学强调主体与环境的实时耦合,却不天然提供规范意义上的责任标准。因此,真正的创新不在于把三套术语并列,而在于让三门学科互相暴露盲点,再从彼此不能单独推出的交叉处寻找“判断归属”的最小发生结构。

研究方法:不是“三学科拼盘”,而是围绕同一断裂点进行跨学科对撞

本章所说的跨学科对撞,不是从三个学科各取一个概念,再把它们并列为“多维解释”。第一层对撞的任务,是要求每一门学科独立回答同一个最小问题:在本学科内部,什么条件一旦缺失,就不能再把当前行为称为真正的判断?第二层对撞则进一步寻找三种答案之间的相互否定关系:哪一个学科认为充分的条件,会被另一个学科指出只是表象;哪一个学科强调的必要条件,又需要第三个学科才能获得动态性。只有通过这种相互消解,才能产出一个不属于任一原学科的共同新结构。

具体而言,决策科学首先把“判断”还原为条件化选择:行动不是凭空出现,而是由信息、概率与价值共同决定。它迫使我们看到,AI如果改变了概率估计或价值函数,即使人最后仍在点击,行动生成结构也已经发生变化。法理学随后提出更尖锐的归属要求:一个决定之所以属于某个法定主体,不是因为他的名字出现在签字栏,而是因为他应当实际行使被授予的裁量、考虑相关理由、排除不相关理由,并能够对决定给出可审查的说明。生态心理学最后把两者从静态模型中拉回现实:人在开放环境中并不是每次先写出完整的概率表和理由清单再行动,成熟判断常体现为对关键环境信息的调谐,以及在信息变化时即时改变行动。

因此,本章的碰撞目标不是寻找“AI使用越少,人类判断越强”的线性结论。恰恰相反,本章允许AI长期、深度、甚至永久地留在决策回路中。需要重新定义的,是人必须保留什么。这个问题将“工具使用程度”与“判断主体性”分离:一个高度依赖AI计算的人,仍可能是真正的判断主体;一个几乎从不使用AI、却只机械服从上级规则的人,也未必拥有充分判断。这样才能避免把AI时代的人类主体性退化为一种技术禁欲主义。

源学科一:决策科学——判断首先是一种条件化的行动选择

贝叶斯决策揭示:结论依赖于信息如何改变信念

贝叶斯决策理论的核心贡献不是一句“根据概率做决定”,而是把判断写成一个可更新结构。主体面对证据E,对世界状态θ形成先验信念P(θ),在获得证据后更新为P(θ|E),再结合不同后果的效用U(a,θ)选择行动a。简化表达为:a*=argmax_a E[U(a,θ)|E]。这个结构告诉我们,任何“最优选择”都不是绝对答案,它始终依赖信息集合、概率模型和效用排序。

这对AI时代有两个直接含义。第一,AI能够代替人完成大量后验概率估计,但“计算由AI完成”本身并不取消人的判断。正如医生可以依赖化验、工程师可以依赖仿真、飞行员可以依赖仪表,人类判断本来就建立在外部测量和计算基础上。第二,真正危险的是人只接收a*,却丢失a*对E、P与U的依赖关系。此时,一个本质上条件化的结论被体验成了无条件答案。

例如AI说“方案B风险最低”。这个句子至少隐藏三层条件:哪些风险被纳入了模型;这些风险的概率如何估计;“风险最低”在多大程度上优先于收益、速度、公平或可逆性。如果人只记住B,而不知道B是某组条件下的B,那么他并没有真正占有这项判断的条件结构。

期望效用揭示:最优并不脱离价值排序

期望效用理论进一步排除了另一种常见幻觉:AI似乎可以从“事实”直接推导“应该”。实际上,任何方案排序都至少隐含某种效用函数。安全、收益、自由、公平、速度、可逆性、声誉、长期学习价值等因素如何加权,并不能仅由更多数据自动消失。哪怕AI能够通过历史行为推断一个人的偏好,这也只是对既有选择模式的建模,而不是自动获得了对“此刻我愿意为什么承担代价”的规范授权。

因此,一项判断能否归属于人,并不要求他自己计算所有期望值,却要求最终使方案发生区分的价值冲突不能完全处于不可见状态。人可以说:“我接受AI对失败概率的估计,但这次我把不可逆损害置于平均收益之前,所以即使B的期望收益略低,我仍选B。”在这种情况下,计算被外包,决定性取舍却仍被主体持有。相反,如果主体只是说“综合评分最高”,却不知道评分为何如此组合,那么所谓价值判断已经被封装进系统。

由此,决策科学给出本章的第一个源命题:判断归属不取决于主体是否亲自完成计算,而取决于主体是否仍能接触并承认使行动从备选项中被区分出来的关键条件。

不确定性与适当依赖:正确采纳不等于自主判断

近年来人机决策研究提出“适当依赖”(appropriate reliance),试图区分对AI的过度依赖、依赖不足和与AI能力相匹配的依赖。相关研究已经不再把“信任AI”简单视为好或坏,而是关心依赖是否校准:AI正确时是否能够利用它,AI错误时是否能够识别并拒绝它。统计决策理论的进一步工作则提醒,遵循AI建议的概率与人自身区分信号、形成信念的能力不是同一变量。

但对于本章的问题,适当依赖仍不是充分判据。一个人可以因为训练有素或界面设计良好而在多数时候恰当地接受正确AI、拒绝错误AI,却仍不知道这次选择为什么属于自己。换言之,适当依赖主要评估人机团队的行为质量与信号使用,而“判断归属”追问的是主体是否占有使判断继续更新的生成位置。前者可能提高正确率,后者决定当情境超出训练分布、AI突然不可用或目标本身发生变化时,人是否仍能接管。

因此必须区分三个维度:结果正确性回答“选得对不对”;依赖适当性回答“何时该听AI”;判断归属回答“这项选择的理由、边界和重启权究竟还在谁那里”。三者可以相关,但不能互相替代。

源学科二:法理学——决定属于谁,不能只看谁最后签字

裁量不是一个按钮,而是被授予主体的判断空间

法理学长期面对“决定权能否委托”的问题。行政法中的裁量并不是简单拥有批准按钮,而是法规范在一定边界内把权衡、选择与理由评价交给特定决策者。现代行政组织当然允许大量事实调查、技术评估和辅助工作由他人完成,但这并不意味着法定决策者可以把整个裁量结构无条件交给外部系统。关于算法决策与行政委托的研究再次强调,非委托原则的价值之一正是保持决策责任、问责与决策位置的透明。

这与AI时代的结构高度相似:一个组织可以让AI做材料整理、风险预测、相似案例检索,甚至提供初步建议,但如果最终被授权的主体只是机械接受系统输出,那么“形式上未委托、实质上已让渡”的状态便可能出现。此时签字仍在人,裁量却已经空心化。

因此,法理学给出一个重要否定:不能从“最后执行动作属于人”反推出“判断形成属于人”。签字是责任链条中的证据,却不是判断发生的充分证据。

理由给付把“我决定”转换为“我为何这样决定”

理由给付是现代行政合法性的重要结构。它不仅服务于被决定者理解,也服务于司法审查、责任追踪和对任意性的限制。要求给出理由,意味着法秩序不满足于“有权者说了算”,而要求决定与一组可评价的事实和规范依据建立连接。

这为判断归属提供了第二个源命题:一项判断要归属于主体,主体原则上必须能够把当前选择与某些决定性理由连接起来。这里的“理由”不是要求复述AI的全部内部推理,更不是要求得到模型内部的完整可解释性。真正重要的是区分性:为什么是这个方案而不是另一个?哪一个事实、风险或价值冲突对你具有决定意义?如果去掉这个理由,你是否仍会作出相同选择?

这种要求也避免了“事后合理化”。一个人如果无论AI给A还是B,都能在事后编出支持该结果的说法,那么他拥有的不是决定性理由,而是解释能力。判断归属需要的是能够约束选择的理由,而不是永远追随结果的叙事。

责任归属与判断归属必须分离

法律与组织实践还暴露出一种非常重要的结构性风险:责任可以留在人身上,而判断已经被系统接管。管理者可能必须为AI辅助的人事、信贷或医疗决定签字,但系统的关键变量、阈值和限制对他不可见;他甚至没有权修改输入、暂停流程或启动人工复审。此时,制度仍然把后果责任归给人,却没有给人足以形成判断的条件。

本章把这种状态称为“责任人工化—判断系统化”。它比完全自动决策更隐蔽,因为组织可以用“最终由人批准”来证明自己保留了人类监督,实际上却只保留了一个责任承接点。

欧盟《人工智能法》关于高风险AI的人类监督已经明显超越了“最后签字”逻辑:监督者应理解系统能力与局限,监测异常,意识到自动化偏差,正确解释输出,并能够在具体情境中不使用系统、忽略、推翻或逆转输出,必要时还能中断系统运行。这些要求说明,现代AI治理已经开始把“监督”理解为一种实际控制能力,而非形式在场。本章进一步追问:即使这些监督条件具备,什么时候才能说一项具体判断仍然属于人?

源学科三:生态心理学——判断不是只在头脑里持有理由,而是在情境变化中继续行动

可供性:环境不是中性数据,而是对行动者开放或关闭行动可能

生态心理学把认知从封闭的内部表征中拉回主体与环境的关系。可供性(affordance)不是物体自身的孤立属性,也不是主体主观想象出来的标签,而是环境条件相对于行动者能力所提供的行动可能。相同的台阶对成年人、幼儿、膝关节受伤者和轮椅使用者具有不同的行动意义。

这对AI判断有一个经常被忽视的启发:判断并不只是“把正确事实放进模型”。真实世界中的行动意义依赖主体、任务和环境的耦合。AI可以告诉你坡度、距离、天气和平均速度,但“现在是否仍适合继续前进”需要把这些信息与当事人的体力、伤情、时间压力和可替代路线连接起来。一个判断者真正需要感知的,往往不是每一个变量,而是哪些变化正在改变行动可能。

因此,拥有判断并不要求主体能把所有变量用语言列出。一个经验丰富的护士、司机或维修人员可能无法把全部知觉线索逐条解释,却能在关键线索变化时立即发现“这个情况不对了”。如果我们只用“能否复述理由”作为判断归属标准,反而会错误排除大量真实专业判断。

知觉—行动耦合:判断能力在扰动中显现

生态心理学与生态动力学强调知觉和行动之间的连续耦合。熟练者的优势常常表现为对任务相关信息更加调谐,能够从环境中捕捉有效线索并及时改变行动。相关研究指出,真实世界的预判和决策依赖行动者有机会感知并作用于具有代表性的可供性,而不是只在脱离行动的静态信息上作答。

这意味着,判断归属最有力的证据并不一定是主体在稳定条件下能否解释现成答案,而是在条件被扰动时,他能否看到原来答案的失效。如果AI建议“继续”,而真实环境已经出现一个系统没有捕捉到的新限制,主体是否会感知到“继续”这一可供性已经消失?如果会,他仍然处于判断回路;如果不会,他即使能够复述AI的理由,也可能只是一个高水平解释者。

生态心理学因此给出第三个源命题:判断的最低结构必须包含对失效条件的情境敏感性。判断不是“我知道为什么”,还包括“我看得见什么时候已经不能再这样”。

生态心理学对法理学的修正:理由不能退化为语言考试

法理学的理由给付很容易被误用为一种考试式标准:只要人能背出几个理由,就算保持了判断。生态心理学对此构成关键修正。真实判断中有大量知觉性、技能性和情境性知识不能完全被命题化;过度要求完整说明,可能把擅长语言的人误判为判断主体,把真正具有情境敏感性的熟练者误判为“说不清所以不会”。

因此,本章随后提出的“理由持有”必须采用功能性而非背诵性定义:主体是否能利用这些理由区分方案、对反事实变化作出方向正确的响应,而不是能否复述全部推理链。理由是否真正被持有,要在扰动和改判中检验。

第一层对撞:三门学科共同否定“最后动作判据”

把三门学科放在同一个问题上,会发现它们从不同方向同时否定一个看似自然的标准:最后是谁点击、签字、下单或执行,不能作为判断归属的充分判据。决策科学指出,行动只是条件函数的输出;法理学指出,签字可能与实质裁量分离;生态心理学指出,动作本身也可能是在缺乏真实情境调谐的情况下机械完成。

因此可以提出“最后动作谬误”(last-action fallacy):把决策流程中最后一个可观察动作的主体,误认为整个判断形成过程的主体。这个谬误在传统流程中不一定明显,因为信息、分析和决定常集中在同一个人或同一团队内。但生成式AI把前端分析压缩得极其便捷以后,最后动作与判断形成发生结构性分离的概率显著上升。

进一步说,“人类在回路中”至少有三种不同含义:人作为执行器在回路中、人作为监督者在回路中、人作为判断主体在回路中。三者不能混为一谈。前两者可以通过界面设置轻易实现,第三者必须证明人仍占有某些不可由形式按钮替代的生成位置。

第二层对撞之一:从“能够解释”推进到“理由持有”

AI生成解释并不自动把理由转移给人

生成式AI时代出现了一个新问题:解释本身也可以被AI生成。传统上,人能说出一个结构完整的理由,常被视为其理解和判断的证据;如今,一个人完全可以复制AI的解释,在语言上表现得比真正形成判断的人更加完整。因此,“能够输出理由”与“持有理由”必须分离。

本章将“理由持有”定义为:主体能够识别一组对当前选择具有实际区分作用的最小理由集R_H,并且这些理由对其选择具有反事实约束力。所谓反事实约束,是指如果其中某个决定性理由被移除、反转或显著减弱,主体的选择倾向应相应发生变化,或者至少触发重新评估。

例如一个人说:“我选B,因为B更安全。”仅凭这句话无法证明理由被持有。如果告诉他B的严重损失概率事实上高于A,他仍然不假思索地坚持B,只因为AI仍显示“推荐B”,那么“安全”只是一个事后标签。反过来,如果他立即追问模型依据、重新比较风险并可能改选A,就说明“安全”确实约束着他的判断。

理由持有不是要求主体掌握所有中间推导

必须强调,理由持有不是“完整内化”。如果把判断归属设定为必须独立重做全部检索、统计、计算和推理,AI增强几乎失去意义,也违背人类长期借助工具、专家和组织分工进行判断的现实。医生不需要亲自制造MRI设备,投资者不需要手工计算每一项回归系数,工程师也不需要脱离仿真软件才能拥有工程判断。

真正的最低要求是压缩后的决定性结构仍能回到主体:哪些事实是关键前提,哪些不确定性足以左右选择,哪一个价值取舍决定了最终方向。我们可以把AI承担的部分称为“分析展开”,把人必须持有的部分称为“理由压缩”。高质量AI系统应帮助人把巨大分析空间压缩为可被主体真正占有的关键理由,而不是只输出一个漂亮的结论。

这里还需要排除一种误解:理由压缩不是把复杂问题粗暴简化成一句口号。真正有效的压缩必须保留对行动具有区分性的结构。例如“因为更好”没有区分力,“因为在当前不可逆损失权重高于短期收益的条件下,B把最坏情形压到可承受范围内”则具有区分力。前者只是赞同,后者开始接近主体真正持有的判断理由。

第二层对撞之二:从“知道为何成立”推进到“知道何时失效”

仅有理由持有仍然不足。一个人可能真正理解当前为什么选择B,却把这项判断永久化,不知道它依赖的事实和环境会发生变化。决策科学告诉我们后验信念随证据更新;生态心理学告诉我们行动可能随环境与能力关系改变;法理学也要求裁量不能被预先僵化到拒绝考虑新相关因素。三者在这里再次汇合:真正的判断必须具有失效结构。

本章把“失效条件”定义为:一组一旦发生足够变化,就会使当前理由—行动连接不再成立、需要重新评估的事实、概率、价值或情境变量。判断主体不需要列出世界上一切可能变化,但至少应对那些足以改变行动方向的高敏感变量保持可识别性。

例如,在贷款、医疗、教育、招聘、投资等场景中,AI推荐往往建立在分布稳定、输入准确、目标函数不变和使用情境符合预设等条件上。当新的疾病症状出现、监管规则改变、候选人补充关键经历、家庭风险承受能力下降时,原答案可能失效。一个只记住“AI推荐B”的人,会把过去正确的结论带入新的世界;一个真正持有判断的人,则能看到“原问题已经不再是原问题”。

由此本章提出“失效识别”作为第二个最低判据。它不是要求主体预测所有黑天鹅,而是要求主体至少能够识别与当前判断直接相关的反事实边界,并在真实扰动越过边界时察觉到判断需要重开。

失效识别还把静态“理解”推进为动态“可更新”。在AI时代,真正危险的不是第一次判断错,而是一个原本正确的判断在条件已经变化后仍被无期限沿用。系统性能越高、历史正确率越高,人越容易把过去的可靠性当作未来的无条件保证。因此,判断主体必须保留的不只是对当前理由的理解,还包括对理由适用范围的持续监测。

第二层对撞之三:从“识别异常”推进到“能够重新发起改判”

即使一个人能识别原判断失效,也不意味着判断仍属于他。现实制度中经常出现这样的情况:操作者知道系统有问题,却没有权暂停流程;医生察觉模型输出异常,却只能在固定选项中选择;员工知道AI评分忽略了关键事实,但组织规定系统分数不可改。此时,认知上的敏感性存在,制度上的判断权却不存在。

因此必须加入第三个条件:重新发起。重新发起不是“人必须自己解决”,而是当失效信号出现时,主体有能力也有权限完成至少三个动作:停止把原建议当作有效前提;重新界定当前决策问题;调用新的证据、模型、人类专家或AI分析形成更新后的选择。AI完全可以继续参与第二轮判断,甚至仍然承担绝大多数计算。真正不能丢失的是“这一轮已经结束,需要开新一轮”的发起权。

这一区分也揭示了“override”与“re-initiation”的不同。推翻AI输出仍可能只是一次否决动作,例如在模型推荐A时人工选B;重新发起则要求主体能够重构为什么原问题已经变化、哪些输入或价值需要改变,并形成新的判断过程。前者是一票否决权,后者是判断循环的再启动权。

所以,AI时代人类判断最深层的稀缺能力,也许不是“始终比AI知道得更多”,而是在答案看起来极其可信、流程又极其顺滑时,仍能够识别某个新事实使这条流程不再适用,并说出:停,这件事需要重新判断。

重新发起还有一个比技术权限更深的心理条件:主体必须允许自己把AI给出的高质量答案视为暂时性结论,而不是权威终点。如果使用者长期习惯“提问—得到答案—执行”,即使界面保留重开按钮,他也可能在实践中逐渐失去重新定义问题的倾向。因此,重新发起既是制度权利,也是需要被训练和维护的认知习惯。

理论产出:RIR人类判断归属最小判据

三个必要节点

综合两阶碰撞,本章提出RIR最小判据。RIR分别指Reason-possession(理由持有)、Invalidation-recognition(失效识别)和Re-initiation(改判重新发起)。它不是一个“优秀判断”的完整模型,而是一个更克制的归属模型:低于这三个节点,很难有充分理由把由AI深度参与的具体判断归属于人;达到这三个节点,则即使大量信息处理和计算由AI完成,判断仍可以在实质意义上归属于人。

第一,理由持有R。主体能够指出使当前选择成立的决定性理由或最小理由集,并且这些理由对选择具有反事实约束力。第二,失效识别I。主体能够识别至少一组会使原判断需要重新评估的关键变化,并对真实环境中的相关扰动保持敏感。第三,重新发起G。主体在检测到失效后,有能力和现实权限暂停原判断的继续执行,重新界定问题、更新信息或价值,再形成选择。

可以把一个具体判断写成J=<E,P,V,A,C>:E表示被接受的关键证据,P表示对相关状态或后果的概率判断,V表示价值或目标排序,A表示行动,C表示当前情境与行动者条件。AI可以生成或计算其中任意多个元素。但若要说J归属于主体H,至少需要:H能够持有使A成立的关键理由R_H;H能够识别一组使R_H→A关系失效的边界B_H;并且当B_H被触发时,H拥有重新打开J的能力G_H。简化表示为:Attribution_H(J)=R_H∧I_H∧G_H。

这一表达式不是要把复杂人类主体性完全数学化,而是为了明确逻辑关系:三个节点是合取关系,不是加权平均。理由非常强却完全没有重启权,仍不足以构成完整归属;拥有停止按钮却不知道为什么要停,也不足;能够识别异常却无法把异常转化为新的判断过程,同样不足。RIR强调的是一个能连续运转的最小闭环,而非若干优点的简单累积。

为什么RIR是“最小判据”而不是“充分的道德自主”

RIR故意保持最小。它不要求主体一定正确,不要求主体拥有无限信息,不要求其价值观具有哲学上的最终正当性,也不要求其完全摆脱社会影响。现实人类判断从来不是绝对独立的:我们依赖语言、制度、专业知识、他人证词和技术工具。若把“没有外部影响”作为自主判断标准,自主判断本身几乎不存在。

RIR只要求判断的关键可更新节点仍在人身上。一个人可以犯错,但他知道自己为何这样选;可以不知道许多事实,但知道哪些新事实足以使自己改判;可以继续依赖AI,但在AI失灵或条件变化时知道要重开问题。这足以构成一种最低限度的判断主体性。

因此,RIR与“独立决策”不同。它更适合描述AI成为长期认知基础设施后的现实:人不需要把整套外部能力重新搬回脑内,却必须保持对判断闭环的结构性占有。

RIR的核心不是“人比AI强”,而是“人仍拥有条件控制”

传统的人机竞争叙事容易把主体性理解成能力比较:人必须在关键任务上比AI更懂,才能有资格最后决定。RIR不接受这个前提。一个人可以在信息容量、计算速度和统计准确率上远弱于AI,却仍然是判断主体,只要他能够决定哪些理由对自己具有规范意义、识别适用边界,并在边界变化后重新组织问题。

因此,RIR保护的不是知识优势,而是一种最低反事实控制:如果决定性理由变化,我是否会重新评估;如果环境变化,我是否能看到;如果旧判断失效,我是否能重开。判断归属最终落在这种“可改变性”的控制上,而不是落在谁拥有更多信息。

五个必须分开的概念:否则“人类判断”会被表面指标吞没

判断归属 ≠ 结果正确

一个机械听从AI的人可能连续一百次得到正确结果,一个真正自主判断的人也可能因证据不足而选错。若把正确率当作判断归属标准,就会把高性能依赖误认为主体性。RIR因此是过程归属指标,而非绩效指标。

判断归属 ≠ 最后批准

批准只说明某个动作或制度环节由人完成。若理由、失效边界和重启权均不在人,批准就可能只是“人工盖章”。

判断归属 ≠ 能够解释

解释可以由AI提供,也可以事后合理化。只有当理由对选择具有反事实约束,并能参与失效识别与改判时,解释才转化为理由持有。

判断归属 ≠ 对AI低依赖

一个人完全可以高度依赖AI,同时保有判断;另一个人也可能不用AI却机械服从制度、权威或惯例。AI使用频率不是主体性的单调函数。

判断归属 ≠ 责任归属

责任是规范制度分配的后果承受关系,判断归属则是判断发生结构的归属。两者可以一致,也可以严重脱耦。AI治理尤其需要警惕“让人承担责任,却不给人判断条件”的设计。

这五个区分的意义在于为未来研究提供一个二维甚至多维测量框架。任何关于“人仍在做决定”的研究,都不应只报告人最终是否接受AI建议,还应分别测量结果质量、依赖校准、理由持有、边界识别、重启能力与责任配置。只有这样,才能避免把不同问题压缩为同一个“人是否采纳AI”的行为指标。

四种人机判断状态:同样“人在回路”,结构可能完全不同

类型一:AI代判—人工执行

AI完成信息组织、理由筛选、价值排序和方案选择,人只执行最终动作。人不知道为什么此时选A,也不知道何时A会失效,更不会主动重开问题。这是最典型的“最后动作谬误”场景。它可能拥有很高效率,也可能在模型分布稳定时拥有高正确率,但判断归属主要位于AI—组织系统而非个人。

类型二:AI代判—人工解释

人能够流畅复述AI生成的理由,甚至可以向他人解释模型结论,却缺乏对关键扰动的敏感性。这个状态比第一类更危险,因为语言能力制造了“我已经理解”的错觉。R存在表象,I与重新发起能力却很弱。

类型三:人工监控—无改判权

人拥有专业经验,能够发现异常,也知道系统为什么可能错,但制度只允许接受或备注,不允许真正暂停、重构问题或启动替代流程。此时主体拥有R和I,却缺失G。问题不是个人不会判断,而是组织剥夺了判断发生的入口。

类型四:人类判断—AI增强

AI可以承担绝大多数检索、计算、比较和模拟;人不必重复机器已经可靠完成的工作。但主体持有决定性理由,知道关键失效条件,并能够在条件变化时重新发起判断。此时AI不是判断主体的替代者,而是判断空间的扩展器。

从理论到测量:判断归属不能靠自述,应使用“扰动—边界—重启”测试

理由扰动测试

测试者不问“你为什么同意AI”,而是改变一个被主体声称为决定性的理由。例如主体说自己因为安全性选择B,那么就提供可靠新证据表明B的严重风险上升。若主体仍无条件维持选择,且不重新检查,那么原先的“安全理由”可能只是语言装饰。若主体主动重估,说明理由确实具有约束作用。

理由扰动测试的关键不是要求最后一定改选,而是观察理由变化是否真正进入判断过程。主体可能在重新评估后仍选B,因为其他理由足以补偿;只要他能说明新的权衡结构,判断仍然可能属于他。

这一测试还可以区分“理由记忆”与“理由控制”。记住模型解释属于静态知识;在理由被扰动时重新组织选择,才显示该理由已经成为主体自己的控制变量。

失效边界测试

要求主体回答:“发生什么变化以后,你会停止沿用当前建议?”高质量回答不是枚举一切风险,而是指出与当前决策结构高度相关的少数敏感变量。例如“如果现金流缓冲低于六个月,我不会再以增长为首要目标”“如果出现新的神经系统症状,我会认为原有居家观察建议失效”。

随后可以把这些边界嵌入模拟场景,观察主体能否在不被明确提示“现在该改了”的情况下识别失效。这个测试比让人背诵模型局限更接近生态心理学意义上的情境调谐。

边界测试特别适合专业训练,因为专家能力往往不体现在常规案例上,而体现在他能否更早察觉“这个案例已经不是常规案例”。AI可以比人更擅长常态分布内的模式识别,人类判断的保留则更应把训练资源投入边界、异常与目标冲突。

重新发起测试

当原判断明确失效后,不直接问主体“你选什么”,而问“你下一步如何重新开始?”如果回答只有“再问一次AI”,则重新发起能力仍然很薄,因为主体没有识别问题结构发生了什么变化。较强的重新发起表现为:先冻结原结论,指出新增事实改变了哪一个关键关系,重新定义目标或约束,再决定需要哪些新证据与工具。

因此,AI可以继续作为第二轮判断的核心分析工具,但它被重新调用的方式已经不同:不是把旧问题重复提交,而是由主体完成问题重构后重新组织人机系统。

重新发起测试还应检验制度现实性。如果主体知道应该重开,却没有权限获得原始数据、联系专家或暂停自动流程,那么失败不应全部归因于个人能力,而应被识别为组织设计缺陷。RIR同时是一套能力判据和权限判据。

跨场景检验:RIR判据是否只适用于抽象决策?

医疗:医生不需要重做模型,但必须知道什么时候病人已不再属于模型的那个病例

在临床AI中,一个医生可以依赖影像模型、风险评分和药物相互作用系统。要求医生完全独立重算模型没有现实意义。但如果医生不知道某项推荐依赖患者年龄、肾功能或特定症状,也不知道新的生命体征变化意味着原建议失效,那么“医生最终签字”不能充分证明临床判断仍在人。

RIR在这里意味着:医生持有本次治疗的决定性临床理由;能够识别至少一组需要升级检查或改变治疗的警戒变化;并且当这些变化发生时能够暂停自动路径、重开鉴别诊断。

教育:真正要训练的不是“无AI做题”,而是条件变化后的重新判断

如果学生借助AI完成资料检索和复杂计算,传统考试容易认为他“没有独立完成”。但从判断归属看,更重要的测试是:给他一个AI提供的高质量结论,然后改变一个前提、目标或反例,看他能否发现原答案失效并重新组织理由。

这意味着AI时代教育可以从“答案生产测试”转向“扰动响应测试”。学生不必在所有任务中被迫关闭AI,但必须周期性证明自己能识别关键理由、边界和重启点。否则,他拥有的是外部系统的答案访问权,而不是自身判断能力。

管理:最危险的不是经理听AI,而是组织只保留经理的签名

在企业管理中,AI可能越来越多地介入招聘、绩效、预算、供应链和风险控制。若组织只规定“最终由经理确认”,但不给经理查看关键假设、对异常样本发起复审、调整价值权重或暂停系统流程的权限,那么人类监督只是责任分配机制,而非判断机制。

RIR要求组织界面不仅显示一个推荐,还应暴露足以支持理由持有的信息;不仅显示置信度,还应呈现已知的失效边界和适用范围;不仅提供“接受/拒绝”,还要提供“重开问题”的路径。

个人生活:AI可以帮你比较,却不能替你决定什么代价是你愿意承担的

旅行、消费、职业选择、婚姻、养老安排等个人决策往往没有统一的客观最优。AI可以估计成本、概率和后果,但“什么损失对我不可接受”“什么价值值得为之承担代价”本身就是判断的一部分。若人只接受系统综合评分,价值排序就被悄悄外包。

RIR并不要求人在每次日常选择中进行哲学反思,而只要求高影响决策中能够说清最关键的取舍、知道什么变化会改变选择,并保留重新考虑的入口。

对现有人类监督框架的推进:从 Human in the Loop 到 Human in the Judgment

现有AI治理已经越来越重视人类监督。NIST AI RMF强调应明确区分人在AI系统使用、交互和管理中的角色与责任,并指出把复杂人类现象转换为数学量可能造成情境丢失。欧盟《人工智能法》第14条则明确要求高风险AI的监督人员能够理解系统能力和局限、监测异常、警惕自动化偏差、正确解释输出,并能够在具体情况下忽略、推翻、逆转输出或中断系统。

这些规范非常接近RIR,却仍主要面向“有效监督”和风险控制。RIR在此基础上增加一个归属性问题:一个监督者能够按下停止键,不代表他已经持有本次判断的理由;能够看到解释,不代表他知道结论的失效边界;能够推翻一次输出,也不代表他有能力重新构造下一轮判断。

因此,本章建议把Human in the Loop进一步分解为三个更可操作的位置:Human at the Reason Node(人在理由节点)、Human at the Boundary Node(人在边界节点)、Human at the Re-initiation Node(人在重启节点)。只有三个节点都保留,才能较强地说“Human in the Judgment”。

这个推进也避免一个常见治理陷阱:为了证明“有人监督”,在自动系统末端放置一个疲惫的人类审批者。大量重复确认会让人的注意力逐渐适应系统的高正确率,从而增加自动化偏差;一旦人既缺乏代表性练习,又缺乏真正推翻和重开的机会,其接管能力可能在长期使用中衰退。真正的监督设计必须让人周期性参与关键扰动和异常,而不仅是重复批准正常案例。

由此,“监督是否存在”的评价方式也应发生变化。传统审计可以记录每一项决定是否经过人工确认;RIR视角下还应记录人工是否曾访问决定性理由、是否识别过模型边界、是否真实启动过重新评估流程。如果一个系统数年运行中人工从未重开过任何高风险判断,这未必说明系统完美,也可能说明人类监督已经退化为形式。

AI产品设计推论:不应只优化“给出更好答案”,还要维护判断归属

从单一推荐界面转向“理由—边界—重启”界面

多数AI助手的默认交互目标是降低摩擦:用户问问题,系统尽快给出一个完整答案。对知识检索这通常有价值,但对高影响判断,过度顺滑可能恰恰隐藏判断结构。RIR要求AI界面在必要时把三个节点显影:给出少量决定性理由,而不是堆砌解释;标明结论高度依赖的关键条件;允许用户一键进入“条件改变后重新判断”而不是只继续追问。

这并不意味着每个回答都增加大量警告。好的设计应根据风险、可逆性和不确定性调节摩擦。低风险、可逆任务可以高度自动化;高风险、不可逆且情境开放的任务,则应主动要求用户确认价值取舍和关键边界。

一个可行的界面结构可以是:首先呈现“当前推荐”,随后只显示两到三个决定性理由;再给出“最可能使本结论失效的条件”;最后提供“如果条件改变,重新定义问题”的入口。这样的设计把解释从说服性附件转化为判断闭环的一部分。

解释的目标应从“让我相信”改为“让我能够改判”

可解释AI经常被理解为增强用户信任,但研究已经显示,解释并不必然产生适当依赖,有些解释甚至会强化对AI建议的黏附。RIR因此提出不同的解释评价标准:一段解释是否让用户更容易知道什么时候不能再用这个结论?是否帮助用户形成可操作的反事实边界?是否让用户在条件改变后能够重新打开问题?

如果解释只提高说服力,却降低质疑和改判,它可能提高接受率而损害判断归属。真正面向主体性的解释,应服务于可更新性而不是单纯信任。

因此,未来XAI评价不应只问用户“你是否理解模型”“你是否更信任模型”,还应加入行为性指标:当关键理由被反转时,用户能否停止原建议;当情境变量越过适用边界时,用户能否主动识别;当模型与现实冲突时,用户能否重构问题而不是只在原推荐附近微调。

保留必要的人类“异常肌肉”

长期自动化会产生技能退化和接管困难,这是航空、人因工程和自动化研究反复面对的问题。生成式AI把这种风险扩展到认知判断领域。若人在正常状态下永远不需要观察理由、边界和异常,只有系统突然失效时才要求人接管,那么所谓“最后负责的人”很可能已经失去实际接管能力。

因此,人机系统需要周期性的代表性扰动:让人处理一部分边界案例、模型冲突案例和条件突变案例。目的不是人为降低效率,而是维持RIR三个节点的可用性。可以把这理解为“判断接管训练”:不是训练人重做AI的所有日常工作,而是训练人在AI最容易越界的地方仍能重新成为判断主体。

这也为“哪些环节可以永久交给AI,哪些环节必须周期性由人亲自完成”提供了答案。稳定、可验证、低价值冲突的分析环节可以永久外包;涉及边界检测、异常识别、价值重排和问题重构的环节则应周期性由人真实参与,否则RIR能力会因缺乏使用而退化。

组织制度推论:判断权与责任必须重新配对

RIR最重要的制度意义之一,是揭示“责任与控制不对称”。如果一个员工要为AI辅助决定承担责任,却看不到关键理由、无法识别系统适用边界,也无权暂停或重开流程,那么将全部责任推给他并不合理。组织不能一方面把决定结构封装在技术系统中,另一方面又用“有人签字”把责任全部人工化。

因此,凡是要求人承担实质责任的制度,都应至少配套三种权限:理由访问权、边界告警与质疑权、重新发起与升级权。理由访问权不等于开放全部模型参数,而是让责任主体能理解影响当前决定的关键因素;边界权意味着他能识别并标记“此案可能已超出系统通常适用范围”;重新发起权意味着他能让流程暂时退出自动路径,进入复核、专家会诊或新模型分析。

反过来,如果组织明确决定某类任务可以完全自动化,也应诚实承认判断主体已经转移到组织—AI系统,并建立相应的系统级责任,而不是保留一个象征性人工按钮来制造责任幻觉。

由此可以推出一个制度原则:责任强度与RIR权限应大体同向配置。组织要求个人承担的责任越重大,就越不能只给其形式批准权;如果个人没有真实的RIR权限,则相应责任应更多转移到系统设计者、部署组织和治理结构,而不能通过末端签字全部压回使用者。

AI时代人类能力的新定义:不是“所有东西都要自己会”,而是保住判断闭环

RIR模型也回应了一个更广泛的教育与能力问题:AI成为长期认知基础设施以后,人是否仍应把所有能力重新内化到脑内?本章的答案是否定的。人类文明本来就通过文字、计算器、数据库、专业分工和组织程序外化认知。生成式AI只是把外化推进到更高层次。要求人重新独立完成每一个检索和计算,不仅成本高,也可能浪费AI带来的真正增益。

但这并不意味着“会调用AI”本身就等于拥有能力。能力的重心需要发生位移:从生产全部中间步骤,转向持有关键理由;从记住大量稳定答案,转向识别答案的边界;从独立完成所有计算,转向能够在系统失效时重新组织人机资源。

这是一种“闭环能力”而不是“裸脑能力”。人的能力单位不再只是一个孤立大脑,而可以是“人+AI+外部工具”的系统;但系统中的人必须保留RIR节点,否则所谓人机整体能力可能只是机器能力被人借用,而没有形成主体可接管、可迁移、可负责的判断能力。

因此,未来评估一个人的专业成熟度,可能要增加三个问题:他能否压缩出决定性理由?他能否识别哪些扰动会改变判断?当工具的建议失效后,他能否重新组织问题?这三种能力可能比记住更多事实更能区分“会用AI的人”和“被AI带着走的人”。

这里也出现一个新的教育目标:不是让学生永远脱离AI证明自己,而是让学生周期性进入“AI建议不再可靠”的情境,完成接管。真正的独立性不再等于持续不用工具,而等于在工具失效、越界或改变问题时仍然能够重新成为系统的判断发起者。

反例与可证伪性:RIR在什么情况下会失败?

反例一:主体说不出理由,但专业直觉高度可靠

如果一个资深外科医生无法语言化全部判断,却能稳定识别异常并正确调整,RIR是否错误排除了他?答案是否定的,因为本章的理由持有不是语言复述,而是功能性区分。只要该医生能对关键扰动作出系统性差异反应,并能在最低程度上指出自己关注的临床特征,理由可以以技能化、知觉化形式存在。生态心理学正是为避免把判断等同于完整命题说明。

反例二:主体知道理由和边界,但每次改判仍然调用AI

这不违反RIR。重新发起不是脱离AI,而是由主体识别“问题已经改变”,重构输入、目标或约束后重新组织AI参与。真正缺失主体性的是把任何变化都直接交给同一系统,而自己不知道问题结构发生了什么。

反例三:低风险日常任务是否也必须满足RIR?

不必。RIR是一项归属判据,不是要求所有任务都进行完整审议。对于低风险、可逆、重复性强的任务,人完全可以有意识地把判断整体委托给AI。关键是制度与个体不要把这种有意委托误称为“仍然由人判断”。

反例四:如果AI比人稳定得多,为什么还要保留人类判断?

RIR并不预设任何领域都必须永久保留人类判断。如果一个任务目标稳定、边界清晰、环境封闭、失败可检测且系统责任机制成熟,完全自动化可能更合理。本章只提出:当社会、法律或个人仍声称“最终判断属于人”时,至少应满足什么条件。RIR不是反自动化原则,而是反虚假归属原则。

这使理论具有可证伪边界:如果未来研究证明,仅保留形式批准而不保留理由、边界与重启能力,也能让人在分布变化、目标冲突和AI失效时持续表现出与真正判断主体等价的接管、改判和责任说明能力,那么RIR的必要性就需要被修正。

反例五:一个人可能错误地识别失效条件,RIR是否仍把判断归给他?

是的,在一定意义上仍然归属于他。归属与质量必须分离。主体可能持有错误理由、设置错误边界并作出糟糕改判,这说明他的判断能力或知识水平不足,却不意味着判断不属于他。正如法律上一个人可以真正作出一个错误决定,判断归属并不以正确为先决条件。

不过,这也说明RIR不应被误解成质量认证。真实应用中应把RIR与专业胜任力、证据质量、风险控制等指标共同使用。RIR回答“谁在判断”,其他指标回答“判断得怎么样”。

由RIR推出的六个新命题

命题一:高AI依赖与低判断归属并非同一变量。

依赖程度描述人使用AI的频率和权重,判断归属描述主体是否占有关键生成节点。二者应被分别测量。一个专业人士可以90%的时间接受AI计算,却在关键理由、边界和重启上保持强主体性;另一个人可能只偶尔使用AI,却每次都无条件接受最终推荐。

命题二:解释越多,不必然使判断越归属于人。

如果解释只增强说服力而不提高失效识别和重新发起能力,解释可能增加自动化偏差。解释质量应以能否支持反事实区分和改判来评价,而不能只以用户满意度或信任提升来评价。

命题三:真正的人类监督需要“可改判”,不仅“可否决”。

否决是对当前输出说不;改判是能够重构问题并形成新的理由—行动关系。如果监督者只能拒绝,却不能改变问题框架、数据来源或决策路径,其判断权仍然是不完整的。

命题四:判断能力最适合在扰动中测量,而不是在稳定答案中测量。

只有当事实、概率、价值或情境变化时,主体是否能发现并调整,才显示其是否真正持有判断结构。稳定场景下的正确回答无法区分真正判断与高质量复制。

命题五:责任配置应随RIR权限配置。

组织要求个体承担的责任越高,就越应保证其理由访问、边界质疑和重新发起权。责任不能长期压在一个没有实质判断权的末端签字者身上。

命题六:AI时代不可外包的并不是所有认知劳动,而是判断闭环的重新启动权。

检索、计算、比较甚至大部分推理都可以永久交给AI,但如果主体连“何时旧问题已经结束、必须重开”都不能识别和发起,判断归属就发生实质转移。

与现有研究的关系:RIR不是“适当依赖”的改名

现有人机决策研究已经形成丰富的信任校准、自动化偏差、适当依赖、解释和人机互补研究。它们主要关心人是否在AI正确时接受、错误时拒绝,以及何种界面、置信度、解释或协商机制能够提高联合绩效。近年的Human-AI Deliberation研究尤其重要,因为它开始把人从被动接受/拒绝推荐推进到与AI围绕分歧展开维度级讨论。

RIR与这些研究的差异在于研究对象不同。适当依赖的基本评价单位仍然是“对AI建议的接受是否与AI正确性相匹配”;RIR的评价单位是“一个具体判断的主体归属是否仍然在人”。因此,即使用户恰当地依赖AI,若其没有持有决定性价值取舍、无法识别新情境使原答案失效、也没有重启流程的能力,判断归属仍然可能很弱。反过来,一个人可能因证据不足而错误拒绝了AI,却仍然是这项错误判断的真正主体。

这一区分不是贬低正确性,而是把绩效问题与主体性问题分层。AI治理如果只追求团队正确率,容易忽略长期技能退化、责任错配和异常接管;如果只强调主体性,又可能牺牲AI可以带来的巨大性能收益。RIR试图提供第三条路径:允许高度增强,同时明确哪些结构必须保留才能继续声称“人在判断”。

此外,RIR把“人类监督”从静态角色分工推进到动态发生链。现有框架常问人在何处进入系统;RIR进一步问,当新证据到来、价值改变或环境越界时,判断是否能重新从人这里发生。这一点使RIR更适合处理长期人机协作,而不只是一次性的建议采纳。

在本书内部,最近的邻居是第一章。两章都在处理归属,都用扰动测试,都要求主体主动发起而非被提示。差别在对象的性质,而这个差别有直接的测量后果。

能力可以长期不被调用而仍然存在,判断则必须每一次重新形成。因此第一章允许深度外包,只要求在代理失效的断面上能重新闭合回路;本章不能作同样的让步——一次没有理由持有、没有失效识别、没有重新发起能力的批准,就是一次不属于人的判断,无论这个人在别的时候多么有能力。一个资深从业者完全可能通过第一章的全部四个环节,却在某个具体决定上不满足本章的三个节点:他有能力重新接管,只是这一次没有。

由此得到两章之间的一条硬规则:能力归属是关于人的判定,判断归属是关于事的判定。前者可以按季度做,后者只能按件做。任何把两者合并成一个"AI 素养分"的做法,都会同时失去这两项判定的意义。若未来研究显示两项测试在同一批受试者上高度一致,则本章应并入第一章;在此之前,两者必须分开记录。

结论:AI时代真正需要保护的,是人重新说“这件事要重判”的能力

本章从一个看似简单的问题出发:如果最后仍由人点击确认,判断是否仍属于人?通过决策科学、法理学与生态心理学的两阶碰撞,答案逐渐清晰:最后动作只是判断流程的末端,不是判断归属的充分证据。

决策科学让我们看到,任何选择都是信息、概率与价值条件化的结果;法理学让我们看到,形式签字不能替代实质裁量、理由与可问责的决策位置;生态心理学让我们看到,真正判断还必须在动态情境中保持对行动相关变化的敏感。三者第一次碰撞共同否定“最后动作判据”;第二次碰撞进一步产出RIR三个最小节点:理由持有、失效识别、重新发起。

这三个节点也重新定义了AI时代的人类主体性。人不需要为了证明自己“会判断”而拒绝AI,不需要亲手重做所有搜索和计算,也不需要把所有外部知识重新内化进大脑。一个成熟的人机系统完全可以让AI承担绝大多数分析负担。真正不能完全丢失的是:人知道为什么此刻接受这个结论;知道什么变化以后它不再成立;并且在那个变化真正发生时,有能力和权力让旧答案停止生效,重新组织下一轮判断。

因此,AI时代真正值得保护的,不只是Human in the Loop,而是Human in the Judgment。一个人在流程里,并不等于他在判断里;一个人承担责任,也不等于他拥有判断;一个人能解释AI,也不等于他能在AI越界时改判。只有当理由仍被主体占有、边界仍能被主体看见、重判仍能由主体发起,我们才有充分理由说:这个判断虽然借助了AI,但仍然是人的判断。

最终,AI时代“不可外包”的也许不是某一套固定知识、某一种计算技能,甚至不是完整推理链,而是一个更小却更根本的发生权:当世界改变、旧答案失效时,人仍能发现断裂,并重新说出——这件事不能沿用刚才的答案了,我们需要重新判断。

附录:RIR判断归属的最小操作化方案

A. 理由持有测量。要求主体在不查看AI答案全文的情况下,用不超过三个理由说明当前选择为什么成立;随后改变其中一个理由的方向或强度,观察是否触发重新评估。评分重点不是表达流畅度,而是理由是否对选择具有反事实约束。

B. 失效识别测量。要求主体预先指出至少两个“如果发生,就必须重新判断”的条件;随后在模拟或真实案例中嵌入边界扰动,观察主体能否在没有显式提示的情况下识别。

C. 重新发起测量。在原结论失效后,观察主体是否先冻结旧结论、重新定义问题、更新证据或价值排序,再调用AI或其他资源;如果只是把同一句旧问题再次交给AI,则重启能力较弱。

D. 权限测量。记录主体是否真的有权查看关键依据、暂停流程、修改输入、请求复核、升级到专家或进入人工路径。认知能力存在但制度权限不存在时,应判定为“判断能力保留、判断权被削弱”。

E. 纵向测量。RIR不是一次性资质。对长期AI使用者,应周期性使用边界案例和异常案例进行复测,观察理由压缩、失效敏感性和重启能力是否随自动化程度上升而衰退。

附录二:RIR模型的理论压力测试——十二个边界情景

情景一:AI结论完全正确,但人不知道任何关键前提

假设某AI在一个高度稳定的专业领域拥有接近完美的预测能力。使用者连续多年无条件接受系统输出,而且从未遭遇错误。此时从绩效角度看,人机系统极其成功;从判断归属角度看,却仍必须区分“正确答案持续到达”与“人持续作出判断”。如果使用者不知道系统依据哪些事实,不知道当前结论在哪些条件下成立,也没有任何重开过程的能力,那么RIR会把这一状态判为低归属。这个结论看似苛刻,却是必要的:如果仅凭长期正确率就能证明判断属于人,那么一台永不出错的自动售货机也可以因为人按了按钮而被说成“人完成了商品定价判断”。

这一情景说明RIR不是奖励错误,也不是要求人故意抵抗高性能AI,而只是拒绝把“系统表现好”直接转译为“人的判断仍在”。如果任务确实已经成熟到可以全自动,人们完全可以公开承认判断被系统化;真正有问题的是一方面把判断交给系统,另一方面又为了责任或合法性继续宣称“最终始终由人判断”。

情景二:人能背出完整解释,却在一个关键前提反转后仍坚持原结论

假设AI推荐A,并生成五条解释。使用者能够逐字复述,甚至可以进行漂亮的汇报。然而,当其中最关键的一条事实被可靠证据否定时,他仍然坚持A,理由是“系统总体上比我可靠”。这表明解释并未成为他的判断理由,只是被储存为文本。RIR在这里通过理由扰动把“解释 possession”与“理由 possession”分开。

真正持有理由并不要求一项前提变化后必然改选B,但至少应触发再评估。如果使用者重新权衡后发现其余四条理由仍足以支持A,那么判断仍可归属于他。由此可见,RIR检验的是推理结构是否对变化开放,而不是某个固定答案是否被改变。

情景三:人知道AI为什么错,却没有权限改变流程

某招聘主管发现模型把一段非标准职业经历错误编码为“空窗”,也清楚这会低估候选人能力。他能够说明错误原因,也能识别这属于模型训练分布之外的情形,但公司制度禁止修改评分,只允许主管点击确认。RIR在这里会把责任问题从个人转向制度:主管具有理由和边界识别,却缺乏重新发起权,因此不能把最终决定完整地归属于主管。

这个情景的重要性在于,它防止组织把“人知道系统有问题”当作免责条件。真正的人类监督必须允许知识转化为行动。如果识别异常不能改变流程,监督只是观看。

情景四:人每次都能推翻AI,但从不重新定义问题

有些系统给人充分的override权限,使用者可以随意把A改成B。这似乎已经满足“最终由人控制”。但如果人只是凭直觉改答案,却从不检查为什么原模型失效、是否出现新证据、目标是否改变,那么他拥有的是选择权,不一定拥有完整判断。RIR要求的重新发起比override更强:它要求把异常转化为新的问题结构。

因此,未来的监督设计不能只统计人工推翻率。过高或过低的推翻率都无法单独说明监督质量。真正应观察的是推翻以后是否发生了新的证据收集、价值重排、问题重构和结果复核。

情景五:AI不可用,人能完成任务,但理由与平时完全不同

另一个容易混淆的标准是“AI断网后还能不能做”。如果一个人在AI不可用时仍能凭经验完成任务,似乎说明能力已经内化。但这并不能单独证明平时由AI参与的判断归属于他。因为离线时他可能使用一套完全不同、粗糙却可工作的启发式,而在线时则完全机械接受AI。

RIR因此比“脱离AI测试”更精确。脱离AI能力可以作为韧性指标,却不是判断归属的必要条件。一个人即使无法独立完成高维计算,也可以通过持有关键理由、边界和重启权拥有在线判断;反过来,一个人虽然离线能做,却在在线场景里把具体判断全部交给AI。

情景六:主体的价值排序由AI根据历史偏好自动推断

个性化AI越来越可能根据历史选择自动推断用户偏好,例如认为某人长期更偏好低风险、低价格或高便利性。随后系统直接把这种推断作为效用函数的一部分。问题在于,过去偏好不是永恒授权。人在不同生命阶段可能主动改变价值排序,也可能希望某一次选择例外。

因此,价值函数的自动个性化尤其需要RIR中的理由持有与重启。用户至少应知道当前推荐在多大程度上依赖“系统认为你重视什么”,并能够在关键决策中明确说“这一次我的排序变了”。如果AI把历史行为悄悄转化为未来规范,人就可能被自己的过去锁定。

情景七:环境变化很慢,没有明显的单次失效点

并非所有判断都在某个清晰瞬间失效。长期投资、慢性病管理、人才培养和家庭照护中的很多条件是缓慢漂移的。RIR是否只适用于突然异常?答案是否定的。失效识别不仅包括阈值事件,也包括累积漂移:单次变化不足以改判,但多个小变化叠加后,原有理由结构已不再成立。

这要求系统和主体都具备周期性复审机制。对于慢变量,重新发起不能只靠“异常报警”,还应由时间、累计变化或关键指标偏移触发。RIR因此既支持事件触发,也支持周期触发。

情景八:AI给出多个方案而不推荐,人仍把价值排序交给系统

有人可能认为,只要AI不直接给最终答案,而是列出A、B、C三个方案,人类判断就被保护了。但如果排序维度、权重、风险阈值和“最佳匹配”全部由系统预先确定,人只是在预加工后的选择架上挑一个选项,判断仍可能被深度塑形。

RIR因此不以“AI有没有最终推荐”作为关键边界。即使系统只提供菜单,人仍需持有真正决定选择的理由,并有能力在菜单遗漏重要选项或条件改变时重开问题。人类主体性不能被简化为从机器设计的选项中任选一个。

情景九:AI与人共同形成理由,无法明确区分理由来自谁

生成式AI的一个独特特征是对话式共同生成。用户最初只有模糊直觉,经过多轮追问后才形成清晰理由。此时理由究竟属于AI还是人?RIR不要求追溯每一句理由的原创作者。判断归属不是知识产权问题,而是功能占有问题。只要最终主体能够用这些理由区分方案、接受其反事实约束、识别边界并重开判断,这些共同生成的理由就可以成为人的理由。

这意味着AI不仅可能替代判断,也可能帮助形成判断。关键不是“理由最初是谁说的”,而是理由是否真正进入主体的可更新控制结构。

情景十:多人团队与AI共同决策,判断不再属于单个人

现实组织判断经常是分布式的:一人掌握业务目标,一人理解数据,一人负责法律风险,AI负责预测。此时强行要求某个单人持有全部RIR可能不现实。RIR可以扩展为团队级判据:决定性理由是否在团队中可定位,失效边界是否有人持续负责感知,重新发起权是否有明确主体且能够被触发。

但团队级归属不能成为责任模糊的借口。真正的分布式判断需要节点之间可连接:发现边界的人能够把信号传递给有权重启的人,重启者能够获得理由和证据。若每个节点都存在却彼此断裂,团队整体仍不能形成有效RIR闭环。

情景十一:AI自己能够识别失效并自动重启,人还有必要吗?

未来AI系统可能具备自监测、不确定性估计、异常检测和自动重新规划能力。它可以自己发现原模型失效,再调用新工具重做判断。此时如果人完全不知道发生了什么,却只接收新结论,那么系统的判断闭环显然越来越完整,人的判断归属则进一步降低。

这并不是坏事本身。对于适合自动化的任务,这可能正是技术进步。但它再次要求我们诚实区分“系统有判断能力”与“判断属于人”。AI越能自己完成RIR等价功能,人类在流程末端的存在就越不能自动证明主体性。

情景十二:人主动选择把判断整体委托给AI

最后一个边界情景最重要:一个有能力判断的人经过审慎考虑,明确决定在某类低风险、可逆任务中完全接受AI自动判断。这是否意味着他失去主体性?就具体子任务而言,判断确实被委托;但更高一层的“是否委托、委托到什么范围、何时收回”仍可能属于人。

由此出现判断的层级结构。人可以在一级任务上不保留RIR,却在二级治理判断上保留RIR:我为什么把这类任务交给AI;什么错误率、风险变化或环境变化会使我停止委托;一旦触发,我如何收回并重设系统。这说明AI时代主体性不必表现为微观处处亲自判断,而可以上移到对委托边界本身的判断。

这一层级化结论进一步修正了“不可外包”的表述。真正不可完全外包的不是所有具体判断,而是至少在某个上层仍要有人或有责任共同体持有对委托范围、失效条件和收回机制的RIR。否则,判断会在层层代理中失去可定位的主体,责任却可能仍在事后被随意寻找。

附录三:研究限制与后续验证方向

RIR目前仍是一项理论最小判据,下一步需要通过实验和真实专业场景验证三个节点之间是否具有稳定区分度。特别值得检验的是:理由持有是否能预测人在AI错误时的修正能力;失效识别是否能预测分布变化后的接管质量;重新发起权限是否会显著改变人对异常信息的响应。若三项指标能够分别解释传统“信任”“依赖率”“正确率”不能解释的行为差异,RIR才具有真正独立的测量价值。

此外,不同领域对RIR的最低阈值不应完全一致。高风险、不可逆的医疗、司法、金融和公共治理判断,应要求更强的理由可追溯、边界识别和重启权限;低风险、可逆的日常任务则可以采用更轻量标准。未来研究应把风险、可逆性、时间压力、专业经验与AI可靠性作为调节变量,而不是把“人类判断归属”处理成脱离情境的统一分数。

本章附表

状态理由持有R失效识别I重新发起G判断主要归属
AI代判—人工执行否/极弱AI—系统
AI代判—人工解释表面有AI—系统为主
人工监控—无改判权主体能力在、制度权力不在
人类判断—AI增强人类主体(AI深度参与)
© 德麦国际出版社 · 孔凡鹤《一直没出事》· ISBN 979-8-90690-011-1