断代理复闭环判据:能力归属为什么只能在断面上判定 ——认知神经科学 × 控制科学 × 认识论的跨学科对撞
承重命题:人类能力的最低保留单位,不是“还能不能独立把整项任务做完”,也不是“是否始终亲手执行”,而是当外部认知代理发生错误、冲突、失联或情境失配时,主体能否重新生成一个可观察、可裁决、可干预、可更新的闭环。能力归属应在代理失效的断面上判定,而不能由代理正常运行时的结果质量反推。
摘 要
生成式AI正在把写作、翻译、编程、检索、分析与部分判断从“人必须亲手完成的任务”改写为“人可以调用外部认知代理完成的任务”。由此产生一个比“AI会不会取代人”更基础的问题:当任务表现已经无法区分人的能力与工具的能力时,凭什么仍把某项能力归属于人?本章将认知神经科学的内部模型与认知卸载、控制科学的可观测性—可控性与人工接管、认识论的知识—理由与认知主体性置于同一冲突面。三者分别倾向于从内部表征、功能控制或认识论资格读取能力,却共同默认“能力可在正常运行状态下由某一维单独认证”。本章以各自内部材料推翻该前提:外部工具可提高即时成绩却不形成等量的内部学习;自动化可提高正常绩效却削弱故障接管;正确结论也可能因偶然、不可区分或缺乏认知归属而不构成主体的知识成就。本章据此提出“断代理复闭环判据”(Proxy-Severance Reclosure Criterion, PSRC):只有在外部代理被施加可判定扰动后,主体仍能生成独立预期并发现差异、基于非同源理由裁决冲突、实施能改变任务状态的干预,并把结果回写为下一轮判断规则,才可把该能力继续归属于主体。该判据不要求人保留全部手工操作,因此允许深度外包;但它拒绝把“持续得到正确答案”直接兑换为“仍然拥有能力”。本章进一步以公开实验数据对“即时增强=能力保留”的最强竞争解释进行压力测试,并与认知卸载、扩展心智、脱离回路、批判性思维、适当依赖、技术辅助know-how及作者既有“实质主控/消化性裁决”概念逐项划界。结论是:AI时代真正不可外包的不是任务清单,而是能力归属的最后闭环。
关键词:生成式人工智能;不可外包能力;断代理复闭环;认知卸载;人工接管;认知主体性
English Title and Abstract
Correct Answers Are Not Capabilities: A Proxy-Severance Reclosure Criterion for Non-Outsourceable Human Competence in the Generative-AI Era
Generative AI increasingly performs writing, translation, coding, retrieval, analysis, and parts of judgment. This makes task success an unreliable indicator of where competence resides. This paper asks a narrower question: under extensive cognitive delegation, what is the minimum condition for attributing a capability to the human rather than merely to the human–AI system? A second-order collision is constructed across cognitive neuroscience, control science, and epistemology. The three fields privilege, respectively, internal models, effective control, and epistemic credit. Yet each contains evidence that defeats a normal-operation criterion of competence. Cognitive offloading can improve current performance without equivalent internal learning; automation can improve nominal performance while degrading takeover capacity; and true or even justified belief need not amount to epistemic achievement when success is lucky or undiscriminating. We propose the Proxy-Severance Reclosure Criterion (PSRC): a human retains a capability if, when the external proxy is made unavailable, conflicting, wrong, or contextually invalid, the human can generate an independent expectation that makes mismatch detectable, discriminate between competing outputs with a non-circular reason, intervene so as to change the task state, and update the rule or model governing the next round. PSRC permits extensive outsourcing of routine operations while denying that assisted correctness alone establishes retained human competence. A public-data stress test using four GenAI experiments (N=3,562) rejects the simple equivalence between immediate AI-assisted augmentation and subsequent independent capability. The proposal is differentiated from cognitive offloading, out-of-the-loop performance, critical thinking, appropriate reliance, distributed cognition, technology-assisted know-how, and the author's prior constructs. The central claim is that the non-outsourceable unit is not a task, but the capacity to re-close an epistemic-control loop when delegation ceases to be dependable.
Keywords: generative AI; cognitive offloading; human capability; takeover; epistemic agency; reclosure
在工业自动化时代,“人是否还有能力”通常可以用一个相对直观的办法来判断:关掉机器,让人自己做一次。生成式AI让这个办法失效了。首先,很多知识任务原本就不是封闭动作,而是依赖数据库、同事、文献、计算器、软件和组织流程;把所有外部支架同时撤掉,测到的不是现实能力,而是“孤立个体在人工贫困环境中的表现”。其次,AI的优势恰恰在于把大量中间操作压缩成一次调用。如果教育与组织仍坚持“只有完整手工复现才算会”,就会把工具使用本身误判为能力丧失,重新制造一种低效的手工作坊主义。
但反方向的判断同样危险:只要一个人在AI协助下持续交出高质量结果,就认定他已经拥有相应能力。这样的认证会把“系统绩效”直接记到“个人能力”账上。一个从未读过原始材料的人可以用AI生成合格综述;一个不理解边界条件的人可以让AI写出能通过测试的程序;一个几乎不懂目标语言的人可以借助模型完成流畅翻译。只要代理稳定、输入熟悉、任务边界清楚,结果可以长期很好。真正的问题只在代理出错、两个模型互相冲突、上下文变化、证据缺失或组织目标突然改变时出现:此时谁能够看见异常、决定哪一条理由更重、改变行动方向,并在事后修正自己的判断?
因此本章把研究对象从“任务可否自动化”移到“能力如何归属”。所谓“不可外包能力”,不是一组AI永远做不了的神秘任务。AI能力边界会继续移动,任何以“机器现在不会什么”为基础的人类能力清单都具有很短的保质期。本章要建立的是一个与模型能力上升相容的最低判据:即使某项任务的九成九操作都被AI接走,什么东西仍必须在人这一侧形成,才有理由说“这个人仍然会”?
这个问题同时关系教育、职业认证和责任制度。若学校只考无AI手工完成,它可能测到过度保守的能力;若只看AI辅助作品,它又可能把代理绩效误作学习成果。若公司把“能用AI做出结果”直接等同于专业胜任,就会在模型异常时发现没有人能够接管;但若公司要求所有员工保留完整手工流水线,又会放弃真正的自动化收益。一个可操作的最小判据,必须同时避开这两个极端。
本题表面上包含“是否意味着”“如果……那么……”等多个问句,但要的答案形状不是一条行动路径,也不是一个因果驱动,而是一个能把两种表面相同的状态分开的“东西”:同样都能借助AI得到正确答案,哪一种叫“能力仍在”,哪一种只叫“代理仍在”。因此它要问的是"是什么",对口的是三个维度。三门学科不能只作为三个章节来源,而必须分别站到S、D、E不同位置上,然后共同推翻“某一维单独足以认证能力”的前提。
三者的烈度不在于谁“更重视人”,而在于它们给能力开出的最低凭证不同。认知神经科学允许大量信息外置,只要内部系统仍能调度和校准;控制科学并不要求操作者理解全部算法,只要求系统状态可被掌握、故障时有可执行的接管路径;认识论内部甚至存在外在主义立场:一个人未必需要随时口头陈述理由,可靠的形成过程也可能赋予信念认识论资格。正因如此,本章不能把结论预设成“人必须理解一切、亲手做一切、解释一切”。真正的二阶产物必须比这更薄,也更硬。
内部模型研究提供了一个极重要的结构:一个控制中的神经系统并非等到世界发生以后才被动接收结果,而是利用内部模型预测行动后果,再用真实反馈与预测之间的差异形成误差信号。Wolpert、Ghahramani与Jordan关于感觉运动整合的经典工作,以及随后关于状态估计与预测误差的研究,都表明“误差”不是外界自带的标签;它只有相对于一个先在的预期才存在。没有预期,外界只能发生变化,却不会以“偏差”的形式显现。
把这一点迁移到AI知识工作,可得到一个比“记住多少知识”更小的条件。人不需要在脑中复制语言模型,不需要记住数据库全部条目,也不需要独立完成所有中间计算;但他至少必须保留某种任务相关的预期结构:这段论证大概应该满足哪些约束,这个程序的输入输出关系应当如何变化,这个翻译在语境中不应出现哪类歧义,这个结论如果成立应与哪些已知事实相容。只有当AI输出能够撞上一个属于人的预期时,异常才有可能在人的一侧发生。
这也解释了为什么“告诉我哪里错了,我能理解”不等于保有能力。若异常标签本身仍由AI提供,人可能只是继续消费代理的判断。真正有诊断力的情形是:在不知道测试者故意植入了何种错误之前,主体能否从自己的预期中先产生一个“不对劲”的信号。这个信号可以粗糙,甚至不能立即给出正确答案;它的关键作用是把系统从无条件接受切换到重新检查。
认知卸载研究提醒我们,不应把使用外部工具本身道德化。Risko与Gilbert把cognitive offloading概括为通过外部行动改变任务的信息加工要求。人类一直在把记忆、计算和规划部分搬到纸张、提醒器、搜索引擎和他人身上。Sparrow等人的“Google effects on memory”提示,预期未来可访问的信息会改变人们记什么:与其记住内容本身,人可能更多记住去哪里找。这样的重分配不等于认知停止,它可能是更高效的资源配置。
因此,“不可外包能力”不能被定义为“必须把知识留在脑子里”。如果这样定义,书写、图书馆、计算器和互联网都会成为能力的敌人。真正需要区分的是两种卸载:一种把低价值的存储和重复操作移出内部系统,同时保留对任务结构的预测与检验;另一种连“什么样的输出值得怀疑”也一并外包。前者使内部模型变薄但仍有差异发生能力;后者使内部模型与代理输出之间失去可产生误差的张力。
这给出了认知维度的第一道门:主体不必保留完整解法,但必须保留足以生成独立预期的最小内部模型。这个“最小”不是固定知识量,而是功能性的——它必须能让至少一类关键异常在AI告知之前对主体显现。若一个人对所有候选输出都同样觉得“像对的”,那么无论他最终选中了多少正确答案,都没有形成可与代理发生分歧的内部参照。
控制科学把一个常被日常语言混在一起的问题拆开:能看见系统状态,与能改变系统状态,是两回事;系统存在某个控制输入,与这个输入由谁掌握,也是两回事。AI工作流里,“我知道模型可能有幻觉”只是风险知识;“我能看出这一次具体哪里异常”才接近可观测;而“我能通过另一条路径把任务带回有效区间”才接近可控。
这一区分可以解释一种常见的“高级无力”:使用者已经具备很强的AI怀疑意识,每次都说“需要核验”,但他只有同一种代理。模型A给出答案后,他让模型A自己检查;出现冲突后,他换一个提示词让同一个系统裁判;代码报错后,他继续要求模型自动修复,直到测试通过。整个过程中存在大量“审查动作”,却没有真正独立的控制通道。只要同源模型的盲区稳定存在,所谓核验只是同一控制器内部的自循环。
因此,能力保留必须包含一种低限度的“异源改向权”:主体能够在关键时刻选择不同证据源、不同工具、不同表征方式或局部手工推理,使任务状态发生真实改变。这里的“独立”不是禁止使用任何工具,而是不允许把发生故障的同一代理继续当成唯一裁判。可以查原始数据、跑独立测试、调用另一个模型、请专业同事复核、回到公式、构造反例;这些都可以是控制输入。真正不可缺的是选择哪条控制通道以及根据反馈决定是否继续的权力。
Endsley与Kiris关于out-of-the-loop performance problem的研究提供了一个与“AI协助越强越好”直接冲突的事实结构:自动化可以在正常运行时提高表现,却由于情境意识下降、主动加工转为被动加工以及反馈变化,使操作者在专家系统故障后接管变慢。也就是说,正常运行阶段最成功的自动化,恰恰可能把能力缺口藏得最深。
这使“人工在回路中”成为一个不够硬的标准。一个人可以名义上保有最后确认按钮,却不知道系统此刻处在哪个状态,也没有足够的时间、信息或技能去改变它。AI产品中的“human review”同样可能只是界面事实:审核者可以点同意或拒绝,却无法形成替代方案;可以关闭生成,却不能继续任务;可以看到模型给的引用,却不会判断引用是否支持结论。名义控制与功能控制之间存在一道必须实测的缝。
因此,控制维度给出第二道门:当异常出现时,主体必须不仅能“停止代理”,还要能“让任务继续朝目标移动”。如果唯一动作是停止使用AI,而停止后任务立即瘫痪,那么主体拥有的是否决权,不是该项能力。反过来,如果主体可以保留AI作为工具,但能够切换证据、重设约束、局部重做、缩小问题或召集他人,从而把系统重新带入可接受区域,就已经满足比“完全手工复现”更现实的接管要求。
认识论对本章最直接的贡献,是切断“正确结果→主体能力”的自动兑换。Gettier在1963年的经典短文中表明,即使一个信念既真又有表面上的正当理由,仍可能因为偶然结构而不构成知识。把这一结构放入AI协作,可以看到相似风险:使用者可能选择了正确答案,却只是因为模型恰好在这次没错;他可能给出一个看似合理的解释,却没有能力区分同样流畅的错误解释。若把运气换成另一个随机种子或另一个模型版本,结论就会崩塌。
但是,本章也不能简单走向“必须能完整陈述理由,否则就不算能力”。认识论外在主义尤其是Goldman的过程可靠主义提醒我们,知识与正当性未必要求主体对所有形成过程具有反思性访问。熟练者常常不能把自己的技能压缩成完整口头规则;一个医生可能先看出影像异常,再在追问中逐步展开理由。若把“能写一篇元分析解释自己为何正确”当作最低标准,会把大量真实know-how排除掉。
因此,认识论真正需要的不是“全部理由显式化”,而是更薄的反运气条件:主体必须能在竞争答案之间产生一种有方向的区分,使“为什么接受A而不是B”不完全取决于同一代理的背书。这个区分可以是命题理由,也可以是可演示的反例、可重复的测试、可靠的来源差异、领域约束或实践性识别。重要的是,它必须能够在反事实邻近情境中改变选择,而不是事后为已经接受的答案补一段漂亮说明。
AI协作还有一个传统“知识正确性”难以覆盖的问题:谁对这个判断承担修订义务?在真实工作里,很多能力不是一次性答题,而是持续承诺。医生签下诊疗意见、工程师批准方案、研究者提交论证、教师给学生反馈,意味着当新证据出现时,必须有人负责改变原判断。若一个人只能说“这是模型给的”,却无法说明什么新证据会使自己撤回或改写结论,他拥有的不是一个可持续的认知立场,而是一次外部输出的转交。
因此认识论维度给出第三道门:主体要能够把一次纠错结果回写成下一轮的判断规则。这个回写不要求形成宏大理论,但至少要表现为“下次遇到同类情境,我会提前检查X”“这个来源在Y条件下不可靠”“这个提示词会漏掉Z约束”“这类冲突需要先回到原始证据”。如果每次错误都由AI即时修掉而不改变人的下一轮识别与选择,那么系统变好了,人的能力却没有必然增长。
三家看似互相补充,但如果只是把三条条件并列起来,仍然只是一阶综合。真正的共有前提更深:它们都倾向于把能力当作一种可以在“正常运行截面”上读取的属性——看内部有没有模型、看系统有没有控制权、看当前信念有没有认识论资格。可是在AI时代,恰恰是正常运行截面最不具有辨别力:人和代理高度耦合后,正确输出可以持续遮蔽能力究竟位于哪里。
认知神经科学自己告诉我们,误差只有相对于内部预期才出现;控制科学自己告诉我们,自动化的能力问题往往要在故障转接时才显影;认识论自己告诉我们,成功必须在邻近反事实中摆脱偶然并具有可归属的认知关系。三者的材料合起来逼出一个共同方向:能力不应在代理正常工作的“合成输出”上认证,而应在代理可靠性被打断的“交接断面”上认证。
这里发生了一个从“能力库存”到“能力复闭合”的对象转换。传统技能测试问:你独立拥有多少步骤?本章问:当分布式认知系统的一条关键外部边失效时,你这一侧是否还能重新构造从预期—差异—裁决—干预—反馈到更新的闭环?前者把能力看成动作清单;后者把能力看成一种潜在的结构恢复性质。它允许日常运行时闭环被拉长到工具、同事和AI之中,却要求在关键断面上,人仍然具有重新闭合它的能力。
这一判断也改变了“不可外包”的含义。不可外包的不是写第一稿、算第一遍、查第一条资料、写第一段代码这些动作;这些几乎都可以外包。不可外包的是:至少保留一个能与代理产生真实分歧的内部参照,保留选择异源证据与控制通道的权力,并保留把纠错结果转化为自己下一轮规则的责任。若这三者同时消失,任务仍可能完成,但能力已经只能归属于“人+代理”系统,不能无条件归到人这一侧。
本章提出“断代理复闭环判据”(Proxy-Severance Reclosure Criterion, PSRC)。所谓“断代理”并非要求永久禁用AI,而是对外部代理施加一次任务相关、可判定的扰动:代理不可用、给出错误、两个代理冲突、证据分布改变、目标约束改变,或模型输出与真实反馈出现系统性失配。所谓“复闭环”,是主体在该扰动发生后,仍能把原本由人机共同完成的判断—行动回路重新闭合到一个可继续学习和控制的状态。
PSRC的零情态词判据如下:在事先规定的代理扰动P下,若主体在不把同一失效代理继续作为唯一裁判的条件中,依次完成“生差、裁差、改向、回写”四件事,则该能力归属主体;任一环节长期缺失,只能证明存在代理绩效,不能证明主体保有该能力。
这里四件事不是四门“新技能”,而是同一个能力归属事件的四个相位。“生差”负责让异常在主体侧出现;“裁差”把异常转成理由结构;“改向”使理由进入真实行动;“回写”使行动结果成为下一轮内部模型的一部分。缺少任何一环,闭环都无法真正归到主体。
PSRC故意不要求主体完整复现AI所做的全部操作。一个优秀医生不需要手算医学影像模型的卷积,一个程序员不需要自己写出所有样板代码,一个研究者不需要背诵全部文献。只要在关键代理扰动下,他仍能生差、裁差、改向和回写,就可以合理地把能力继续归属于他。由此,深度自动化与能力保留并不矛盾。
同时,PSRC比“保持批判性思维”更可裁决。“要批判”“要核验”“不要盲信AI”都可以成为态度口号,却不告诉我们何时算真正做到。PSRC把判定压到一次具体扰动:错误没有被预告时能不能自己看出来;两个输出冲突时有没有异源区分理由;选定理由后能不能改变任务;改完之后下一轮是否真的不同。它不测态度,而测闭环能否复建。
最关键的是,PSRC不把“没有AI也能做”当作充分条件。一个人可能能手工执行旧流程,却看不见情境已经变化;他可以在熟题上独立完成,却无法解释新证据为何使原规则失效。这样的“手工作业能力”不一定具有真实适应性。复闭环判据要求的不只是去工具化,更是对扰动的敏感、异源控制与更新。
为避免把四环节变成模糊总分,本章先用两个最可观察的轴建立2×2:横轴是“异常能否在本人一侧独立显形”(生差+裁差),纵轴是“本人是否拥有能把任务带回有效区间的改向路径”(改向)。进入右上靶格后,再以“是否回写”作为能力归属的封印条件。
这个辨别格直接解决一个教育测量难题:学生的AI辅助作品质量并不能告诉我们他在哪一格;纯闭卷考试也只能粗略测到某些内部库存。更有诊断力的方式,是给同样完成高质量作品的人一次可控的代理扰动,看谁能在没有答案提示的情况下先发现异常、选择不同证据并完成修正。
本书要求每一个候选概念在提出时就主动寻找“这想法其实早就有人说过”的占位者。本章采用五方向检索:1980年前经典层、AI/自动化应用领域内部、方法学占位者、专著/非期刊层,以及作者同产线既有文本。检索并没有得到“完全无人涉足”的安全区;相反,找到了多位危险近邻。本章的创新主张因此必须被压缩为更窄的一条:不是首次提出“人应保持控制/批判性思维/know-how”,而是把能力归属的最低认证位置放到“代理失效的断面”,并用复闭环而非正常绩效或全手工复现来裁决。
第一句:“这不就是批判性思维吗?”——不是。批判性思维可以在不承担真实控制后果的讨论中发生;PSRC要求理由进入改向,并由反馈回写。若一个人能批评AI答案却无法使任务继续,批判性思维存在而任务能力仍未被认证。
第二句:“这不就是human-in-the-loop / takeover competence吗?”——不完全是。接管能力主要解决自动化失效时能否恢复人工控制;PSRC额外要求异常必须先在人的内部参照上显形,并要求修正结果回写为下一轮认知规则。一个熟练操作员可以按故障手册接管,却不知道模型为何不可信;他有接管能力,不一定拥有当前判断所需的认识论能力。
第三句:“这不就是扩展心智/分布式认知吗?”——方向相反但兼容。扩展心智关心工具何时可以构成认知系统的一部分。PSRC接受“人+AI系统”可以拥有很强能力,却追问另一件事:在必须单独把能力记到“人”这一侧时,最低还要留下什么。系统层能力与个体归属可以同时成立而不同值。
本章最强竞争解释H₀是:“若AI协作使一个人在任务上显著表现得更好,则至少在相邻同类任务中,人已经获得或保留了相应能力;因此不必额外设置断代理测试。”若H₀成立,在AI协作结束后转入无AI任务,先前的表现增强应当以可观察形式持续存在。若即时增强在撤除代理后系统性消失,则至少可以否定“即时高质量结果本身足以认证个人能力”。
Wu等人在Scientific Reports发表的四项在线实验总样本N=3,562,明确比较了AI协作的即时表现与随后的人类独立任务。本章不重新估计原始效应,而对作者公开报告进行一条最便宜、可复核的二值编码:只要Collab-Solo组在后续独立任务至少一个核心质量维度显著优于Solo-Solo且无核心维度显著变差,记为“存在正向持续”;否则记为“不存在稳定持续”。
按这一公开规则,4项研究中只有1项出现部分正向持续,3项没有;“持续率”为25%。这个读数不能被解释为“AI会让能力下降75%”,因为四项任务、指标和转场的含义不同,也没有直接测本章PSRC四环节。但它足以击穿一个更弱却常被默认的等价式:AI协作时的即时表现增强,不足以自动推出撤除代理后个人能力增强。尤其Study 4使用更相似的连续文本任务并平衡任务顺序,仍未发现稳定的后续独立增强。
如果本章把“撤掉AI后成绩不提高”直接解释成“能力不存在”,同样会过度推断。Wu等研究自己指出,转场可能影响控制感、内在动机与无聊感;Study 1甚至出现了后续创意质量的部分正向持续。这意味着“独立复做一次”也不是能力的充分测量:它混入动机、任务迁移、疲劳与题型差异。
这一不利结果反过来修正了PSRC的粒度。本章不主张用“完全禁AI后的闭卷成绩”替代AI辅助成绩,而主张使用“定向代理扰动”:只破坏代理的一条关键可靠性,并观察主体能否生差、裁差、改向和回写。这样测到的是代理失效时的结构恢复能力,而不是把整套现代工具环境突然抽空后的孤立绩效。
因此真跑得到的不是对PSRC的证明,而是对竞争解释H₀的一次否定与对本理论的一次收窄:结果质量不能认证能力;无AI成绩也不能单独认证能力;最有辨别力的对象是人机分工被局部扰动时,闭环由谁重新建立。
一个研究者可以把语言润色、结构草拟、摘要压缩甚至部分段落生成交给AI。如果AI把一个相关关系写成因果关系,研究者能在看到输出时因自己的研究设计预期而产生异常信号;能回到原始方法与数据区分竞争解释;能重写结论并限制适用范围;下一次会把“因果措辞核查”写进自己的审稿规则,那么写作能力仍可归属于他。反之,一个人可以在AI帮助下交出文采极好的文章,却无法发现论证从证据跳到了结论;这属于高代理绩效,而非完整学术写作能力。
AI翻译最容易制造“漂亮但错”的假安全感。真正的最低能力不是逐词手工翻译,而是对语域、指代、术语和语用后果保留足够内部预期。当两个译法都流畅时,译者能通过上下文、领域术语表、原作者用法或目标读者反应裁差;能改写并检查后文一致性;能把这次错译类型加入下一轮检查清单。若使用者只会比较“哪个更顺”,AI一旦稳定地产生流畅错误,能力断面便暴露为空。
程序员可以把大量样板、接口调用和测试代码交给模型。PSRC不要求他背下所有API。但当测试看似全绿而线上结果异常时,他需要能从系统约束生成预期,构造最小复现、独立断言或日志观察点,在两个可能原因间裁差,改变代码或架构,并把故障模式转成新的测试。一个只会把报错重新粘给模型直到不报错的人,其“改向”仍由代理承担。
在高风险领域,PSRC的意义更加直接。专业者可以使用AI扩大检索和生成能力,但不能把“什么新证据会使我改判”一并外包。能力的主体必须保留异常触发条件、异源证据通道、停止或升级机制以及修改原决定的责任。此处的回写不仅是个人学习,也是职业责任:系统出现新信息后,必须存在一个能重新打开判断并承担后果的人。
教育最值得改变的,不是简单决定“作业能不能用AI”,而是把能力认证从产物评分转向断面测试。学生可以被允许使用AI完成高质量初稿,然后教师随机植入四类扰动:给出一个高流畅度错误、提供两个相互冲突的模型答案、改变一个关键情境条件、暂时移除一个惯用工具。真正的评分对象是学生能否先发现异常、说出或演示区分依据、选择修正路径并把结果转成下一轮规则。
这种考试不要求回到“全手工时代”。它甚至比传统闭卷更接近真实职业环境:现实中工具不会消失,但工具会错、会缺、会冲突、会过时。教育真正必须由人亲自形成的,不是每一个可自动化动作,而是能在工具失去可靠性时重新组织知识与行动的能力。
为了让PSRC不沦为概念口号,本章给出一个最小测试协议。它不是心理量表,而是一种情境任务。每次测试只扰动一条代理关系,避免把“没有工具的困难”误当成“没有能力”。
步骤1:先让受试者在正常AI环境中完成一项真实任务,记录辅助绩效作为基线,但不据此认证能力。
步骤2:在受试者不知具体错误位置的情况下,对代理施加一种预先登记的扰动:事实错误、逻辑矛盾、引用不支持、边界条件改变、工具不可用或两个代理冲突。
步骤3:记录“生差时间”——从错误出现到受试者第一次主动提出异常的时间;若异常完全由系统提醒,不计为主体生差。
步骤4:要求受试者在至少两个候选解释之间给出会改变选择的区分依据。允许使用外部资料,但不得让同一失效代理成为唯一裁判。
步骤5:观察受试者是否能发起一项改变任务状态的干预,而不是只表达怀疑。记录干预是否把输出带回预注册的有效区间。
步骤6:在一段间隔后给出结构同类、表面不同的新扰动,检验上一轮反馈是否已经回写。若第二次仍完全依赖外部提示,第一次修正可能只是临时救火。
这个协议最重要的伦理边界是:PSRC用于判断“此项任务中的能力归属位置”,不用于给人贴稳定人格标签;扰动必须与真实任务风险相称,不能为了测接管而在医疗、交通、金融等安全关键系统中故意制造现实危险;任何用于教育、雇佣或职业认证的阈值必须公开编码规则,并允许复核。
若一个概念只能解释所有结果而不能输,它就不是一个有用的学术判据。PSRC至少押以下四条可裁决预测:
作者此前在成瘾干预论文中提出“实质主控”四条件,核心问题是外部控制系统能否被用户理解、修改、暂停并最终交还。那个概念判断的是“控制权是否实质属于本人”。它非常接近本章的控制科学维度,因此若本章继续把新意写成“AI失败时人应能接管”,就会被自家稿件正面占位。
本章把落点向前挪了一步:即使一个AI系统完全透明,用户随时可以关闭、修改、撤回,能力仍可能不属于用户。因为他可能不知道什么时候应该关闭,不知道两个答案哪一个更可信,关闭之后也没有替代认知路径。“权限归你”是主控条件;“能力归你”还要求异常在你这一侧发生、理由能区分、行动能改向、反馈能回写。故PSRC包含但不等同于实质主控。
作者另一篇饮食论文强调外部最优解可能填平“悬停—介入—投掷—收割”的裁决过程,使裁决能力因长期闲置而萎缩。那篇文章的保护对象是某类日常自我裁决过程,带有较强的“这一环节必须由主体亲历”的生成机制主张。
当前论文更宽容也更一般。它承认成熟专业者可以在绝大多数常规轮次中让AI直接完成操作,甚至不需要每一次都展开完整的悬停与投掷。只要系统定期或在异常时能够把闭环重新拉回主体,人仍可保有能力。换言之,上一文问“哪些裁决过程不能被持续短路”;本章问“当大量过程已经合法外包,能力归属的最后界线在哪里”。两篇的共同背景是代理,但判定对象不同。
(三)与本书其余各章的分界:三条不同的判定对象
本章的判据在本书内部还有三处最近的邻居,必须一并说清,否则读者会把四章读成同一章的四次重复。
与第五章的分界在时间结构。第五章问的是一次具体决定是否由人形成,因此它要求在每一次被声称为"人做的决定"里都能找到决定性理由;本章问的是一项能力是否仍归属于人,而能力可以长期不被调用仍然存在。判断必须每次重新形成,能力允许长期待命。因此一个人完全可能在某次决定上不满足第五章的三节点(他没有理由,只是照单批准),却在本章的扰动测试中顺利复闭环;反过来也成立。若在同一批受试者身上,两项测试的通过与否高度一致(相关高于 0.8),则两者不是两个维度,本章与第五章应当合并。
与第三章的分界在提问方向。本章问"能力还在不在",第三章问"我们凭什么知道它还在不在"。前者是能力的存在问题,后者是证据的存在问题。一个人可以能力完好而证据陈旧——第三章判定证据债高,本章的扰动测试却会判定他通过。这个差别不是文字游戏:证据债可以在能力没有任何变化的情况下累积,而清偿证据债也不会自动提高能力。
与第二章的分界在功能。本章给出的是判定,第二章给出的是维护。判定回答"到此为止能否归属",维护回答"如何让它继续可归属"。本章不承诺任何维护效果,第二章也不重新定义能力归属;两章的关系是同一条线上的诊断与处方。
第一,是人与世界之间的差异关系。人必须形成足以让世界或AI对自己“显得不对”的内部参照。知识可以外置,计算可以外置,文字可以外置,但如果任何输出都不能撞出主体自己的误差信号,主体就失去了独立观测的起点。
第二,是人与行动之间的改向关系。主体必须保留在关键情形下选择另一条证据与控制路径的能力。这里的“亲自”不是手工,而是发起位置:由谁决定停止、切换、缩小问题、改变方法、求助谁、接受什么风险。AI可以执行改向,但改向的触发与裁决不能只有AI自己。
第三,是人与后果之间的回写关系。主体必须把纠错后果变成自己的下一轮规则。一个永远靠代理即时修复而不积累任何新的判别边界的人,会拥有越来越强的系统绩效,却不一定拥有越来越强的个人能力。真正的学习发生在“这一次哪里错了”改变了“下一次我先看哪里”的时刻。
这三种关系共同说明:AI时代的人类能力不必与机器争夺操作密度。人可以越来越少地亲手写字、查表、算数、翻译、搭代码,但必须越来越清楚自己凭什么产生异议、凭什么改向,以及什么反馈会改变下一次判断。外包的是操作;不能外包的是让外部代理在必要时重新变成“工具”而不是“能力持有者”的那条关系结构。
第一,PSRC目前是一个理论—方法判据,不是已经完成心理计量验证的量表。四环节的编码一致性、不同领域的阈值、扰动难度与真实职业表现之间的预测效度,都需要实验研究。尤其“生差”可能依赖领域熟悉度,“改向”可能依赖组织权限,不能把系统不给权限误判为个人无能力。
第二,能力归属具有粒度依赖。同一个人可以保有“判断医学文献证据等级”的能力,却不保有“独立完成统计建模”的能力;也可以保有“调试软件架构”的能力,却把某个语言的语法细节完全外包。PSRC必须对具体任务边界下定义,不能用一次宏观测试宣布一个人“有/没有AI时代能力”。
第三,本章只讨论“把能力归到个人”这一评价问题,不否认分布式系统本身可能具有更高能力。在团队科学、航空、医疗、软件工程等领域,最安全的设计往往不是要求某个孤立个人可以全部接管,而是保证系统在节点故障时仍能通过团队、工具和制度复闭环。个体PSRC与系统韧性应当分别测量。
第四,认识论外在主义仍构成真实挑战。如果一个人长期依赖一个极其可靠、透明且受制度审计的AI系统,即使他个人无法在代理失效时接管,我们是否仍可说他“知道”?本章的回答是:可以讨论他是否在制度性意义上获得知识,但不能据此自动把相应“任务能力”归属于他。知识归属与能力归属可能需要分开,这正是未来与社会认识论进一步对话的方向。
第五,本章的新意主张应保持克制。Andrada与Carter关于mind-technology与know-how的近期讨论已经直接触及技术如何改变能力归属;自动化、人机交互、扩展心智、认知卸载和AI批判性思维也分别占据了大片相邻空间。本章能够主张的不是“第一次发现外部技术会影响人的能力”,而是提出一个跨三领域、面向生成式AI知识工作的可裁决最小归属结构,并把判定位置从正常表现迁移到代理失效后的复闭环。这个主张仍需要更系统的站外文献检索与实证比较。
当AI已经能够替人完成越来越多任务时,最容易犯的错误有两个。一个错误是守着旧技能清单,认为凡是机器能做的,人就必须继续手工练到同样熟练,否则“能力退化”;另一个错误是只看最终结果,认为只要人借AI持续得到正确答案,他就已经拥有了对应能力。前者把工具进步当敌人,后者把代理绩效当成人的能力。
本章的跨学科对撞给出第三种答案。认知神经科学告诉我们,人至少要保留能生成独立预期的内部模型,否则错误不会在自己这一侧发生;控制科学告诉我们,能看见异常还不够,人必须拥有把任务带回有效区间的异源改向路径;认识论告诉我们,正确结果还必须摆脱偶然并成为可由主体修订的认知承诺。三者合起来,使“能力”的最低单位从动作库存变成了一个可在代理失效时重建的闭环。
因此,一项任务能被AI高质量完成,不意味着完成该任务所需的人类能力可以取消;它只意味着能力不再需要以“亲手完成全部操作”的形式存在。一个人可以把大量检索、生成、计算和表达外包出去,只要在关键扰动来临时,他仍能让异常显形、对冲突作出有理由的区分、改变任务方向,并把结果写回自己的下一轮判断。到达这个最低条件之后,工具越强,人的操作可以越少;低于这个条件之后,结果越好,反而越可能掩盖能力已经迁移到外部代理。
AI时代真正值得教育、组织与个人保护的,因而不是一张“机器永远替代不了的人类技能清单”。那张清单会不断缩短。真正不可外包的是一个更小、却更稳定的东西:当代理不再可靠时,主体仍有能力把判断—行动—反馈的闭环重新收回来。
附录A|敌意拓宽检索词与命名闸记录
为避免把“同一想法换名”误作创新,本章使用以下形式层检索词(中英文混合)进行敌意拓宽,并对候选名进行精确短语搜索。这里只记录足以复核检索方向的词,不把“未命中”解释为绝对无人提出。
“correct performance does not imply competence” / “AI assisted performance human skill retention”
“out of the loop takeover competence automation failure” / “human takeover after automation failure”
“ability attribution technology know-how” / “mind technology problem know how”
“cognitive offloading skill retention internal model” / “Google effects memory external memory”
“epistemic agency AI belief revision” / “appropriate reliance AI advice”
“capability ownership human AI delegation” / “ability attribution distributed cognition”
候选命名精确检索:“proxy-severed reclosure” / “proxy severance criterion” / “reclosure competence” / “capability attribution cut”
自家语料检索:“外部代理 主控 接管 能力”“正确答案 能力 代理”“AI 能力 归属”
命名处理:检索发现“recoverable agency”“takeover competence”“recovery loop”等已有大量占位,因此本章不采用这些名称。最终使用“断代理复闭环判据/Proxy-Severance Reclosure Criterion”作为工作名。该名称的原创性仅限于本章检索范围,不作“全球首次命名”的绝对声明。
附录B|真跑编码规则(单一口径)
编码对象:Wu et al. (2025)四项公开实验的“AI协作后的后续人类独立任务”。编码阈值全文仅用一套:若Collab-Solo组在后续任务至少一个核心质量维度显著优于Solo-Solo,且不存在核心维度显著变差,记1;否则记0。Study 1=1;Study 2=0;Study 3=0;Study 4=0。该编码只用于否定“即时AI增强足以推出稳定个人增强”,不用于估计AI对能力的因果损伤率。
| 来源 | S/D/E落位 | 核心材料 | 单独够用时的直觉 |
|---|---|---|---|
| 认知神经科学 | S:主体内部留下了什么 | 内部模型、预测、误差信号、元记忆与认知卸载 | 只要保留足够内部模型,外部工具可被视为资源扩展 |
| 控制科学 | D:主体能怎样改变过程 | 状态估计、可观测性、可控性、监督控制、故障接管 | 只要操作者能在关键时刻重获控制,平时可高度自动化 |
| 认识论 | E:什么条件让结果算“主体知道/会” | 理由、可靠过程、反运气、认知功劳与主体性 | 正确结果必须具有可归属于主体的认识论地位 |
| 维度 | 单维凭证 | 为什么会失败 |
|---|---|---|
| S:内部模型 | “脑中还有足够表征,就算会” | 内部模型可存在但过时;人可能知道规则却无法在时间压力下接管;表征本身不保证行动与责任。 |
| D:功能控制 | “故障时能把系统带回来,就算会” | 接管可以依赖他人或第二个黑箱;功能恢复不保证理由属于主体,也不保证下一轮能识别同类错误。 |
| E:认识论资格 | “有可靠理由/可靠过程,就算会” | 可靠过程可能主要位于外部代理;一个人可能在环境稳定时可靠,却对代理失效毫无诊断与干预能力。 |
| 环节 | 操作定义 | 主要母体 | 最低要求 |
|---|---|---|---|
| 1. 生差(Generate discrepancy) | 主体先于纠错标签生成一个任务相关预期/约束,使AI输出能够以“偏差”显现。 | 认知神经科学:内部模型与预测误差 | 不是记完整答案;是能让某类错误对自己显形。 |
| 2. 裁差(Discriminate) | 主体用非同源理由、测试、证据或约束在至少两个竞争解释/答案间作出有方向的区分。 | 认识论:反运气、理由与认知归属 | 不要求完整口头证明;要求选择会随证据变化。 |
| 3. 改向(Intervene) | 主体选择并执行至少一条能改变任务状态的异源控制路径,使系统朝目标区间移动。 | 控制科学:可控性与接管 | 只会“关掉AI”而任务瘫痪,不算完整接管。 |
| 4. 回写(Update) | 主体依据干预反馈改变下一轮检查规则、内部模型或代理使用策略。 | 学习/认识论主体性 | 错误被系统修掉但人的下一轮不变,不算能力增长。 |
| 位置 | 名称 | 典型表现 | 判定 |
|---|---|---|---|
| 低异常辨识 × 低改向 | 代理依附绩效 | AI正常时可高分;错误不显形;关闭AI后无替代路径。 | 不归属主体 |
| 高异常辨识 × 低改向 | 审计型无力 | 能说“不对”,能指出冲突,却只能把问题继续交回同一代理。 | 保有局部审计能力,不等于任务能力 |
| 低异常辨识 × 高改向 | 程序型接管 | 会按手册/流程操作,但不知道什么时候该接、为什么接;易在错误时机干预。 | 保有操作能力,不足以认证判断能力 |
| 高异常辨识 × 高改向 | 复闭环候选 | 能发现、区分并改变任务状态;若干预后还能回写下一轮规则,则能力归属主体。 | 靶格:须再过“回写门” |
| 方向 | 占位者 | 它已经说了什么 | 本章仍需补的最后一步 |
|---|---|---|---|
| 经典层 | Gettier (1963) | 正确/有理由仍可能因运气而非知识。 | 占据“正确≠知道”;但不处理人机任务分配、故障接管和能力归属。 |
| 经典层 | Sheridan & Verplank (1978) | 人—计算机监督控制与自动化层级。 | 占据“任务可分配/人可监督”;但不建立知识能力的归属判据。 |
| 经典层 | Goldman (1979) | 可靠过程可赋予正当性,不要求完全内省理由。 | 直接阻止本章把“能口头解释全部理由”误作最低条件。 |
| 应用内部 | Endsley & Kiris (1995) | 自动化使操作者在故障后出现脱离回路接管问题。 | 最危险工程近邻;但研究对象是自动化接管表现,不是跨知识任务的能力归属。 |
| 应用内部 | Lee et al. (2025, CHI) | GenAI使批判性思维转向核验、整合与任务监管;高AI信心与较少批判性思维相关。 | 占据“AI时代人的工作转向核验”;但主要是自报告实践,不给能力最低认证规则。 |
| 应用内部 | Wu et al. (2025) | AI协作提升即时表现,但总体未产生稳定的后续单独任务增强。 | 占据“即时绩效≠持久个人增益”;是本章真跑数据来源,但未回答能力归属的必要充分条件。 |
| 认识论新近邻 | Andrada & Carter (2025) | 直接讨论技术介入给know-how/ability attribution带来的问题。 | 最危险哲学近邻;迫使本章把新意限定到“断代理复闭环”的可操作归属测试。 |
| 自家已发 | “实质主控”(成瘾论文) | 可见、可理解、可操作、可验证/交还;外部控制撤除后本人能否接回。 | 它判断控制权是否实质属于用户;本章进一步判断“任务能力”是否属于人,即使按钮和权限全在也可能不过PSRC。 |
| 自家已发 | “消化性裁决”(饮食论文) | 外部最优解可能短路悬停—介入—投掷—收割,使裁决能力闲置。 | 它强调某些裁决过程必须亲自发生;本章更宽:日常操作可以大量代理,只要求扰动时能复闭环。 |
| 公开研究 | 代理在线时 | 撤除代理后的独立任务 | 本章机械编码 |
|---|---|---|---|
| Study 1 | 即时AI协作改善输出质量 | 后续创意质量小幅提高,但数量无差异 | 1(部分持续) |
| Study 2 | 即时AI协作增强 | 后续数量、创新性、实用性均无显著差异 | 0 |
| Study 3 | 即时AI协作增强 | 后续数量、创新性、实用性均无显著差异 | 0 |
| Study 4 | AI协作显著提高文本长度/分析性/积极语调等即时指标 | 后续分析性与积极语调无差异,Collab-Solo文本长度反而略短 | 0 |
| 预测 | 本章押注 | 判伪条件 |
|---|---|---|
| P1 断面预测 | 在AI辅助绩效相同的两人中,PSRC高者应在未预告代理错误下更快自主发现异常,并以更少同源追问完成修正。 | 若PSRC分数控制领域知识后不预测任何故障恢复指标,判据失去增量效度。 |
| P2 训练预测 | “先做独立预测→再看AI→强制解释差异→间歇故障演练”训练,应比只练提示词在复闭环上提升更多,即使两组平时AI绩效相近。 | 若只练提示词同样提升代理扰动下的生差、裁差、改向、回写,则本章关于内部闭环训练的机制过强。 |
| P3 工具允许预测 | 允许使用第二证据源/第二工具的扰动测试,应比彻底禁用所有工具更能预测真实工作中的故障处理。 | 若纯闭卷成绩稳定优于PSRC任务预测真实接管,本章“局部断面优于全撤工具”的主张失败。 |
| P4 更新预测 | 一次成功纠错后,真正保有能力者在结构同类新任务中的异常发现应提前或策略应改变。 | 若后续行为完全不变却仍持续高质量处理同类故障,本章把“回写”设为必要条件需要删除或降级。 |
本章属于理论与方法研究,不直接招募研究参与者,不使用可识别的真实个案资料。公开数据压力测试仅使用已发表论文中公开报告的汇总统计与作者结论,不重新接触参与者层面数据。本章由作者提出研究问题、碰撞学科与发表场景;生成式人工智能参与公开文献检索、敌意拓宽、理论结构推演、公开数据的机械编码与文档排版。所有事实、引文、规范判断、原创性主张与最终发表责任应由最终署名作者复核并承担。
特别说明:本章对“断代理复闭环判据”的新颖性主张是检索范围内的工作性主张,而非对全球文献的穷尽证明。已有mind-technology、know-how、out-of-the-loop、appropriate reliance、cognitive offloading、critical thinking与distributed cognition研究构成实质近邻;正式投稿前建议再次使用Web of Science/Scopus/PhilPapers/ACM Digital Library进行系统占位检索。