第39章
第三十九章 新工具也可能制造新的旧石器
一 封装过程,与封装目的,不是一回事
一个工具可以把复杂过程组织成方便调用的能力,也可以把某种目的藏在调用方式之中。前一种封装使使用者不必每次重造内部条件,后一种封装则可能使使用者不再看见:为什么要做这件事,为什么这样衡量成功,还有没有其他值得追求的方向。两者常常同时存在,却不能被同样评价。
设想一个写作系统,它自动把任务组织为增加篇幅、提高完成速度与强化表达说服力。如果作者的目标本来是探索一个尚不清楚的问题,这些默认方向未必适合。系统可以把文章写得越来越完整,同时让原本值得停留的矛盾更快被填平。过程更加顺滑,不等于认识更加充分;目标若没有被讨论,效率可能只是更快离开真正的问题。
又设想一种教育系统,总是把学习活动转化为可以即时评分的任务。它也许便于提供反馈,但某些难以立即评价的活动,例如重新提出问题、经历困惑或形成独特表达,可能逐渐退到边缘。这不是说即时评价没有价值,而是说一个方便测量的目标,不能自动取得支配全部教育的地位。
因此,成熟封装需要区分两类边界。任务边界说明工具可以承接什么;目的边界说明这项活动为什么值得进行,以及何时应当改换目标。前者可以通过技术检验得到部分回答,后者还涉及人的生活、共同价值与具体处境。不能让一个技术系统因为善于执行,便自动获得规定目的的资格。
但目的也不是永远由人先完整想好,再交给工具执行。一个人在互动中可能改变原来的愿望,发现此前没有注意的价值,甚至意识到自己一直追求的是别人替他规定的标准。工具可以参与这种发生。问题不在工具是否影响目的,而在这种影响能否被看见、讨论和修订,是否保留相应的主体参与。
这使人机关系不能被简化为人给目标、机器给方法。目标与方法常常相互改变。某种方法第一次使一个目标变得可行,某个失败又可能说明目标本身含混。真正需要保护的,是这种往返不被封死,而不是把某一方永久指定为目的的唯一来源。
对于研究而言,目的封装尤其容易藏在成果形式中。学术制度规定什么可以发表、什么可以计数、什么能够获得资源,研究者便可能把这些形式当成研究本身的目标。AI若只是使这些形式生产得更快,就可能放大旧内卷。新工具并未打开问题世界,而是更有效地执行已经冻结的成功标准。
这里可以提出一个简单的逻辑判断:若指标只是目标的部分表现,提高指标并不必然提高目标。研究中增加可发表文本,未必增加有效知识;教学中提高某种题型熟练度,未必提高相邻任务中的理解。这个判断不需要假定使用者故意作弊。只要资源有限、指标受到奖励,诚实劳动也可能逐渐集中在被看见的部分。
因而,新石器并不一定是一件落后的工具。它可能是一套极先进、极便利、极高产的系统,只是其目标结构不再允许受到质疑。人可以在内部选择无数答案,却不能改变为什么这些答案被认为有价值。这种自由具有范围,而范围本身被当作自然事实隐藏起来。
封装升级论若只关注内部过程由谁承担,便会漏掉这一危险。真正的升级还需要保留目的与标准的重开能力。不是要求每次行动都重新讨论一切价值,而是在关键冲突出现时,活动能够停下来,问原来的问题是否仍值得以原来的方式继续。工具应当支持这种停止,而不是把所有停顿都视为待消除的低效率。
二 便利怎样把一条路径变成唯一道路
一套流程最初之所以被采用,可能只是因为它方便。在反复使用后,材料、习惯、合作方式和评价标准都围绕它建立,改变路径的成本逐渐增加。此时,人们继续使用它,未必因为它仍然最适合,而可能因为其他可能性已经缺少条件。这是一种组织上的自我强化,不必依赖任何人公开禁止改变。
设想一个课题组把所有研究问题都整理成某个固定模板。起初,模板帮助减少遗漏,大家能够更快找到资料;后来,只有能够填入模板的问题才被认为清楚,无法顺利填写的异常被视为尚未成熟。若没有定期检验模板本身,原本用于组织思考的条件,便可能变成限制思考的边界。
模板并非天然有害。没有共同结构,协作也可能陷入混乱。关键是模板应当保留例外与修订机制,允许参与者说明某项重要问题为什么不符合现有分类。一个能够被改变的共同形式,可以支持创新;一个只能要求对象服从的共同形式,则可能把差异消除在进入研究之前。
生成式工具还可能使这种排除变得更加温和。它不直接拒绝用户,而是不断把陌生问题改写成自己熟悉的形式。用户得到的回答流畅、有条理、似乎充分回应,实际却失去了原先最独特的冲突。由于反馈令人满意,问题的损失反而不容易被发现。便利可以通过消除不适感,消除重新思考的契机。
因此,研究者需要有时保存尚未被整理好的原始问题。不是崇拜混乱,而是避免在证据尚不足时,让一种现成结构过早取得解释权。可以把原问题与系统改写并列,检查哪些差异被保留,哪些被替换,替换的理由是什么。这样的比较本身也是一种可封装的方法,但仍需随任务修订。
对于个人平台,长期一致性也具有双重作用。系统熟悉用户的理论与偏好,可以减少重复说明;但若每次都沿既有立场补充支持,它可能使用户越来越难遇到真正的反对。一个没有冲突的认知环境,表面上高度个性化,实际上可能只是在稳定旧主体,而不是支持新主体发生。
反对材料的引入也不能只做成角色表演。让一个模型扮演反方,不保证它提出了真正有力的异议;生成十条“批判意见”,也可能只是可轻易回答的弱问题。应当尽量联系原始资料、真实近邻与独立检验,使反对能够改变当前方案,而不是证明作者早已考虑周全。异议的价值在于造成实质差异,不在数量。
路径依赖还会影响团队关系。最初设计流程的人可能逐渐拥有解释例外的权力,新参与者只能证明自己的材料符合旧格式。若提出修改意味着额外负担或被视为不合作,系统就会用组织压力保护自己。改善方式需要给流程修订留出资源,使改变不是每次都由提出者独自付出全部成本。
可以建立一种有限的重开安排:当同类异常反复出现,或新任务持续无法进入现有流程时,暂时停止把问题归为使用者失误,转而检查封装本身。这里不是以异常次数自动判定系统错误,而是让异常成为改变分析单位的信号。某些失败属于个人操作,某些失败则说明组织方式已经不适合。
封装升级因此包含一个看似矛盾的能力:既能够让成熟过程退到背景,又能够在需要时重新看见背景。没有前者,所有人不断返工;没有后者,所有人被默认路径带着走。文明不是在完全透明与完全封闭之间选择,而是建立适当的可见性转换,使新的问题能够重新照亮已经习惯的条件。
三 评价被自动化之后,谁还能改变评价?
评价工具能够处理大量材料,提供一致格式,并帮助发现某些遗漏。这些能力可能减轻重复劳动,但不能因此推断它自动拥有决定研究价值的正当性。评价包含事实判断,也包含任务选择、价值权重与制度后果。把其中可自动化的部分做成工具,不等于其余部分已经得到解决。
设想一个系统依据既有优秀论文建立评分方式。若它善于识别熟悉结构,可能帮助筛查明显不完整的论证;但真正改变问题形式的作品,恰好可能偏离这些结构。系统得分低,是需要进一步理解的信号,而不是无需解释的终局。即使人工评价者也会保守,这一事实不能替自动标准免除检验。
更危险的情况,是评价结果重新进入训练与资源分配。被高分认可的作品获得更多机会,更多相似作品进入材料,下一轮评价更熟悉这类形式。这个循环可以在没有明确恶意的情况下收窄知识样态。这里描述的是一种可能机制,是否发生、强度多大,需要检查实际系统与制度安排。
因此,评价自动化应当保留几个独立层面:材料是否满足明确的形式条件,论证是否具有可检查依据,研究对问题有什么贡献,以及是否应当获得某种资格或资源。不同层面的判断可以相互支持,却不宜被一个难以解释的总分一次完成。尤其是后果重大的决定,需要能够说明根据和争议处理方式。
所谓人工复核,也不应只是让一个人在系统结果后签名。如果复核者没有时间、材料或改变决定的实际权限,人在场只是一种形式。有效复核需要与风险相适应的组织条件,并允许结果真正被改变。把所有责任交给最后点击确认的人,既不能保证公正,也可能成为新型返工与责任转移。
同时,不能要求人工复核者重新完成机器已经可靠处理的全部部分。这样会使自动化失去意义,并把注意力耗在低收益重演上。更合理的安排,是针对不确定、异常和后果重要的环节组织检查,保留抽样检验与系统级评估,并明确何时需要扩大复核范围。具体策略必须按任务验证,而不是由一句“人必须把关”代替。
对被评价者,必要的是能够理解所适用的标准,并有机会提供相关证据或指出错误。标准未必需要公开全部系统内部参数,但必须足以支持有意义的回应。若一个人只被告知“综合判断不符合要求”,无论判断来自人还是机器,都难以形成有效的成长与纠错路径。
评价标准本身也应定期接受评价。它是否预测了后续研究表现,是否系统性忽略某类贡献,是否把资源差异误认成能力差异,是否制造大量没有收益的适应劳动?这些问题需要长期证据。一个标准曾经有效,不等于永远有效;一个新标准形式先进,也不等于比旧标准更准确。
本书关于四项认证的区分,同样不能自动变成四张僵硬表格。若机构只要求填满成果、贡献、能力与持续发生四栏,却不检查其中证据,形式就会重新占据中心。方法的意义在于帮助辨认不同问题,而不是增加文件数量。能够删去没有实际用途的表格,也是制度成熟的一部分。
因此,评价工具的文明价值,不仅在于加快判断,还在于能否让判断的依据更适当、边界更清楚、修正更可行。自动化不应把原来可争论的尺度做成不可更改的天命。工具承担更多过程之后,人类社会更需要保留共同讨论目的与标准的空间,而不是把这种讨论误认成低效率。
四 SDE也必须防止成为新的封闭体系
一部批评旧认知封装的书,最容易犯的错误,是把自己的概念放到检验之外。只要活动成功,就说SDE发生了;只要活动失败,就说它不是真正的SDE;只要有人提出异议,就说他仍处于旧本体论。这样的解释方式能够保护理论,却不能增加认识。它使理论成为裁判所有结果、自己不进入比赛的位置。
本书必须明确拒绝这种保护。显露、差异运行与特征纠缠,是帮助研究活动提出问题的分析框架,不是使任何具体结论自动成立的印章。一段论证使用了三方程,不意味着因果机制已经被识别;一个流程标出六条路径,也不意味着这些路径真的在活动中运行。概念必须回到证据,不能用命名替代发生。
同样,“高维”不能成为压制异议的词语。一个批评者指出具体反例,不能因为他没有采用本书术语就被排除;一个支持者提出宏大叙述,也不能因为语言契合就被认作深刻。真正的差异要看问题有没有被解释,条件有没有被辨认,新的主张是否接受相应检验。理论共同体应当奖励有效反对,而不是只奖励忠实复述。
对于封装论,还要特别防止循环定义。若先把成功的工具使用定义为升级,再宣布所有正确使用工具都会升级,结论只是重复定义。研究需要在观察结果之前说明哪些组织条件应当产生哪些变化,并允许结果与预期不一致。即使无法完成严格实验,也应清楚区分事后解释与事前预测的证据强度。
关于“认知亏格”的诊断也应当如此。这个概念不是用来推断别人动机,更不是说所有不同意见都源于文明史无知。有人反对某次委托,可能有充分的可靠性依据;有人坚持某项训练,可能掌握我们尚未看到的形成证据。只有当旧操作被无条件设为新能力的唯一证明时,层级失认的批评才真正切中对象。
同样,“科研内卷”不能用来否定一切不产生即时创新的劳动。整理、复核、教学和维护可能需要重复,却具有不可替代的价值。判断是否是强制返工,应当看新增劳动与可靠性、迁移、知识发展之间的关系,而不是看它是否令人厌烦。理论若把自己不愿做的工作都命名为内卷,就失去了分析力量。
SDE的建设性价值,应当在具体转变中显露。例如,它能否帮助一个课题组发现原来被当作个人能力不足的问题,其实来自接口与评价条件;能否使一项只追求产量的工具安排转向新问题发生;能否帮助教育者区分培养条件与资格仪式。这些增量需要比较、案例和反例,而不是由理论完整性自我担保。
理论也应允许局部成立。有些任务可以通过封装扩大活动范围,有些任务暂时不行;有些理解可以由新路径形成,有些训练仍需保留;有些制度确实冻结颗粒度,另一些则在合理保护必要能力。承认这种差异,不是把理论削弱成没有主张的折中,而是让主张具有可以承担的范围。
本书自身的写作和出版,也应接受同样要求。篇幅完整不等于思想完成,引用丰富不等于论证成立,模型协助不等于主体已经升维。真正值得交付的,是能够被读者进入、检验、改写和继续研究的内容。若书中只有重复的口号,即使达到预定字数,也属于本书批评的新式文本内卷。
因此,最重要的开放不是在序言中写一句“欢迎批评”,而是在具体论证中留下反对能够进入的位置。哪里依赖假设,哪里只是思想实验,哪里尚缺经验支持,哪里借用了前人的框架,都应当尽量清楚。只有这样,读者才能不用先接受整个体系,就对其中一个命题提出有效问题。
判断新工具是否制造了新的旧石器,要看它如何对待自己的成立条件。成熟过程可以被直接调用,任务与价值前提却仍须保留重开的可能。一个只允许调用、不允许追问的系统,即使不断更新,也可能维持同一种认知保守。这项要求同样适用于本书:封装与升维不能成为免责名称。哪些结果会使我们承认方案失败,哪些反例会迫使理论改变,必须在检验之前说清,而不能等到失败之后再改写定义。