← 专著首页目录专著栏目

第三十五章 四个反驳与回应

反驳一:问题不在 AI,在用法。只要学生用得对,这些后果都不会发生。

这条反驳在字面上是对的,本书的读数面板正是用来刻画”用法”的:ρ 与 k 就是用法的量化形式。但把结论停在”要用得对”上,会漏掉三件事。

其一,默认值落在错误一侧。对话系统的默认行为是给出答案,不是扣住答案。要让它扣住,必须由使用者主动、反复地施加约束,而每一次约束都要付出即时的成本(更慢、更累、更不舒服),换取一个延迟的、不可见的收益。这是行为设计上最难成立的一种交换。把系统性的后果归因于个人用法,等于把一个设计问题改写成一个自律问题。

其二,正确用法的判据本身需要能力。学生要判断自己用得对不对,需要知道”这一步我是不是本该自己想”。而这恰恰是尚未具备的判断。这里有一个自举困难:正确使用 AI 学习所需要的能力,正是使用 AI 学习本应培养的那种能力。先有的人用得好,会因此更好;没有的人用不好,会因此更差。第四十二章把这一点列为未处理的个体差异问题,但它本身已经足以说明”靠用法解决”不是一条可推广的路。

其三,反馈信号缺失。用得对不对,唯一的检验是撤机后的延迟表现,而这个信号迟到几周、混杂大量其他因素、并且与当下的流畅感反向。在一个反馈如此微弱且方向相反的环境里,靠使用者自我校准形成正确用法,不是一个现实的假设。

反驳二:那就改考试,把读数也取在”学生—AI”复合体上,单位错位不就消失了?

单位错位确实消失,但第六章的互斥不消失,而且会出现三个新问题。

第一,配置不可登记。要让复合体读数具有可比性,必须固定配置。车可以登记车型,AI 不能:起作用的部分不只是模型版本,还包括提示方式、追问习惯、何时接受何时推翻——而这些本身就是被评估的能力的一部分。把它们固定下来,就把要测的东西测掉了;不固定,读数就不可比。

第二,可比性与选拔功能。考试在现行制度中承担分配功能(升学、资格、岗位)。分配要求排序,排序要求可比。复合体读数在配置不可登记的条件下不可比,因此改考试并不能直接接管选拔功能——它需要一整套新的登记制度,而这套制度目前不存在,也没有人在建。

第三,也是最重要的:改考试不触及第七章。即使评估全面迁往复合单位,“验收位依赖生成位”这个问题依然在原地。如果依赖为真,那么一个从未独立生成过的人,在复合体中占据的位置会持续退化到只能确认流畅性——而复合体的读数在短期内看不出这种退化,因为 AI 会把它补上。复合体读数对这种退化是盲的。这是改考试方案最深的一处风险:它解决了测量的一致性,代价是取消了唯一能发现退化的那个读数。

反驳三:AI 会继续变好,护栏会解决问题。

现有的最好证据恰恰指向相反的方向。加装了学习护栏的那一臂,把撤机考的结果从负改成了零——没有把它改成正。而带护栏的大规模试验在一周后的延迟测上,学习证据依旧微弱。

更根本的是护栏的作用机理。护栏所做的事,正是降低代走率、提高否决显影度——即把 AI 往”少给答案、多留岔口”的方向拧。这意味着护栏不是 AI 能力提升的自然产物,而是对 AI 能力的主动约束。因此”AI 变强会解决问题”这条推理是反向的:AI 越强,代走越容易、越彻底、越令人满意,而约束它的相对成本越高、越反直觉、越难在产品竞争中存活。一个以用户满意度为优化目标的系统,会系统性地朝着 k→0 的方向演化,因为清晰、简洁、一步到位的输出正是用户即时评价最高的输出(第九章)。

反驳四:那就干脆废掉考试,这些问题自然消失。

本书不反对废考,第一、二编的论证也不构成保留考试的理由。但废考并不解除本书的问题,只是把它从测量层移到能力层:即使没有任何考试,“一个从未独立生成过下一步的人能否有效验收”这个问题依然存在,而且后果更大。考试只是这个问题目前唯一的、粗糙的报警装置。拆掉报警器不等于解决火情。

所以四条反驳的处理方式是一致的:它们都能改变本书结论的表述,没有一条能改变本书结论的依赖结构——全部压力最终都落到第七章那一条上,而那一条要靠第三十九章的实验来定。

© 德麦国际出版社 · 王德生《AI 时代教育的认知变革》· ISBN 979-8-90690-096-8