王德生、张琼 著 · 第398卷 · 修订版v3.0

← 第三十七章 判断智能体的工作结构第三十九章 本书如何接受检验 →

第三十八章 与邻近理论比较

一、比较不是为新概念安排一场必胜的比赛

一种新框架最容易获得的胜利,是把对手写得过于简单。若声称既有理论都把工具视为被动执行物,再宣布本书发现工具参与判断,就会省略许多已经存在的研究。这样的胜利不能构成知识增量,反而使自己的判断失真。

本章选择与当前问题直接相关的邻近研究,比较它们已经处理什么,本书准备增加什么,以及这些增加怎样接受检验。比较不追求覆盖全部思想史,也不把有限阅读写成已经穷尽所有文献。具体优先权需要更广的资料工作,不能仅靠一个新名称决定。

同时,相近并不意味着完全相同。两个框架都关注工具,可能采用不同分析单位、提出不同诊断问题、支持不同干预。需要在具体任务中比较,而不是只按词语相似度归并,也不能只按词语差异宣布原创。

本书对比较承担与其他判断相同的义务:准确显露对象,检查依据,允许对方的长处改变自己的表述,并使新增主张进入可检验的研究。理论竞争也应当是价值发生的过程,而不是让标准只对别人有效。

本书还需要区分解释性重述与干预性增量。把一个已知成功过程改写为S、D、E的关系,可以帮助整理经验,却不能仅凭这种重述宣称发现了新机制。更强的贡献,应当表现为原来没有区分的原因被区分、原来放错位置的反馈得到调整,或者某类新任务的判断方式因此改变。这些主张需要通过有对照的材料逐项检验。

同样,“判断力是复合能力”在本书中是分析起点,不是一张能够替所有具体系统颁发合格证的证明。一个理论可以合理改变研究单位,却仍然需要证明它对特定问题增加了什么。保留这一层次差别,既不必把发生学缩成一般工具使用论,也不必借本体论地位逃开经验比较。它使本书能够在保持中心母题的同时,对不同应用接受不同强度的检验。

二、与延展心智的联系及差别

Clark与Chalmers的《延展心智》讨论外部媒介在耦合认知系统中的构成作用,并反对仅以身体边界决定认知过程的范围。[R2] 因此,本书不能把“工具不只是外部帮助”当作无人提出过的起点。

本书更具体的任务,是研究判断怎样以价值评估与反馈的方式被组织,历史取舍怎样形成封装,以及封装怎样改变当前判断粒度。这些问题与外部构成相联系,却需要进一步的发生诊断和工程记录,不能由外部参与这一命题自动推出。

反过来,封装也不能替代关于构成关系的哲学论证。证明某个工具有用,并不足以决定应当把它算作认知系统的一部分。需要说明它在当前任务中的实际角色,以及这种系统边界是否增加解释与干预能力。

因此,二者的关系更适合被写成承接与具体化的研究,而不是整体胜负。本书若能在工具历史、价值失配与粒度转换上提出可区分的结果,就有进一步意义;若只换一种语言重复外部媒介重要,增量就仍然有限。

三、与分布式认知的联系及差别

Hutchins关于驾驶舱的研究把人员与技术装置组成的系统作为分析对象,关注表征怎样在其中传播与转换,而不只解释单个个体。[R8] 这一方向与本书反对把全部判断压回个人的立场具有明确邻近性。

在作者公开的另一篇论文中,设计选择如何改变信息流、进而影响整个驾驶舱的认知表现,成为具体研究问题。[R16] 这意味着既有研究不仅提出整体口号,也尝试把系统分析连接到设计。本书不能把工程改进全部归为自己新增的工作。

我们需要进一步提出的,是一种将价值评估、发生诊断、历史封装和使用者侧封装连接起来的工作结构。例如,同样的信息能够流通,是否已经形成适当价值判断?某个稳定分工怎样在条件变化后失效?新判断单位怎样在学习中发生?这些问题需要具体比较。

同时,不应把“分布”误读为固定零件的静态相加。既有系统研究可能已经涉及动态互动。本书的非加和性主张若要增加内容,就应当说明新的机制、可观察变化或更有效的修复,而不是仅以“发生”一词自我区分。

四、与信息隐藏和软件模块化的联系

Parnas关于模块分解的经典论文提出,以需要被隐藏的设计决定组织模块,而不只是按处理步骤切开程序。[R7] 这个思想使我们看到,成熟封装不是任意打包,而与责任边界和可改变部分的组织有关。

本书的封装概念范围更广,包括工具结构、熟练实践、知识模块和使用者形成的整体调用。但范围广本身不是优势。需要说明每种扩展保留了哪些共同机制,哪些差异使软件模块经验不能直接照搬。

例如,艺术形式的封装不能只用程序接口正确性判断;使用者心中的封装也不等于软件模块已经安装。它们涉及体验、学习和价值关系。若把所有这些都叫封装而不再区分,概念会失去辨别力。

因此,软件模块化既是资源,也是边界检验。它提醒我们说明承诺、变化与接口,本书则进一步追查历史取舍怎样进入当前实践,以及这种承接如何使判断者发生变化。比较应落实于这些差异,而不是争夺一个词的所有权。

五、与杜威的反思性探究相比较

杜威在《我们怎样思维》中把反思与对信念依据及后果的持续考察联系起来,并区分有承接关系的思考与零散念头的经过。[R12] 本书关于反馈、证据与下一轮改变的论述,不能假装与这类探究传统毫无联系。

在这一近邻面前,单纯说判断不只是结论、还包括过程,显然不足以构成新的理论贡献。本书需要将过程进一步落实为S、D、E互生、不同路径选择、价值发生截面及封装状态,并研究这种展开是否带来不同诊断。

同时,比较不能把杜威简化成一个固定五步法,再批评它不灵活。文本中的探究关系需要按原文理解,不能为了衬托六路径而把对方改写成僵硬程序。真正有意义的是比较两种描述怎样处理同一困难和修订。

例如,面对条件在摘要中丢失的问题,常规反思已经可以要求检查依据;SDE分析若进一步识别了具体接口、反馈位置和版本回写,其价值应由这些新增工作说明。若两者形成相同干预,就应承认重合,不必强造差别。

六、与系统工程验证的联系

系统工程区分产品是否满足规定要求,以及是否在预期使用中满足需要,并重视变更后的相应验证。[R9][R10] 本书的技术章节借助这些区分,不能把“检查系统而非只检查个人”宣布为工程领域尚未发现的方向。

SDE判断力研究准备增加的是:这些要求本身怎样发生,使用者怎样在可靠性反馈中形成封装,以及封装如何改变新的判断能力。工程验证可以支撑这一研究,但不能自动回答全部主体形成与价值提升的问题。

反过来,发生学也不能替代专业工程知识。知道应当检查E,不等于知道某个具体装置的允许误差;知道需要回写,不等于已经完成可靠的更新机制。领域参数与验证方法仍需要相应专业依据。

因此,二者不必竞争成为唯一框架。可以让工程方法承担具体检测,让发生学组织跨层级诊断,再比较是否减少遗漏、改善反馈和形成新能力。贡献需要在协作中显露,而不是靠抽象层级更高来宣布优越。

七、与形式验证的关系

形式验证能够对明确形式对象提供特定逻辑支持,其强处正是不能由流畅语言替代规则。此前章节已说明,生成、检查与语义对照有不同义务。[R3] 本书必须尊重这种分工,不能以价值发生学为由降低数学证明标准。

SDE框架主要研究这些检查怎样进入更大的研究活动:目标如何确定,缺口怎样反馈,模块怎样封装,研究者怎样从局部推导转向新的问题。它不在逻辑内核之外再创造一枚更高的“正确”标记。

第三十七章原型接受虚构的“二等于五”凭据,恰恰显示管理层不能冒充证明层。工作流程的一致性,不等于数学命题的有效性。比较理论时,也需要用这种具体失败约束夸大解释。

因此,本书与形式验证的恰当关系是互补而可检查的。若发生学组织让验证更容易被正确调用、让目标变更更容易显露,可以形成实际增量;若只给验证工具增加术语而没有改进,就不应宣称新能力已经产生。

八、与AI风险管理框架的联系

NIST的AI风险管理框架明确面向自愿使用,帮助把可信性考虑纳入AI系统的设计、开发、使用与评价。[R11] 本书不把它当作强制法律,也不借其名称为自己的系统提供合规认证。

这一类框架表明,AI评价已经涉及生命周期与多方影响,不能被概括为只看模型分数。本书的价值发生研究需要在这一背景下说明差异:它怎样诊断具体价值的形成与受损,怎样组织封装和新能力,而不是重复“要考虑全过程”。

与此同时,通用风险管理也不能直接决定每个数学命题或艺术作品的价值。不同任务需要不同证据,系统层治理与对象层判断要连接而不混同。SDE框架同样必须接受这一限制。

比较的目标不是让每一项工程都额外背负所有框架,而是选择能够解决当前问题的工具。若已有方法已经充分支撑某类任务,就没有必要为了理论展示而增加无用负担。判断方法本身也要评估成本与作用。

九、与拉图尔的“委托”和阿克里什的“脚本”相比较

拉图尔在多处讨论过自动闭门器、酒店钥匙上沉重的挂牌和减速带:原本需要门卫叮嘱、警察执勤才能维持的纪律,可以“委托”给物;减速带让司机为了保护自己的车而减速,守规矩不再依赖司机的道德。[R17][R37] 阿克里什从设计一侧描述同一现象:设计者把自己设想的使用者、使用情景和分工“写入”物件,形成脚本;真实使用者可以照脚本行事,也可以改写或拒绝它。[R18] 两者合起来,已经说出了“物承接人的纪律与设想,并参与规训行动”这一命题。

本书与此重合得很深。导论第二节把“以结构或规则继续参与当前任务的承接”称为工具中的封装判断;第十六章第九节说,一把工具或一个接口“已经决定了某些差异优先显露、某些操作容易完成”,使用者不重新判断这些选择,选择仍通过结构继续影响当前活动。后一句几乎就是脚本理论的转述。若只读这几处,“刀承接了判断”可以被看作委托理论在厨房里的一个例子。

切口在另一处。委托与脚本理论描述物怎样规训行动、使用者怎样回应脚本;它们不负责给出这个封装何时应当拆开、由谁拆开、拆开到哪一层、拆开后的结果回写到哪里。本书第十六章第四节要求每个封装写出〈任务、条件、过程、依据、重开规则〉,第二十章第六节要求拆封有相应的资源与权限;导论还要求封装放在两个时间尺度上研究:它在先前实践中怎样形成,在当前互动中怎样重新发挥作用。分析时还要追问一句:改变这个结构以后,哪一个判断会变。

用电饭煲的自动保温来看。设计者设想“饭煮好以后,人不一定马上吃”,于是让锅在煮好后自动转入保温,把“别让饭凉”这项纪律从人身上委托给锅。一位老人习惯早上七点煮饭,中午一点才吃,饭在保温档上放了六个小时,发黄、变干、锅底结硬。脚本理论会这样描述:使用者的作息偏离了设计者设想的使用情景,她可以改写脚本,比如煮好就拔插头,也可以拒绝它。这个描述准确,却停在“使用者怎样回应”。

本书在这一刻要回答的是:这个封装该不该拆,拆到哪一层。先问保温承接了什么取舍:它在“饭要热”和“饭要好吃”之间偏向前者,适用条件是短时间等待。重开规则可以写成:等待超过某个时长,保温就不再是这项取舍的合适承接者,应当改为放凉冷藏、吃前复热,或改用预约定时,让饭在开饭前才煮好。再问改变结构以后哪个判断会变:改用预约以后,“饭要热”这项判断从锅的保温档移到了时间安排上,老人要判断的不再是“什么时候拔插头”,而是“明天几点吃饭”。最后问拆封权在谁手里:老人能做的是局部拆封,即拔插头或改用预约;厂家能做的是结构拆封,比如给保温设一个时长上限。老人的不满有没有路径进入下一代产品的设定,决定这次差异是否回写到工具的形成史里。脚本理论把拔插头记作对脚本的一次改写;本书把它记作一次尚未回写的局部拆封,并要求说明回写的路径是否存在。

小区门禁是另一个例子,差别在这里更清楚。物业把“不让陌生人进来”这项纪律委托给刷卡门,门禁卡写入了“住户自己开门、访客由住户接应”的脚本。外卖员、快递员每天要进出几十次,于是总有人用一块砖把单元门撑开。拉图尔会说,被委托给门的纪律在这里被人重新收回;阿克里什会说,脚本遭到了改写。这些说法都对。本书要多问几件事。这块砖拆开的是门禁封装的哪一层?它拆开的不是“识别谁能进”的判断,而是“门在两次刷卡之间自动关上”这一项承接。拆封权在谁手里?撑砖的人自行拆封,没有任何授权,拆开的结果也不回写,第二天门禁照旧,砖也照旧。重开规则应当怎样写?如果物业看到“每天有固定时段大量外来配送”这一差异,就应当把封装拆到“访客由住户接应”这一层,改为设置配送专用时段或外卖柜,而不是加装更结实的闭门器。加装闭门器是加强脚本,设外卖柜是改写封装所承接的取舍;两者对应的是不同的判断。

这两个例子中,本书的分析都没有否认委托与脚本的描述,而是在其上增加了一张清单:被承接的取舍是什么,适用条件是什么,出现什么差异时重开,谁有权拆到哪一层,拆开的结果回写到哪里。委托与脚本理论擅长回答“物怎样让人这样做”,本书试图回答“这件物现在还该不该这样让人做”。后一个问题带有价值评估的性质,这也是本书把判断而不是行动作为分析对象的理由。

由此可以写出一条可检验的预测。拿一组日常设施的使用冲突案例,例如门禁被撑开、保温被拔掉、减速带旁被压出一条绕行的车辙,分别用委托与脚本的语言和本书的封装说明来分析,再交给物业、厂家或社区管理者,看哪一种分析更常导出“改写封装”而非“加强脚本”的方案,导出的方案在后续使用中又是否减少了同类冲突。若两种分析导出的方案没有可分辨的差别,本书在这里的增量就只是一套清单格式。

因此,两种理论在“该不该拆”这一刻给出的回答不同:委托与脚本理论描述已经发生的回应,本书给出拆封的条件、层级和权属。若委托与脚本研究已经在具体案例中系统地给出重开条件、拆封权的分配与回写路径,例如把使用者的改写分为“应进入下一版设计”和“只属个人习惯”两类并说明依据,那么本书的封装判断在这一点上并无增量,只是脚本概念的另一种说法。

十、与人机信任校准相比较

Lee与See把人对自动化的信任看作一种影响依赖的态度,并提出“适当依赖”的设计目标:信任应当与系统能力相校准;校准差有过度信任与信任不足两种;信任还应有足够的分辨率,能区分系统能力的不同水平,并具有具体性,落在具体功能和具体时段上,而不是笼统地信任整个系统。[R19] Parasuraman与Riley把人对自动化的使用分为使用、误用、弃用与滥用,误用对应过度依赖,弃用对应不去使用本来值得使用的自动化,滥用则指设计者不顾操作者的处境而推行自动化。[R20]

重合几乎是完整的。第十八章第五节写道:“第二种情况,技术侧已有相应支撑,使用者却因缺少经验或信息仍然逐次重审”,这就是信任不足与弃用;“第三种情况,使用者已经整体接受,技术侧却没有承接相应判断。这是过早封装的风险”,这就是过度信任与误用。第十八章第三节说“真实封装往往是局部和不均匀的”,对应校准理论的具体性要求;第二十八章第十一节说信任“不是持续上升的单向曲线”,也是校准文献早已讨论的动态校准。本书的四种组合,可以看作校准框架的一张二乘二表格。

切口在于分析对象。校准理论把信任与能力的匹配当作要达到的状态,测量的是某一时刻两者之差。本书把使用者心中的封装当作有发生史的对象:它怎样从逐次展开中形成,怎样从句子单位迁移到任务单位,在哪一粒度上成立,异常时谁有权拆开。校准关心“匹配了没有”,本书还关心“这个匹配是怎样到达的”。

Bainbridge的“自动化的反讽”使这个差别变得可检验。她指出,自动化越可靠,操作者越少有机会练习;监控一个很少出错的系统,注意本身难以维持;异常发生时,人需要接管的恰恰是最难自动化、而他又久未练习的部分。[R21] 这说明校准良好本身并不保证接管能力。本书的“判断者也在发生”在这里给出一个具体主张:封装的形成过程会留在使用者身上,影响他在异常时能做什么。

用开车导航来看。两位司机对同一款导航都校准良好:他们在熟悉的高速路段放手跟随,在复杂路口会多看一眼,信任程度与导航在各类路段上的实际表现大体相符。差别在形成过程。甲是一段一段放手的:先在自己熟悉的路上对照导航,发现它在哪类路口容易绕远,逐步形成“导航让我连续掉头两次,就停车自己看地图”这样的重开规则。乙一开始就听朋友说“这款导航除了老城区都很准”,直接在相同位置放了手,结果与甲一样,却没有经历过任何一次拆开。用静态的校准测量,两人无法区分。

校准理论当然可以回应说:甲的信任更有分辨率和具体性,因为他知道导航在哪类路口容易出错,乙只有笼统的信任。这个回应有分量,也说明本书的切口要说得更准确。分辨率和具体性描述的仍是信任的结构,即信任分布在哪些功能上;本书关心的是封装里有没有一条“何时拆开、拆开后做什么”的规则,以及这条规则是不是使用者自己在拆封中形成的。两个人的信任可以同样具体,乙也可以从朋友那里听来“老城区不准”这一条,但乙手里没有一条关于“导航开始出错时,我先做什么”的规则。前者是对系统能力的知识,后者是对自己接管动作的安排。

拆封权在这个例子里也有位置。导航软件可以设计成在偏航时只给出新路线,也可以设计成同时提示“本段道路信息可能过时”,把一部分拆封的线索交还给司机。前一种设计让拆封权留在软件一方,后一种设计把拆封的起点让给了人。Parasuraman与Riley所说的“滥用”,是设计者不顾操作者而推行自动化;本书在这一点上提出的是一个更窄的设计问题:自动化在出现异常线索时,有没有把拆封的入口留给使用者。

这里还要说明本书没有声称什么。本书没有说乙的信任是错的,也没有说听取他人经验形成封装是不好的做法;第十八章第十一节恰恰主张,经验应当能传递给后来者,使他们不必重走全部试错史。本书说的是:传递时若只传“可以放心”的结论而不传重开规则,后来者得到的封装就缺了一项,这一缺项在平常看不出来,只在异常时显露。

由此可以给出可检验的预测:当导航在一处两人都陌生的地区因临时封路给出错误路线时,甲发现异常更早,接管以后修改的位置也更准,因为他的封装带着自己形成的重开条件,乙的封装只带着一个结论。比较时要控制两人的驾龄和练习量,使差别只落在封装的形成路径上,这样才能与Bainbridge所说的“练习不足”分开。若在校准水平和练习量都匹配之后,封装的形成路径对异常接管的速度与准确性没有可检测的影响,本书在信任这一处就没有增量,第十八章应当改写为校准理论在AI使用中的一个应用。

十一、与默会知识和技能习得相比较

Polanyi提出“我们知道的多于我们能说出的”,并区分附带觉知与焦点觉知。他用盲人探路的手杖作例:初用手杖时,人感到的是杖柄压在掌心;熟练以后,注意落到杖尖触到的东西上,手杖本身退为附带觉知,仿佛成了身体的延伸。[R22] Dreyfus兄弟把技能习得描述为从新手、高级初学者、胜任、精通到专家的五个阶段;专家不再逐条按规则推理,而是直接看出情境该怎么办。[R23]

这两种理论在一点上互相支持:能力中有一部分不能被说成规则,熟练恰恰表现为不再依赖明说的规则。这对AI讨论有直接意义,因为许多关于“人机分工”的讨论默认人的能力可以被列成一张规则清单,再逐项决定交给谁。

本书与此几乎同构。第十八章第七节“当工具退出注意中心以后”所写的,就是手杖从焦点觉知退为附带觉知的过程:工具从被研究的对象,变成借以研究别的东西的条件。导论第二节说熟练“是一种选择性的展开与承接,而不是意识活动越多越好”,与Dreyfus所说专家不逐条推理也相去不远。第二十五章区分完成、熟练与能力边界的改变,同样可以在技能习得文献中找到相近的区分。

切口在于分析单位。默会知识和技能习得理论的重心是个人能力怎样内化:手杖被“住进”身体,规则被经验吸收。工具侧并非被忽略:Dreyfus在其他著作中借海德格尔讨论过工具损坏时从“上手”转为“在手”,即平时退入背景的工具在出故障时重新成为注意对象,这与本书的“拆封”相当接近。本书多出的是把工具侧的承接单独登记、单独更换并单独检验:换一把刀,换一版模型,是本书的基本分析动作,而且要求在不经过使用者之手的条件下复测这一项承接。

看一个判断不同的时刻。一位写作熟练的作者长期用某个AI模型整理参考文献,已经形成整体调用:他不再逐条核对格式,只在引文数量异常时翻看。某天服务方更新了模型版本,稿件中开始出现一类过去没有的错误,作者姓名的顺序被调换。技能习得理论的自然诊断落在人身上:环境变了,他的熟练需要在新条件下重新形成,专家暂时退回到需要规则的阶段。本书的诊断先落在工具侧:哪一项承接在新版本中变了?这一项能否不经过作者之手单独复测?如果拿同一组文献分别交给新旧两个版本,就能确认“姓名顺序”这一项承接发生了变化,那么修复应当是替换或补上这项承接,比如回退版本或加一道姓名格式检查,而不是要求作者重新训练自己的注意。作者的能力没有退化,退化的是复合体中可以单独指认的一项承接。

厨房里也有同样的局面。一位做了二十年饭的人,换了一口新买的不粘锅,第一次煎鱼就粘了锅底。按技能习得的语言,她的煎鱼技能在新工具上需要重新调适;按Polanyi的语言,新锅还没有退入附带觉知,她的注意被拉回到锅本身。这些都对。本书多问的是:旧锅里承接了什么?可能是铁锅在长期使用中形成的油膜,承接了“鱼皮不粘”这一项取舍;她的熟练里包含“热锅冷油、鱼下锅后先别动”的动作安排,而这套安排正是与那层油膜配合形成的。新锅的涂层承接同一项取舍的方式不同,需要的火候也不同。于是诊断有两种走向:要么调整她的动作,要么承认这口锅不适合大火煎鱼,把这项任务留给旧锅。前一种走向是技能习得理论自然会给出的,后一种走向需要先把锅当作一个可以单独评价、单独更换的承接者。

这一区分还有一个后果:同一个人可以在复合体中仍是专家,而复合体整体却退回到新手状态。Dreyfus的阶段描述的是个人,难以表达这种局面。在AI工作流中,这种局面会越来越常见,因为工具侧的更换频率远高于人的熟练形成速度。一个人可能刚刚与某一版模型形成了专家式的配合,模型就换了。如果每次都把问题记在人的熟练上,人会被要求不停地重新学习;如果能先检验工具侧哪一项承接变了,许多更换可以只在工具侧处理。

可裁决的说法是:对同一批工具更换事件,分别按“人的熟练退化”与“工具承接改变”两种诊断安排修复,比较恢复到原有表现所需的时间和人的额外练习量。若两种安排的结果没有差别,本书这一切口就没有实际用处。若默会知识或技能习得研究已经把工具侧的承接当作可以单独检验、单独替换的单位,并区分“人的熟练退化”与“工具承接改变”两种诊断,本书在这一点上并无增量。

十二、与认识依赖相比较

Hardwig在《认识依赖》中论证:外行在许多问题上没有能力核对专家的理由,此时理性的做法恰恰是相信专家;在现代研究中,专家彼此之间也以同样方式相互依赖,没有人能独自核对一项大型合作研究的全部环节。依赖不是理性的缺陷,而是理性在分工社会中的存在方式。[R24]

Hardwig的论证有一个容易被忽略的锋芒:他不仅说外行依赖专家是合理的,还说在许多情况下,坚持自己核对反而是不理性的,因为外行的核对比专家的判断更不可靠。这一点对AI时代的讨论很重要。常见的劝告是“AI说的话要自己核实”,但若使用者没有核实的能力,这条劝告可能把他推向更差的判断。

本书在立场上与此一致。第十八章第九节的标题就是“依赖不是原罪,无法改变的依赖才需要特别检查”;第十六章第十一节说,一个人遇到异常后能够调用专业复核,而不必独自重建全部技术,“仍然可以保有有意义的判断参与”。这两处都可以直接引Hardwig作为先行论证。本书不是第一个为依赖辩护的理论。本书对“要自己核实”这类劝告的保留,也与Hardwig的锋芒一致:核实应当落在使用者有能力完成的那一层,而不是笼统地要求他核实一切。

切口有两处。第一,Hardwig处理的是人对人的依赖,依赖的合理性落在专家的能力与诚实上;本书处理的是人对封装的依赖,封装可以是工具、流程、模型或它们的组合,没有品格可供信赖,只有承接范围与依据。第二,本书多出“粒度”和“重开规则”两项:依赖不是全有或全无,而是在某一粒度上依赖、在另一粒度上保留核查,并且事先说清楚出现什么差异时回到哪一层。

看病是一个日常例子。张阿姨拿到体检报告,血脂一栏有个向上的箭头。她看不懂,于是问医生,这是Hardwig意义上的理性依赖。现在她手机上多了一个AI报告解读工具,它说“轻度升高,注意饮食即可,无需担心”;而医生结合她的家族史,建议三个月后复查。在Hardwig的框架里,这一刻的问题是:两个来源说法不同,她应当更相信谁?于是比较二者的可信度。

本书给出不同的回答:二者不在同一粒度上,冲突不是“信谁”的问题。把读数与参考范围对照,判断它是否超出、超出多少,这一粒度可以整体交给工具;“要不要复查、要不要用药”属于风险评估,需要家族史、既往病史等工具没有拿到的信息,这一粒度应当保留给医生;“今年比去年变化了多少”,张阿姨自己就能保留,只要把两年的报告放在一起看。工具说“无需担心”,已经越出了它所承接的粒度。重开规则可以写成:工具的结论一旦从读数层进入处理建议层,就回到医生那里。按这个安排,张阿姨不必在两个来源之间做可信度比赛,而是知道每个来源在哪一层说话。

这个例子还显露了人对人依赖与人对封装依赖的另一处差别。Hardwig的论证中,专家的可信度可以从资历、同行评价和过去的记录中得到间接支持;外行依赖的是一个人的整体。AI报告解读工具没有资历可言,它的可靠性只在特定任务、特定输入上成立,在读数对照上可能很准,在风险评估上可能完全没有依据。把对人的整体信任搬到工具上,正是第十八章所说“依赖范围被悄悄扩大”的一种形式。本书要求的是先拆开工具承接的粒度,再逐层决定依赖与否。

反过来,本书也从Hardwig那里接受一条重要约束:不能因为张阿姨无法核对医生的理由,就认定她的依赖不理性。本书说她在读数层可以自己保留,并不是要求外行在每一层都去核查,而是要求依赖的安排把能够保留的一层留在她手里。Hardwig说明依赖可以是理性的;本书补充说明,理性的依赖应当带有粒度划分和回到上一层的规则。

可以检验的是:给一组普通人同时提供AI解读和医生意见,一组按“信谁”的问题来引导,另一组按粒度划分来引导,比较两组在两个来源冲突时的处理是否不同,例如是否更少因为工具说“无需担心”而放弃复查。若两种引导没有差别,粒度这一项在这里就没有带来实际变化。

若认识依赖的研究已经发展出按粒度分配依赖、并为每一粒度规定重开条件的说明,本书在这一点上并无增量,只是把Hardwig的论证搬到了人机情境中。

十三、与拉卡托斯《证明与反驳》相比较

拉卡托斯在《证明与反驳》中,以欧拉多面体公式的反例史为主线,展示证明、反例与概念怎样一起变化:面对反例,有人排除“怪物”,有人缩小定理范围,也有人把证明中隐藏的引理找出来并入定理的条件;由此生成的新概念,他称为“证明生成的概念”。该书附录专门讨论了柯西关于收敛的连续函数级数之和仍连续的论断,以及塞德尔怎样从证明的缺口中引出后来被称为一致收敛的条件。[R25]

这部书对本书的意义,首先在于它把“错误猜想”看作知识增长的发动机,而不是需要尽快清除的失误。第二十九章的标题“错误猜想如何开启新路线”,几乎就是拉卡托斯立场的一个摘要;该章所说“原目标没有被证明,它被否定后生成了新的研究路线”,也是拉卡托斯的论点。

这里要明确交代:第二十九章用的正是这一谱系。原目标“逐点收敛的连续函数列,其极限连续”,就是柯西1821年《分析教程》中论断的函数列形式;第二十九章第二节那份“看似合理的候选证明”,在量词处偷用了一个对整个邻域有效的统一控制,按现代读法对应塞德尔所找出的隐藏引理;第七节的修订命题“一致收敛保连续”,就是拉卡托斯所说由证明生成的概念进入定理的结果。这段思想史在第二十九章第一节末尾已有交代。

切口在于本书在拉卡托斯的逻辑之上多问了什么。拉卡托斯给出的是“证明—反驳—概念生成”的逻辑,叙述的是一个数学共同体在几十年间的辩证运动;在他的对话体重构中,命题的地位可以随争论自由移动,这种移动本身就是推动力。本书则把每一步的结果保存为不同身份:原命题、候选证明、反例、修订目标、已证的修订命题、关于必要性的再检验。本书进一步追问:当AI参与生成、转述和汇报时,这些身份怎样在传递中被悄悄升级。拉卡托斯的历史重构不需要处理这个问题,因为他的人物都在同一间教室里,彼此听得见。

设想一个AI为学生生成第二十九章的复习摘要,写成“连续函数列的极限是连续的(在适当条件下)”。括号里的“适当条件”把修订命题的身份抬成了原命题已证,又把一致收敛这个关键条件折成了一个模糊的修饰语。一位按拉卡托斯方式教学的老师,可能把这句话看作“引理并入”尚未完成的一个阶段,正好拿来引导学生追问:什么条件才算适当?这是很好的教学。本书的台账在同一时刻给出不同处理:标记“身份升级未经授权”,拒绝把这条摘要合入学习材料,直到它写明是一致收敛条件下的修订命题,并附上原命题已被x^n否定的记录。前者把模糊当作辩证的入口,后者把模糊当作传递中的失真。

拉卡托斯的框架里也有接近身份的东西。他区分了局部反例与全局反例:局部反例只打击证明中的某个引理,全局反例打击命题本身;他还描述了“排除怪物”“排除例外”等不同的应对策略。这些都可以看作身份区分的先声。本书与他的差别在于,他的区分服务于叙述数学知识怎样增长,本书的区分要服务于记录:每一项结果在被转述、被汇总、被传给下一个人或下一个系统时,身份标签要随之走,并且可以被核对。

一个日常类比能说明这种记录的必要。孩子做作业时问家长:“老师说这道题的方法对吗?”家长转述老师的话:“方法对,就是条件要加一句。”孩子再向同学转述时,往往只剩下“老师说方法对”。原来的“条件下成立”在两次转述中被升级成了“成立”。在拉卡托斯的教室里,这种失真会在下一轮讨论中被同学的反例纠正;在一条由几个AI摘要和若干人工转述串起来的流程里,未必有下一轮讨论。本书要求在每次转述时附上身份,正是为了不把纠正的希望寄托在下一轮讨论上。

由此可以写出一个可检验的问题:在含有AI转述环节的数学学习或研究流程中,比较带身份标签与不带身份标签两种记录方式,看修订命题被误写为原命题已证的频率是否不同。若没有差别,或者差别同样可以由要求“写明条件”这一普通做法取得,本书的身份分层在这里就只是一个更繁琐的名称。

两种处理各有用处。若拉卡托斯的方法论,或其后的数学实践研究,已经给出在多方转述中保存命题身份、阻止身份升级的规则,那么本书在这一处并无增量,第二十九章只是拉卡托斯附录的教学重述加上一套状态标签。

十四、与四色定理之争相比较

1977年,Appel与Haken发表四色定理的证明,其中关键一步依靠计算机检查大量构形,人无法逐一手算。[R27] Tymoczko据此论证:这个证明不能被人逐步审查,接受它,就意味着接受计算机运行的报告,数学证明中因此引入了经验成分,“证明”这一概念本身也随之改变。[R26] Gonthier与合作者在Coq证明助手中完成了四色定理的完整形式化,并于2008年撰文介绍,信任由此转移到一个规模较小、可以审查的逻辑内核,以及对定理陈述本身的形式化是否忠实。[R28]

这场争论之所以重要,在于它第一次把“谁在检查证明”变成了一个哲学问题。在此之前,证明被默认为可以由一位合格数学家从头读到尾;四色定理之后,至少有一部分证明的接受要依赖一台机器的运行。今天AI参与数学证明,这个问题又被推进一步:机器不只是执行检查,还参与生成证明。

本书第二十八章与这场争论直接相邻。第二十八章区分两个循环:“第一个循环围绕工具与流程的可靠性发生”,“第二个循环围绕当前证明”;第七节讨论检查器本身也有发生史;导论第五节用Lean说明证明构造与内核检查的分工。Gonthier式的解决,实际上已经把“信任这个检查器”与“接受这一次的结论”区分开来:前者由内核的审查史担保,后者由这一次证明项通过内核检查、陈述与原问题对应来担保。

本书的切口在于要求两个循环各有凭据,并且不互相冒充。检查器循环的凭据,是内核的审查记录、独立实现的比对和已知错误输入的测试;当前结论循环的凭据,是这一次具体通过了什么、形式陈述是否对应原问题。在Gonthier的情形中,第二项凭据非常强,两个循环几乎合并成一句“内核接受了它”。这里需要直说:若Gonthier式的内核信任已足以说明一切,本书在数学证明这一处并无增量,第二十八章只是用自己的术语复述了形式化数学已有的信任结构。

增量只可能出现在没有内核的领域。设想一家小店的店主用AI审一份店面租赁合同。这款工具过去审过上百份合同,表现一直不错,这是工具循环的凭据;这一次它给出的结论是“未发现不利条款”。在Tymoczko的视角下,接受这个结论,就是基于工具的可靠性记录作一次经验性的接受,只要记录够好,接受就是合理的。本书给出不同判断:可靠性记录只回答“这款工具是否值得继续使用”,不回答“这份合同是否没有不利条款”。合同审查没有一个可以逐项检查的小内核,当前结论的凭据只能另外要求,例如工具应列出每一条结论对应的原文位置,并说明哪些条款类型这次没有覆盖。拿不出这些,这一次的结论就应保存为“候选:未逐条对应原文”,店主可以凭它决定先问哪几条,却不应凭它签字。AI撰写的文献综述也是同样的结构:工具写过很多好综述,不等于这一篇的每条引文都存在、都说了综述所说的话。

Tymoczko的论证本身也提示了这一点。他担心的是,接受四色定理要依靠对一台机器的经验性信任,证明于是带上了实验的性质。Gonthier的回应是把这份经验性信任压缩到一个很小的地方:信任一个短小、可审查、被许多人反复检查过的内核,以及一份对定理陈述的形式表达。经验成分没有消失,但被安放在一个可以集中审查的位置。本书的两循环区分可以看作对这一安排的一般化:任何领域都要问,经验性的信任被安放在哪里,这个位置是否足够小、足够可审查,当前结论又在多大程度上可以脱离对工具的整体印象而单独得到凭据。

在没有内核的领域,这个问题的答案往往是:经验性信任散布在整个工具上,没有集中的安放点。正因为如此,当前结论必须另外取得凭据,而这些凭据只能是局部的:原文位置的对应、覆盖范围的声明、关键条款的抽查。它们达不到形式证明的强度,却可以让“这一次的结论”与“这款工具的名声”分开记账。

可检验的问题是:在合同审查或文献综述中,比较只报告结论与附带逐条原文对应、覆盖范围声明两种输出方式,看使用者在结论有误时的发现率是否不同,以及发现所需的时间。若附带凭据并不改变发现率,两循环的区分在无内核的领域就没有实际作用。

若能为文献综述或合同审查造出一个类似Coq内核的小型可审查核心,Gonthier的结构就可以原样移过去,本书的两循环区分在那里也只是这一结构的推广,增量仅在命名。

十五、与有限理性和满意化相比较

Simon在1955年的论文中指出,现实中的决策者无法列出全部备选方案、计算全部后果,因而不是在求最优,而是设定一个“满意”的抱负水平,找到达到这一水平的方案就停止搜索;抱负水平本身会随搜索的难易而上调或下调。[R29] 这一思想后来以“满意化”著称,是讨论有限资源下何时停止的基本参照。

满意化的意义在于,它把“停止”从理性的失败改写成理性的一部分:在资源有限时,不求最优而求足够好,并不是偷懒,而是合理。本书接受这一改写。第二十二章说灵活机制“不是临时凭感觉多看几眼”,本章“简便方法什么时候比完整展开更合适”一节说完整展开并不总比简便方法更合适,都建立在同一前提上:判断的资源有限,停止是判断的一部分。

本书讨论停止的地方与此直接相邻。第二十二章第八节说“机制需要停止条件,否则展开可能没有终点”;第二十八章第十三节讨论“什么时候可以停止一次检验”,并说预算可以决定本轮研究何时停下,却不能决定一个缺口何时被算作证明。这些都承认判断不可能无限展开,与有限理性的出发点一致。

切口在于停止的结构。满意化给出的是一个总的满意水平,即使它可以随搜索调整,停止也是对整个搜索而言的。本书的停止条件随层级与粒度切换:可以在某一层停下,在另一层继续;有些停止点在搜索开始时并不存在,只有展开到更细的粒度才出现。

看一个买二手自行车的例子。在网上挑车时,按满意化的方式,可以设定“三百元以内、车况良好、离家五公里以内”,找到第一辆达标的就停止搜索。有人会说,满意化可以扩展为多属性,每一项各设门槛。即便如此,问题仍在后头。在“选哪一辆”这一层,确实可以停了;但“车况良好”是卖家照片和描述给出的粗粒度判断。到了现场,“刹车灵不灵、车架有没有裂纹”这一粒度上的判断才刚开始,而且必须继续,哪怕价格和距离都让人十分满意。更关键的是,刹车这一粒度的停止条件不能与价格交换:刹车不灵,再便宜也不能停在“买”上。满意化若把车况折算进一个总体满意度,就可能得出“便宜了一百块,车况差一点也行”;本书把它看作两个不同层级的停止点,各自结算。车架裂纹这一项,在网上挑车时根本不在属性表里,是下降到现场这一粒度以后才发生的停止条件。

带孩子写作业也是这样。家长检查一页口算题,可以采用满意化:抽查五道,全对就停。这在“这页作业能不能交”这一层是合理的停止点。可是如果抽查中有一道错了,而且错在进位上,家长就不应只在“这页能不能交”这一层继续抽查更多题目,而应下降到“孩子是否掌握了进位”这一层,那里需要的是另一种检查:让孩子讲一遍算的过程。这一层的停止条件也不同,不是“几道全对”,而是“能不能讲清楚为什么要进一”。上一层可以在改完这道题后停下,下一层却刚刚开始。满意化在两层各设一个门槛,也难以表达“上一层的一次失败触发下一层的展开”这种结构。

Simon本人已经看到,抱负水平会随经验调整:搜索容易时抬高,搜索困难时降低。这一动态思想与本书相当接近,本书不把它说成空白。但抱负水平的调整仍是同一个门槛的上下移动,而进位一例中发生的是门槛种类的改变:从“几道全对”换成“能不能讲清楚”。本书的差别在于:它要求每一个停止点都写明它停的是哪一层、凭什么停,以及什么差异出现时要下降到哪一层;在停止之后,停止的身份也要保存,例如“本页可交,进位掌握情况待查”,而不是一个笼统的“检查过了”。

可检验的问题是:在家庭作业检查或文稿审校这类有明显层级的任务中,比较只设一个总体停止标准与按层级分设停止点两种做法,看后者是否更常在低层发现前者遗漏的问题,同时没有显著增加总的检查时间。若后者只是增加时间而没有多发现问题,本书的多停止点在这里就不值得采用。

这里还要承认两处更近的先行。Simon本人在1962年讨论过层级系统与近可分解性:复杂系统由层层嵌套的子系统组成,子系统内部的相互作用强于子系统之间,因而可以分层处理。[R38] 分层停止的想法,在这一思路里已有根基。医学上的序贯检测也早已做到“上一层的结果触发下一层的检查”:筛查阳性才做确诊检查,确诊检查的判读标准与筛查不同。这两处与本书的多停止点相当接近。剩下的差别是三点:近可分解性说的是系统的结构,不直接规定判断在哪一层停止;序贯检测的层级通常事先由方案写定,而本书关心的是像车架裂纹那样只在展开后才出现的停止点;本书还要求每个停止点保存自己的身份,并与其他层的停止点分开结算。

所以,满意化回答“搜索什么时候可以停”,却给不出“在哪一层停、在哪一层继续”,也给不出“哪些停止点要等展开以后才会出现”。若多属性满意化、近可分解性的应用或序贯检测的设计规则已经能表达停止点随展开而发生、并按层级分别结算、彼此不可交换,本书在这一点上并无增量。

十六、对本书最直接的质疑:是不是只是重新命名

一个合理质疑是:所谓S、D、E,是否只是把结果、过程和条件换成字母?所谓封装判断,是否只是工具有用的另一种说法?若答案只是不断解释名称,本书还没有充分回应。

回应需要指出可辨认的研究差异。例如,E要求分析条件之间怎样改变作用,而不是罗列清单;D要求反馈形成后续差异,而不是记录动作次数;封装要求说明具体承接的价值区分、当前接口和重开条件。每个概念应当带来不同的观察或干预问题。

但这些要求也可能被其他方法实现。新增术语是否值得使用,要看它们是否使某些关系更清楚、更容易组织,或产生新的预测与设计。概念经济性同样重要,不能用覆盖面宽作为免除比较的理由。

因此,本书接受一种有限结论的可能:在某些任务中,SDE可以作为有用的组织语言,却未必提供独有机制。判别的办法是具体的:把同一个案例分别交给邻近理论的组合与本书的分析,看两者是否在“该不该拆、由谁拆、在哪一层停、这一结论现在是什么身份”这几处给出不同判断。若没有,就应在该类任务中把SDE降为组织语言来表述。前面几节已经逐一做了这种对照;后面两节先处理本书四个新命名的近邻,再把全书核心压到五十字以内,检验剩下多少不能被替换。理论的可信度来自边界清楚,而不是永远保持最大宣称。

十七、四个新命名的近邻

第十二、十六、二十一、二十八章各给了一个名字:身份跃迁、附带重开权的封装、频率替代、两循环错位。名字最容易制造增量的错觉,所以这一节逐一找它们最近的邻居,看切开以后还剩多少。

身份跃迁与传播失真研究。这一现象早已有人记录。Sumner等人比对大学新闻稿与随后的健康新闻,发现新闻中的夸大大多已出现在新闻稿里,常见的是把相关说成因果、把动物研究推到人身上。[R31] Greenberg追踪一个医学论题的引证网络,发现偏引、放大,以及他称为“引证转化”的现象:一个假说经过反复引用,变成了被当作事实的说法。[R32] 更早,Allport与Postman研究谣言的传递,描述了削平、锐化与同化:细节被删、少数要点被突出、内容被改成符合传话人预期的样子。[R33] 情报分析中还有专门的规范,要求分析人员用约定的措辞标注估计的可信程度。

重合几乎完整。第十二章的家长群一例,就是削平与锐化:“听说”“可能”被删,“学校通知”被加上。第十二章表中的“候选→已证”,就是引证转化;“样例→规律”,与新闻稿把动物研究推到人身上同属一类。情报界的估计性措辞,与第十二章“让身份标签跟着内容一起走”的修复办法方向一致。这些研究已经记录了“候选被传成定论”,本书没有发现这一现象。

切口在于对象。上述研究记录的是传播中的失真现象,测量手段主要是内容比对:把新闻与新闻稿、引文与原文、末一位传话人与第一位并排放。本书的“身份”是附在每条判断上的状态字段,可以在工作流中登记、检查、阻断,并按第十二章的表格区分七种跃迁方向。判断不同的那一刻是这样的:一份家庭装修预算表有“待确认”和“已定”两栏,“卫生间防水用某品牌涂料”一句原在“待确认”栏,整理表格时被整行复制进了“已定”栏。字一个没改。按内容比对,新旧两版完全一致,查不出任何夸大;按身份台账,这一行的状态从“候选”变成了“结论”,没有附带新依据,应当阻断,直到有人补上确认的凭据。第二十二章“用状态记录阻止完成身份被偷换”一节讨论的正是这种情形。情报界的措辞规范在这里也查不出问题,因为措辞没有变。

七种跃迁方向也要如实对照。“相关→因果”“动物→人”这类夸大,与本书表中的“样例→规律”同属一类,新闻稿研究已经分得很细;“假说→事实”就是“候选→已证”。本书表中较少被上述研究单独处理的,是“局部检查通过→整体完成”和“作者自述→统计结论”两种:前者发生在工作流内部的状态标记上,不经过公众传播;后者发生在同一位作者对自己材料的再使用中,不经过他人转述。这两种恰好是AI辅助工作中容易出现、而按传播链去找又找不到的跃迁。

这一切口可以检验。取一批多人协作的文档在版本之间的变化,由编码者分别用内容比对与身份台账两种办法找出“候选被当成结论”的条目。若身份台账找出的条目与内容比对完全重合,即不存在“措辞未变、身份已升”的情形,或者这类情形少到可以忽略,那么身份字段只是给内容比对换了一种记法。

若传播失真研究或情报分析规范已经把身份作为独立于措辞的状态字段来登记,并能识别“措辞未变、所在栏目已变”的升级,本书在这一点上并无增量。

频率替代与仪表采样理论。Senders研究飞行员怎样在多块仪表之间分配注视,提出一块仪表被看的频率应由它所显示的信号的带宽与信息量决定:变化快、信息多的仪表要多看,变化慢的少看。[R34] Moray与Inagaki进一步指出,“自满”不能凭采样少来认定,必须相对一个最优采样策略来定义:只有采样低于最优,才谈得上自满。[R35]

“采样频率应由信息量决定”,这一点已经有了。第二十一章“频率替代”一节说检查次数不等于判断能力,Moray与Inagaki说采样次数不等于警觉程度,方向相同;该节末段说“频率替代不是可以嘲笑的毛病”,也与他们反对凭采样多少贴标签的立场一致。

切口在于前提。采样理论假定被监控的变量与可区分的状态已经给定:仪表有哪几块、每块显示什么、读出来是几档,都事先确定,问题只是多久看一次。频率替代说的是另一种情形:表示单位尚未组织好时,频率代替了粒度。判据是检查次数上升而可区分状态数不变。第一次用电子体温计照看发烧孩子的家长,每二十分钟量一次,每次只读出“还烧”或“退了”。按采样理论,体温变化慢,二十分钟一次已经过密,开出的药是降低采样频率。本书的诊断不同:问题不在多久量一次,而在“发烧的一夜”还没有被切成带出口的段落——体温超过某个数、精神萎靡、喝不进水,哪一项出现才需要处理——家长手里只有“烧”与“不烧”两个状态。只降低频率而不增加可区分状态,家长要么睡不着,要么漏掉真正该处理的信号。

两种诊断开出的药也不同,因而可以比较。对一组照看发烧孩子的家长,一种指导只按体温变化的快慢建议测量间隔,另一种指导先给出几条触发信号、把一夜切成段落,再让家长自己决定何时测量。应当观察的是:家长每次测量时能报告的状态类别数,以及真正需要处理的情况被发现的时间。若两种指导在这两项上没有可辨认的差别,频率替代在这类任务中就可以还原为采样过密,应当并入采样理论的说法。

若采样理论或其后的注意分配研究已经处理“可区分状态集本身尚未形成”的阶段,并以“检查次数升而状态数不变”作为诊断标志,本书在这一点上并无增量。

两循环错位与算法厌恶、自动化偏差。Dietvorst等人发现,人们看到算法出错以后,比看到人犯同样的错更快地放弃算法,即使算法总体上比人准确。[R36] 这正是第二十八章所说错位的第二个方向:拿单次结果结算历史。第一个方向,即凭历史成绩免除这一次的检查,已有过度信任与误用的研究。[R19][R20] 两个方向各自都被研究过,本书没有发现其中任何一个。

切口在于结构。上述研究大体把两种偏差当作两种现象分别处理:过度依赖被看作信任高于能力,算法厌恶被看作对算法错误的过度反应,各有各的矫正思路。本书把两个方向放进同一结构,看作同一种挪账的两头,并规定两循环之间的合法往来:历史成绩只决定选不选、查多细;单次结果只按任务子类更新历史。判断不同的那一刻:一家人用手机导航多年,某次在新修的立交桥下被带错了路。算法厌恶的研究会把“以后不用了”记作一种需要矫正的态度;过度依赖的研究会提醒“平时也要多看路牌”。本书给出的是一条处置:这次错误只更新“新修道路”这一子类的记录,在这类路段把检查调细,其他路段照旧整体接受。两种偏差在这条规则下同时被约束。

由此得到一条预测:若按这条规则组织的工作流,不能同时降低两种错位——即在减少不必要弃用的同时,不减少对单次结论的免检接受,或者反过来——那么把两个方向合成一个名字没有实际价值,第二十八章应当改写为对两类已知偏差的并列提醒。若已有研究已经用同一套往来规则同时处理过度依赖与算法厌恶,本书在这一点上并无增量。

附带重开权的封装与变更管理。软件工程中的变更管理与缺陷处理制度,早已规定什么样的问题要进入审查、谁有权修改哪一部分代码、修改后通知哪些调用者;近年关于“可争辩的AI”的研究,也讨论受AI决定影响的人怎样提出异议、由谁复核、复核结果怎样改变系统。第十六章“封装不是隐藏”一节与Parnas的比较里已经写明:在已有缺陷报告、代码负责人与变更通知制度的领域,本书没有增量。

切口在于适用范围。变更管理的对象是有代码负责人的软件;可争辩AI的研究聚焦于对个人作出的自动化决定。本书把重开条件、拆封权和回写去向要求到所有被整体调用的承接上,包括药品说明书、物业规约、一张常用的检查清单,以及使用者心中形成的封装。家里一张用了多年的“出门检查表”,写着关燃气、锁窗、拔充电器,谁也没规定什么时候该改它;搬进有地暖的新家以后,表上没有地暖一项,表本身却照常被整体调用。变更管理在这里无处着手,因为这张表没有负责人,也没有版本。

按本书的写法,这张表应当带一条重开条件:住处、家庭成员或家里的电器有大的变化时,表本身要重新打开;拆封权在每天出门最晚的那个人手里;回写去向就是贴在门后的那张纸,改过以后注明日期。可以检验的是:对一组家庭或小办公室中长期使用的检查清单,比较写明这三项与只写清单内容两种做法,在生活条件变化以后,清单被及时修改的比例和由此避免的遗漏是否不同。若没有差别,把重开权推广到日常承接就只是形式上的完备。

若变更管理或可争辩AI的研究已经推广到没有正式负责人的日常承接,并给出重开条件、拆封权与回写去向的写法,本书在这一点上并无增量。

四组比较合起来,结论比前几节更收缩:四个名字所指的现象,都已经有人研究过;本书在每一处剩下的,主要是把现象改写成可以登记的状态、可以执行的规则,以及把分散的研究对象放进同一个单位。下一节据此重估压缩测试。

十八、五十字压缩测试

检验一个理论是否只是重新命名,有一个简单的办法:把它的核心命题压到很短,再看已有理论能替换掉多少。本书的核心命题可以压成下面这句话,不到五十字:

判断在人、工具、对象间发生;工具封装历史取舍,封装带重开规则与拆封权,按粒度而非频率展开,证据身份不随传递升级。

这句话的大部分可以由已有命题组合替换。“判断在人、工具、对象间发生”,分布式认知已经说过:Hutchins把船舶导航团队与仪器看作一个计算系统,认知分布在人、器物与时间之中。[R8][R30] “工具封装历史取舍”,委托与脚本理论大体已经说过。[R17][R18] 使用者对封装的依赖应与工具能力相匹配,信任校准理论已经说过。[R19][R20] 熟练使工具退出注意中心,默会知识理论已经说过。[R22] 再加上一节处理的四组近邻——传播失真研究、仪表采样理论、算法厌恶与自动化偏差研究、变更管理——替换的比例还要更高。按我们的估计,已有理论的组合可以替换掉核心命题的四分之三到八成。这是作者的估计,不是度量结果。

还可以再往前推一步。分布式认知加上委托与脚本,已经能说清“判断分布在人与物之间、物承接了先前的取舍”;加上信任校准,能说清“人对物的依赖应与物的能力相称”;加上默会知识,能说清“熟练使物退入背景”;加上认识依赖,能说清“依赖本身可以是理性的”;加上拉卡托斯,能说清“证明与反驳共同生成新概念”;加上有限理性,能说清“搜索要有停止点”。这样组合起来,本书前四编的大部分论述都能找到对应的先行理论。这个事实应当写在明处,因为读者自己也能做这个组合。

组合也有它做不到的地方。上面这些理论各自回答一个问题,彼此之间没有统一的记账单位:校准理论记的是信任与能力之差,脚本理论记的是使用者对脚本的回应,拉卡托斯记的是命题与概念的变化。当一个日常任务同时涉及这几件事时,例如用AI审一份合同、再转给家人签字,组合理论会给出几份互不相连的描述。本书试图用“封装”这一个单位把它们连在一起:同一个封装既有形成史,也有当前作用,既有拆封权,也有证据身份。这种连接本身是否带来不同判断,正是本节最后要检验的。

上一节之后,原先认为不能被替换的三项,各自都被近邻削去了一部分。下面先逐项写明还剩什么、在什么情况下收回,再写真正剩下的那一项增量。

第一,封装的重开规则与拆封权。本书要求每个被称为封装的东西写出四项:调用条件;重开条件,包括触发信号与重开到哪一层;拆封权,即由谁打开;回写去向。软件变更管理已经在有负责人的代码中做到其中大部分,此项剩下的只在没有这类制度的承接上。判据:若在同一案例中,上述邻近理论的组合不借用本书的概念,也能逐项给出这四项,此项收回。

第二,频率与粒度的分离。看得多不等于看得细,检查次数与检查时保留的差异是两个变量,第二十一章已有论证。采样理论已经说明采样频率应由信息量决定 [R34][R35],此项剩下的只是可区分状态尚未形成的那一段。判据:若两组检查次数相同、保留差异不同的使用者,在异常发现率上没有差别,或者差别完全可以由信任水平解释,此项收回。

第三,证据身份不在传递中升级。工具成熟的循环与当前结论的循环要各有凭据,候选、反例、修订命题与已证结论要分别保存,任何转述都不能把一种身份悄悄抬成另一种。传播失真研究已经记录了候选被传成定论 [R31][R32][R33],两循环错位的两个方向也各自被研究过 [R19][R36];此项剩下的是把身份当作独立于措辞的状态字段来登记和阻断。判据:若在多次转述之后,例如AI摘要、人员交接或向上汇报,已有框架能够识别“候选被写成已证”“修订命题被写成原命题”,并给出阻止规则,此项收回。

工具成熟循环与当前结论循环的分离没有单列,而是并入第三项,因为在形式化数学中,Gonthier式的内核信任已经完成了这一分离;它只在无内核领域有增量,而那里的增量恰好表现为证据身份不被工具的名声抬高。

三项逐一看,各自只剩一小块。真正剩下的增量在三项之间:用“封装”一个单位,把重开权、粒度和证据身份记进同一份账本。同一个封装条目上同时写着:它在哪一层可以整体调用,什么差异出现时重开到哪一层,这一次输出现在顶着什么身份。三件事记在一处,处置才会互相约束:身份仍是“候选”的输出,不能在粗粒度上被整体接受;一次重开到细粒度,就把相关输出的身份退回“待查”;历史成绩只调节检查粒度,不改动这一次的身份。

用一个日常例子看三种近邻工具分开使用时会出什么事。家里老人用AI工具解读体检报告,工具说“轻度升高,无需担心”。按信任校准,这款工具读数一向准,可以放心;按采样规则,这项指标多年平稳,半年后再看;按溯源记录,这句话出自工具,来源已登记。三种处置各自合理,合起来却是“信它、少看、照办”。统一账本在同一条目上看到的是:这句话已经越出读数层,进入了处理建议层,粒度越层,身份应降为候选,并触发重开到医生。三种工具分别都没有错,错在它们之间没有共同的账。

这可以写成一个可检验的主张:在同一工作流中,统一账本应比分别采用三种近邻工具——信任校准、采样规则、溯源记录——更少出现“三项彼此矛盾的处置”,例如一项输出被判为可放心、被排到很久以后再看、而溯源记录显示它仍是未核候选。应当观察的是:对同一批任务事件,分别按两种安排处置,由不知道安排的编码者统计处置之间的矛盾次数,以及矛盾处置之后的错误接受。若统一账本没有减少矛盾处置,或减少了矛盾而没有减少错误接受,这份账本就只是三种工具的并排陈列,本书剩下的增量为零,应当改称为上述理论在AI使用情境中的一次整合与应用,S、D、E的语言作为组织这些理论的框架保留下来。若这一主张站得住,它就应当成为以后研究集中投入的地方,而不是继续扩大全书的覆盖面。

十九、因果作用与判断构成之间,还需要什么

工具会影响结果,不等于所有影响因素都应被称为判断的一部分。房间温度、远处声音或某项偶然事件也可能改变人的表现。若只用“改变它,结果会变”作为标准,判断概念会扩得过宽。

本书因此提出更具体的分析义务:说明某项结构或实践承接了什么与任务价值有关的区分,它怎样进入当前反馈,以及何种改变会影响相关判断而不只是任意结果。历史取舍与当前使用需要相连,不能仅凭物理因果作命名。

这些义务不是一套已经得到普遍验证的必要充分条件,而是防止概念任意扩张的研究约束。对刀具、符号、软件和制度,可能需要不同程度的说明。相似性提供比较入口,不直接抹平构成方式的差异。

如果某个案例无法指出具体承接内容,称它为环境条件可能比称它为封装判断更合适。本书不需要把所有东西都纳入判断,才能证明复合分析有价值。边界收紧能够提高解释力,而不是削弱理论雄心。

二十、发生解释不能替代正当性论证

追查一个标准怎样形成,可以揭示其历史条件,却不能单凭来源决定它现在应否使用。一个规则来自长期实践,不自动意味着合适;一个新规则形成于偶然,也不自动意味着无效。形成史与当前理由需要分别说明。

同样,发现某个观点服务于特定利益,不足以直接证明其命题为假;证明某个观点在形式上成立,也不能自动说明其所有用途都值得支持。判断需要区分事实、逻辑和规范问题,避免用一种解释越过另一种义务。

SDE价值发生学的使用应当保持这一点。诊断为什么失真、失善、失美,不能只指出某个起源便结束,而要说明相关机制怎样影响当前价值,以及改变后为什么可能更好。干预结果还需接受再次评估。

因此,本书的发生学不是一种“看出出身就完成判断”的方法。它要把形成过程与当前证据、任务及价值理由连接起来。缺少这种连接,发生叙述也可能成为新的偏见封装。

二十一、三种价值的对应怎样接受检验

本书依据作者明确的理论,对应三方程之真、六路径之善、三原理之美。这个对应首先提供一种研究框架,不应被误写成已经由所有学科共同证明的事实。具体任务中,如何从框架形成可用判断,需要展示过程。

可以检验使用该对应后,是否发现此前遗漏的条件,是否改变修复位置,是否有助于组织新的价值关系。若只是在结果之后补写三段评价,而实际工作完全不变,就难以证明方法具有增量。

还需区分规范讨论与经验效果。即使一种方法提高了任务效率,也不能由此证明全部善;即使使用者喜欢新表达,也不能自动证明美的理论全部成立。不同层次需要相应论证,不宜互相借用成功。

因此,研究应当提出范围明确的主张,而不是试图用一项小实验决定整个本体论。具体模型可以成功、失败或被修订;框架的价值则在多种任务与论证中逐渐积累。层级区分同样适用于理论自身。

二十二、非加和性需要怎样的具体证据

说整体大于部分,容易成为一个无需解释的口号。本书更有用的问题是:人和工具分开测量的表现,为什么不足以解释连接后的任务,以及哪一种互动使这种不足出现。需要观察关系改变,而不只是比较两个总分。

可以在构造实验中改变工具反馈方式,同时观察不同使用者怎样调整;也可以保留工具能力,改变任务接口,检查整体表现。若连接方式产生明确不同结果,就支持进一步研究互动机制,但还要考虑资源、熟悉程度和其他条件。

统计上的交互项可以提供线索,却不自动等于本体论上的发生已经被证明。模型选择、测量尺度和实验设计都影响结果。理论应当解释这些线索,而不能把任何非线性数字当作自身的直接证据。

同样,没有观察到某种交互,也未必立即否定全部复合解释:任务可能过于简单,测量可能不适合,或者该范围确实能够由较简单模型说明。前两种属于实施问题,但只有在研究开始前已经登记了“实施成功”的操作检查标准——例如任务难度的预试标准、测量工具在该任务上的区分度——并且检查显示未达标时,才可以把负面结果归为实施失败。否则,负面结果一律按“机制在该范围内未起作用”计,并据此限制具体主张,而不是让理论对所有结果都宣布胜利。

二十三、历史维度的新增义务

本书把文明工具史研究为封装发展史的一条重要主线。这使当前能力与过去的试用、检测、选择和传递连接起来,但同时增加了历史证据义务。不能只看今天工具的结构,就推断所有形成过程必然按照某个理想循环发生。

具体研究需要区分设计记录、实际使用、失败修订、制度承接与后来的解释。某个形式长期存在,可能出于多种条件,不一定单纯因为技术最好。发生学应允许竞争解释,而不是把所有历史结果都追认为最优封装。

历史判断还可能被选择性保存。失败经验丢失,某些使用者被排除,维护劳动没有进入记录,都可能影响后来者对工具成熟的理解。研究需要追查这些缺口,而不只寻找成功谱系。

因此,文明命题的价值应通过逐案展开逐渐建立。本书提供概念结构和若干可检查的小案例,尚不把它们冒充完整工具史。承认还需要历史研究,不等于放弃命题,而是明确下一步应取得什么证据。

二十四、使用者侧封装怎样成为独立研究问题

技术已经具备某种能力,使用者却仍然反复担忧;技术尚未可靠,使用者却已经完全放心。这两种错位使我们不能仅研究工具性能,也不能仅研究信任感。需要把两侧及其连接同时纳入。

本书将使用者侧封装具体化为:某段过程在实践中成为能够整体调用的行动单位,注意、预期与任务组织随之改变。这个定义比“更信任”更丰富,但也需要通过实际行为与记录检验,不能只靠自述。

可以研究使用者何时减少逐项查看、何时主动重新展开、是否能够识别任务越界,以及被释放的资源进入了什么新活动。不同变化可以分别发生,不能预设它们总同步。工具侧可靠性也应有独立依据。

与邻近研究比较时,本书需要展示这一分析是否帮助解释信任与能力之间的错位,是否改善界面和学习设计。如果只是把信任换成封装,没有新的可观察关系,那么定义仍需进一步收紧。

二十五、简便方法什么时候比完整展开更合适

不是每项任务都需要完整四截面诊断和六路径比较。一个明确的字符错误,可以直接修正并复查;一项稳定计算,可以由可靠工具承接。强行展开全部理论,可能增加成本而没有新增价值。

完整框架更适合价值问题反复出现、原因相互牵连、目标与标准不清、或者需要形成新能力的情境。即使如此,也可以先从最相关的入口开始,必要时扩大分析。方法本身应该被分层使用,而不是成为新的全量检查负担。

这不是对理论的妥协,而是其价值要求。六路径之善不能要求所有人永远走最长路线,封装理论也不能要求每次使用前重讲封装。成熟方法应允许某些关系成为可调用能力,同时保留异常时的展开。

因此,本书的实践建议是条件性的。何时使用何种粒度,应根据实际任务、证据与成本判断。若较简单方法已经足够,就应采用;若它反复遗漏重要关系,再有理由引入更完整的发生诊断。

二十六、新增贡献应当写成可区分的主张

综合以上比较,本书的候选增量不是某一个孤立词语,而是若干关系的系统连接:判断作为复合价值能力的发生,历史判断的封装与当前重新发生,使用者侧整体单位的形成,以及分层粒度转换如何支持修复和新能力。

这些连接是否具有独到价值,需要在具体研究中拆开检验。台账能否减少状态混淆,发生诊断能否改善修复,使用者侧分析能否解释信任错位,能力模型能否帮助区分产量增长与新任务出现,都是可以分别研究的问题。

本书不以一个未经独立验证的“创新分数”替代这些义务,也不预先宣布全部内容在思想史上没有近邻。真正的新意需要准确承认已有贡献,再说明新增机制与适用边界。概念越有雄心,比较越应具体。

若某项主张没有增量,可以删去或缩小;若某项关系在多个任务中得到支持,则可以进一步发展。理论的成长不必依靠每句话都保持最大范围,而可以依靠持续得到检验的核心结构。

二十七、比较之后,进入研究而不是结束争论

本章没有给出一张把所有邻近理论排在SDE之下的排行榜。它确立的是研究责任:外部构成、分布式系统、模块设计、反思性探究、工程验证和形式核验,委托与脚本、信任校准与自动化反讽、默会知识与技能习得、认识依赖、证明与反驳、计算机辅助证明之争以及有限理性,都有本书需要承接的贡献。五十字压缩测试之后,本书留给自己的只是一份统一账本的主张,以及三项各自可以被收回的组成部分。

SDE判断力发生学若要继续发展,应当使这些资源在自己的问题中形成更明确的连接,并接受同等强度的反问。理论不因提出了真、善、美就自动真实、适当或优美,它仍然需要通过自己的运行得到支撑。

下一章将提出具体比较方案,并区分代码测试、任务实验、学习变化与文明解释的不同证据。方法的名称不会作为成功条件,实际发生的差异才是研究对象。

与邻近理论比较之后,本书的主张应当更具体,而不是更响亮。工具参与认知、模块承接决定、反馈改变行动,都有需要认真承接的研究;本书集中追问的是历史封装、价值发生诊断与判断粒度转换怎样连接。它们是否带来不同的发现和干预,不能由概念定义代答。比较研究必须让方法名称退后,让实际差异成为判断对象。

← 第三十七章 判断智能体的工作结构第三十九章 本书如何接受检验 →