第30章 教育和伦理中的制度修复
30.1 从纠正一个人到修复发生条件
设想一所学校发生了这样的争议:一名学生多次迟交作业,系统自动标记其学习投入不足,教师据此减少给他的开放性任务,学生随后更少参加课堂讨论。一次申诉使教师知道,学生在课后承担了家庭照料。但学校仍然面临一个没有被事实澄清自动解决的问题:既有评价已经改变了任务分配、同伴期待与学生的自我理解,删除原来的标记能否恢复原来的机会?这个例子是用于分析的假设情境。它表明,制度错误的影响可能超出一次判断本身,进入后续事件的条件。修复因而不能停在把一个错误数字改成正确数字。
第28章的任务是辨认评价究竟显露了何种能力,本章从评价已经生效之后开始:错误分类使谁失去了哪些任务,哪些后续决定仍在沿用它,哪些机会窗口即将关闭。即使重新评价已经准确,先前排除造成的经验差距也可能继续扩大。因此,制度需要沿记录的流转路径追踪后果,把正式纠错、停止继续排除和恢复参与条件分别落实。私人草稿、班级任务分配与升学记录中的同一句评语,需要不同范围的通知和行动。修复的对象是已经被改变的机会结构。
所谓制度修复,在这里指对受损参与条件、判断程序及后续机会的有理由重建。它可能包含纠错、补偿、停止某项安排和重新设计规则,但这些行动并非必然同时适用。若问题来自一次录入错误,直接更正和通知使用者可能已经充分;若问题来自长期把某类学生排除在高质量任务之外,个别更正无法触及条件。修复的规模必须与能够辨认的损害机制相称,不能把所有冲突都扩写为总体制度危机。
在这一案例中,任务减少使学生缺少能够表现探究能力的作品,后来的记录又把作品缺少当作能力不足的证据。SDE分析要定位这段相互规定:最初的迟交显露经由评价与分配的差异序列,进入后来判断得以成立的特征纠缠。新出现的照料信息首先削弱动机推断,却尚未改变任务名额和作品积累。修复必须切断从无作品到继续排除的推断,同时建立新的作品生成机会;否则理论上重新认识了学生,制度上仍在生产原来的分类。
修复也不能从发生论直接推出唯一道德方案。同一事实可能支持不同的规范主张:有人重视统一期限,有人重视照料负担,有人重视同伴之间可解释的公平。发生分析使代价与条件可见,却不能代替关于何种负担可以合理要求他人承担的论证。需要保留明确的规范前提,例如平等的申诉资格、对现实伤害的保护以及对学习机会的基本保障。只有在这些前提公开后,程序调整才不是借复杂性逃避判断。
30.2 将申诉变成能够改变决定的通道
申诉制度最常见的形式是允许当事人补交一段说明。形式上的发言机会固然必要,但它不保证解释能够进入决策。假如复核者只能读取原评分与申诉文本,却看不到任务分配和反馈历史,那么复核容易变成对原结果的再次评判。真正需要检查的是原判断使用了什么材料、忽略了什么材料、适用规则是否一致,以及当事人是否曾有合理机会回应。这些问题对应不同的证据要求,不能由一句“综合考虑”替代。
回到迟交作业的例子,复核可以区分三件事。第一,记录是否准确,提交时间有没有被系统误读。第二,解释是否成立,迟交能否足以表明学习投入不足。第三,用途是否适当,即使迟交属实,是否能够据此减少探索性任务。这三个判断可能给出不同答案:时间记录准确,动机推断证据不足,机会限制又缺少教育理由。把它们合在一个总分里,就会使事实的部分成立被误当作全部决定的正当化。
能够改变决定的通道还需要时间约束。考试复核在录取之后完成,惩戒纠正在学生离校后才通知,都可能留下无法完全挽回的机会损失。制度应区分可以等待的争议与必须先采取临时保护的争议。暂停传播有争议的标签、为替代任务保留名额,并不等于提前认定原决定错误,而是在不确定期间避免可预见的损害扩大。这是一种对不可逆后果的审慎安排,其理由来自后果结构,而不是对申诉者或原判断者的先验偏袒。
复核者的独立性同样不应被抽象化。完全不了解教学背景的人可能无法识别任务难度,原决定者又可能倾向维护既有判断。可行的安排是让专业理解与独立复核分别得到位置:原教师解释教学依据,另有人员检查证据链和规则一致性,当事人能够核对与自己相关的事实。分工并非保证公正的机械公式,但它使一种理由不必同时承担事实描述、价值裁断与自身辩护三项互相牵制的工作。
这里的修复目标不是让申诉数量下降。数量下降可能表示问题减少,也可能表示参与者相信提出异议没有作用。判断通道是否有效,需要同时观察处理时长、决定变更的理由、后续机会是否落实,以及不同群体能否实际使用。还须防止复核成为额外负担:表达能力强的人不应仅因擅长写说明而更容易获得纠正。简明表述、事实协助与代理支持可以使程序不那么依赖申诉者已有的文化资源。
程序还须区分保密与不透明。保护学生的家庭情况,可能要求限制材料的流通;但这不意味着决定可以不说明理由。复核结果可以公开所适用的原则、被修正的推断以及后续安排,而不公开不必要的私人细节。与此相反,若以保密为由不让当事人了解影响自己的关键判断,就会把保护语言变成无法质疑的屏障。信息公开的范围应跟随用途,而不能只跟随管理上的便利。
30.3 被错失的学习机会怎样重新进入
删除“不适合探究”的评语之后,学生可能仍缺少参与探究所需的练习、材料和同伴信任。原先获得机会的学生已经完成了基础训练,直接把受影响者放回相同任务,反而可能使累积差距再次显露为个人失败。机会恢复因此需要检查进入门槛怎样在排除期间改变:哪些准备仍可补做,哪些支持必须增加,哪些公开评价应等待实际获得练习之后再进行。修复须使当事人能够使用被恢复的机会,而非仅在名册上重新取得资格。
英国“嵌入式形成性评价”项目的随机对照评估,把教师专业发展与教学中的形成性评价结合起来,发现所考察的总体考试表现有所改善。[57] 这项项目证据说明反馈安排可以连同其组织条件接受研究,支持本章把教师协作、练习机会和持续调整纳入修复设计。它没有检验错误分类后的机会恢复,因而尚需回答另一个问题:在既有差距已被拉大时,同样的反馈和练习是否仍足够,或需要先补上被错过的学习环节。
继续构造这一学校情境:学生因原标签被排除于科学写作小组,错过了练习竞争解释和互评草稿的阶段。复核后的安排可以先提供这些材料及一次有指导的修改,再让学生选择是否进入下一轮小组,并以相同的解释标准评价新作品。如果学校只补发被错过的作业,却不给予同等的讨论与修改时间,形式相同的任务仍承载不同准备条件。恢复方案应写明补回的是哪项学习关系,以及何时检查支持已经足够。
分类已经传播时,还需要使新作品真正进入后续判断。原教师更正评语,若其他教师仍读取旧摘要,或同伴仍以旧分类拒绝合作,新增练习就难以改变机会。通知应追踪实际使用者,说明被撤回的是哪项推断、哪些新证据需要重新考虑。与此同时,应避免为纠正一个标签而反复公开学生的私人处境。制度可以要求停止使用无依据的判断,却不能要求当事人持续展示受损经历来证明自己值得再次参与。
修复还应保留对努力和合作过程的合理要求。不能因为表现受条件影响,就认为任何结果都只应归因于制度。当学生已有适当支持却持续拒绝完成共同任务时,其他成员的负担也必须进入判断。关键在于责任应落实于可解释、可改变的行动,且与行动者实际拥有的选择相联系。教育的要求可以严格,但严格应使学习路径更清楚,而不是把失败转化为永远无法摆脱的身份。
恢复还需要一个可协商的时间窗口。学生可能因先前受挫暂时不愿进入原小组,也可能需要先在较低公开压力下完成任务。只提供一次立即接受的机会,会把犹豫再次解释为投入不足。学校可以保留有期限的替代入口,并约定何时重新询问意愿、何时结束额外支持。评估记录应分别保存机会已经提供、条件确实可用与当事人选择参与三个状态。拒绝某一种恢复方式,既不自动否定损害,也不要求制度无限维持所有安排。
30.4 保护性边界与关系恢复
伦理修复中容易出现的误区,是把关系继续存在本身当作成功。假设某个研究小组反复发生公开羞辱,负责人提出让双方对话以恢复合作。如果较弱势的一方担心拒绝对话会影响资源,就难以说这种会面已具备平等条件。恢复关系不是比停止伤害更高的目标。没有退出空间、支持资源和对报复的约束,和解语言可能继续为原来的支配关系服务。
修复因此包含两种彼此关联却不可互相替代的工作:为未来互动创造可能,以及使拒绝某些互动成为可实行的选择。一个人可以接受事实澄清而不恢复私人信任,可以接受补偿而不愿再次合作,也可以在某些边界下重新参与。制度不宜要求当事人以表达宽恕来证明其成熟。第26章关于爱与包容的讨论,在这里落实为对他人脆弱性和自主边界的共同尊重。
对造成伤害者而言,责任也不能只表现为一次态度声明。需要区分承认事实、理解影响、停止行为、补偿损失与改变未来条件。这些要求有不同的验证方式。公开道歉可能帮助纠正流传的错误叙述,却不能自动修复被剥夺的研究机会;调整管理权限可能降低重演风险,却不能替代对已经发生的行为作出判断。修复是多项任务之间的有序连接,不是用一种姿态买断其他责任。
制度边界必须可理解、可执行并允许复核。规则若只写“保持尊重”,执行者可能将直接批评和人格贬损混为一谈。更有帮助的是说明哪些行为破坏参与条件:反复泄露私人信息、以资源要挟表达、对提出异议者实施不利安排等。具体化有助于减少任意解释,同时仍须保留对新情况的判断空间。规则不可能穷尽关系中的所有伤害,程序也不能因为没有逐字列明就拒绝听取事实。
从SDE看,边界既限制某些路径,也使另一些路径能够稳定出现。安全的发言次序、可预测的资源条件和不受报复的异议渠道,能够让本来难以显露的经验进入共同讨论。因此稳定并非必然压制创造。需要反对的是把某种稳定安排视为无须再解释的自然秩序,而不是反对可依赖的规则本身。能够保护参与的边界,恰是关系重新发生的基础之一。
30.5 人工智能进入评价后的责任重新分配
当自动评分或生成式反馈进入学校,制度修复的问题并未消失,只是决策链更长。学生看到的可能是一段自然语言评语,教师看到的是概览分数,管理者看到的是群体分布,系统维护者则只看到日志。每一处都可能对自己的局部输出负责,却没有人解释整个决定如何形成。应当首先确定评价所支持的决定是什么,再问哪些输入、模型版本和人工判断与该决定相关,不能把技术流程完整误当作责任已经完整。
自动化评价进入分配后,能力类型的混淆会产生具体机会损失。Bastani等人在高中数学情境中的随机实验表明,使用生成式工具时的练习表现改善,并不必然转化为移除工具后的独立表现改善,工具的教学约束设计也会影响结果。[54] 这项特定情境的证据为第28章区分表现提供依据。本章追问其制度后果:如果学校已经把协作成绩当作独立掌握,进而取消基础指导,那么后来发现分类不当时,修复就包括恢复被取消的指导,而不只重新命名成绩。
可以把修复行动分到两个时间层。面对仍待作出的决定,学校应改正成绩用途,保留与独立掌握相关的必要支持;面对已经作出的决定,则要核查谁因此错过补充教学、课程选择或展示机会。两者可能需要不同补救:重新评分回答当时证据支持什么,补充学习回答现在怎样减少已积累的损失。若错过的课程已结束,可以提供达到同一教育目的的替代路径,并说明哪些经历无法等同补回。承认这种不完全性,有助于避免用更漂亮的成绩单替代实际支持。
若系统给出错误判断,修复不应只要求学生再次向同一系统解释。应存在能够检查原始材料的人工复核,且复核者有实际修改权。对于学习过程的记录,保存范围也应与用途相称。为了说明评分依据,并不需要无限期保存学生的所有私人表达。最小必要记录、限定访问与明确到期处理,是对未来机会的保护;因为过去的求助内容若被永久转化为能力标签,会使记录本身成为新的不利条件。
NIST的AI风险管理框架把治理、情境识别、测量和管理作为相互联系的工作,这可为学校分配技术与管理职责提供参照;它是自愿性框架,不能替代学校对具体教育目的和价值取舍的论证。[58] 在本书的语言中,关键是避免把模型输出封装成无来历的客体属性。评价产生的条件、决定被执行的路径以及错误如何被更正,都应进入制度可检查的范围。
对技术系统的修复还存在一个集体维度。如果同一种评分偏差影响许多人,只逐一处理主动申诉者,会使没有提出申诉的人继续承受后果。发现机制性问题后,应检查其可能影响的范围,并在适当保护下启动主动更正。更正通知需要说明旧结果为何不再可靠、哪些决定受到影响以及新的结果如何使用。系统升级不是充分的结案理由,因为新版本只改变未来输出,未必修正旧输出已经进入的资源与身份安排。
30.6 在共同规则与地方判断之间
制度修复常面临一个真实张力:统一规则能够减少随意处置,却可能忽略情境差异;地方裁量能够回应具体需要,却可能使资源和人情左右结果。发生论不提供取消这种张力的捷径。应当区分需要统一的底线与允许调整的实现方式。申诉资格、免受报复的保护和基本证据要求,可以具有较强的一致性;任务提交方式、支持形式与修复节奏,则可在公开理由下作情境化调整。
Ostrom关于多中心治理的研究强调,复杂集体行动不能只在单一市场或单一国家管理的二选一中理解,不同层级、不同规则与具体情境的结合值得分析。这里借用的是她对制度多样性及相互监督的重视,而不是直接把公共资源治理结论移植到学校。[59] 教育中的地方判断同样需要连接:班级了解日常情况,学校承担资源与程序责任,外部评议可检查系统性偏差,三者各有不能被其他层级简单代替的信息。
以共同作业的贡献争议为例,统一要求每人提交相同篇幅可能看似公平,却忽略实验维护、资料核查和组织协作。完全由组长自由评分又可能固化人际优势。较可行的安排是事先说明可认可的贡献类型,保留任务分配与关键修改记录,由成员分别说明贡献,并在争议时核对具体工作。制度不应把一切合作过程变成监控,但可以留下足以复核重要判断的节点证据。
情境化调整也要能够被学习。一次特殊安排若反复出现,说明它可能不再是例外,而是一般规则遗漏了某类需要。反过来,一个看似有效的地方做法,如果必须依赖少数人的额外劳动,就不能不加条件地推广。制度应记录调整为何被提出、需要什么资源、对谁有效以及对其他参与者造成何种负担。被复制的应是可说明的作用机制,而不是一个脱离条件的成功故事。
从三方程的相互规定看,规则变更不能只被当作外部输入。新的规则会改变参与者表达问题的方式,改变管理者可见的证据,也改变未来什么被称为违规或进步。对这类回写的跟踪,使制度能够发现自身正在制造的新盲点。修复的开放性不是永远不作决定,而是在决定后保留可识别的重新进入点,让地方经验能够经过审查成为共同规则的修改理由。
共同规则与地方判断之间还需要资源上的对应。允许教师为特殊情况提供额外指导,却不提供时间,容易把公平变成依靠个人奉献的隐性要求。授权地方调整却不提供经费,也会使资源充足的学校更能实行修复。因而规则的可执行性是正当性讨论的一部分。制度必须明确谁提供支持、谁承担成本以及当资源不足时如何排序。不能把这一层困难重新描述为教师缺乏关怀,或学生不够主动。
30.7 如何判断修复确实发生
修复评估的起点应是具体损害及其机制。若损害是一次错误记录的传播,就应检查使用该记录的相关决定是否得到纠正;若损害是长期缺少发言机会,就应观察参与条件与后续影响是否改变。满意度有价值,但不能独自承担全部证据责任。受影响者可能因为担心失去支持而表达满意,其他参与者也可能因为熟悉的优势被限制而不满。评价需要把感受、行为与制度后果放在同一解释中,而不是互相替代。
可以提出一项尚待实施的校内研究:在所有参与课程都具备基本申诉与纠错保护的前提下,比较通常的结果复核与增加用途追踪、机会恢复安排的程序。后者还核对评分进入过哪些任务决定,并追踪补救是否落实。主要观察是有根据的决定修正及可用机会的恢复,处理负担和后续学习表现分别作为成本与较远结果。比较不应撤去任何课程已有的基本保护;可在新增措施容量有限时预先安排分阶段引入。具体规模与时长仍需依据先导资料、班级聚类和最小有意义差异确定。
这种比较还须防止结果被程序自身改写。新程序可能提高问题报告率,于是短期争议反而更多;也可能使教师更谨慎,减少对学生的实质反馈。若只以投诉下降或评分一致性上升为成功,就会误判。应记录报告渠道的使用、反馈内容的变化和任务质量,并考察谁承担新增工作。修复若把大量无偿文书负担转嫁给学生或基层教师,其可持续性与公平性都需要重新判断。
因果评估可以帮助识别程序效果,却不能完全裁定正当性。即便某种复核方式平均耗时较多,基本申诉权仍可能具有独立理由;即便某种高度监控能提高短期成绩,它也可能侵蚀应受保护的空间。因此应把经验结论与规范判断并列呈现:程序造成了什么变化,哪些变化是被共同认可的目标,哪些成本不能仅以平均收益抵销。这里承接第27章的责任分析,不以技术指标吞并伦理分歧。
评估还应允许修复失败。有时问题并非复核不足,而是资源分配本身不可能满足所有要求;有时关系已受到无法完全恢复的损害,合理目标只能是停止继续伤害并建立新的合作条件。承认这一点不会降低修复的意义,反而使承诺更诚实。制度不必宣称能够抹去历史,但必须能够说明自己如何防止已知错误继续决定未来。
在比较结果时,还应注意修复的时间形状。一次公开更正可能迅速改变正式记录,但同伴期待需要更长时间才会变化;重新提供机会也不保证受损者立即愿意参与。若只设置一个很短的观察终点,制度可能因尚未见到成绩改善而过早停止支持。若无限延长观察,则又难以判断投入是否有效。较合理的办法是分别规定近期程序结果、中期参与结果和较远的学习结果,并允许根据已出现的机制证据调整支持,而不是等待一个总结果裁决一切。
30.8 将修复能力保留在制度日常之中
若修复只在重大事件后启动,它容易依赖临时动员与个人善意。更持久的办法,是把易于纠正的记录格式、可追溯的决定理由和适度的复核资源放入日常工作。这样一次错误不必等到关系恶化才有机会显露。日常修复也不意味着每个决定都需要冗长审查,而是按照后果的重要性配置理由与检查:影响一次练习的建议,与影响学籍或长期资源的判断,应承担不同的程序强度。
制度记忆在其中具有双重性。没有记忆,类似错误可能在人员更替后反复发生;记忆过于僵硬,又可能把已经改变的人永久锁在旧分类中。需要保存的是可用于改进程序的机制信息,并区分它与对个人的持续评价。例如记录某类自动评分对特殊表达方式识别不足,可以支持系统修订;长期传播某个学生曾被误判的身份,则未必有教育上的必要。记忆应有明确用途,也应有修订与终止条件。
能够修复的制度还需要给工作人员承认错误的空间。如果一切改正都自动被解释为失职,执行者会倾向维护原决定,即使已经看到新证据。相反,若只要承认条件复杂便免于责任,制度又会失去约束。应当区分可理解的判断误差、对已知问题的疏忽,以及明知错误仍拒绝纠正的行为。对不同情形作出不同回应,才能让学习与问责相互支持,而不是互相抵消。
前述分析说明,修复不是发生论的附加善意,而是研究读数和判断如何回写时必须面对的实践问题。评价一经进入机会分配,便参与制造下一轮表现;伦理判断一经进入关系安排,便参与塑造未来可说、可做与可拒绝的范围。制度的成熟不在于从不出错,而在于它能否识别自己的作用边界,并使新事实真正改变已经启动的路径。
由此也出现了人工智能研究的下一项问题:当记录、解释、执行与复核部分交给技术系统时,究竟是哪一个单位承接了历史,哪一个单位能够修改目标,哪一个单位承担决定的后果?把所有能力或缺陷归给一个模型,已经不足以说明实际发生。教育和伦理中的制度修复把讨论带到模型、智能体与人机共同研究系统之间的边界,那里同样需要把一次输出放回它能够改变的下一轮事件。