SDE · AI越强,人就越弱吗?
第六编

第三十章 谁承担错误、转型与退出的代价?

王德生 著 · 本章正文4,860汉字 · 打开第204页

本章小节

一、事故报告里只有一个签名

继续上一章的机构设例。某份自动整理的材料遗漏了一个重要限制,编辑没有发现,交付之后影响了客户的后续工作。复查时,大家首先看到的是编辑在交付页面上的确认。于是,一段漫长的材料收集、系统配置、任务分派与时间安排,被压缩成一句话:最后是他同意发送的。

这个签名确实需要解释。编辑是否接受了相应核对任务,是否按照约定工作,是否明知有问题仍然交付,都不能被复合概念抹去。但只看签名同样不够。若配置者隐藏了原始材料,管理者缩短了核对时间,系统又把不确定内容呈现为确定结论,那么末端动作并不能单独解释失败。

这里讨论的是组织责任怎样得到合理辨认,而非对任何具体纠纷作法律判断。法律责任需要结合适用规则与实际事实另行处理。本章的任务,是让人们在安排工作时,不再把“由人确认”当作可以吸收其他层级全部问题的装置。

应当先恢复事件的发生链:材料如何进入,限制在哪里丢失,谁能够看见,哪些修改可以阻止后果,谁拥有这些修改的条件。承担不等于找出一个可以受罚的人。真正有用的承担,应使受影响者得到回应,使当前问题得到处理,也使同类错误更不容易再次出现。

二、因果贡献、权限与承诺是三条不同的线

一个环节参与造成错误,并不自动说明其中的人应承担全部后果。一位资料员上传了原件,错误后来发生在压缩摘要的步骤;上传当然是整段因果过程的组成,但不能因此把摘要遗漏简单归于上传者。因果链告诉我们什么参与了发生,还需要进一步辨认参与方式。

权限说明一个位置能够改变什么。某人看得见错误却无权停止发布,与某人既能停止也能要求修复,是不同情况。权限又不等于实际知识:系统设计者能够修改规则,却可能没有获得这次特殊材料;一线人员了解材料,却不能更改配置。可靠安排需要把知识与权限连接,而不是假定它们天然集中在同一个人身上。

承诺则说明某个参与者对什么作出了保证。一个编辑承诺校对文字,不应在事后被解释为同时担保全部统计方法与外部事实。反过来,明确接受了来源核验任务的人,也不能因为系统参与生成而说自己与来源无关。承诺必须在活动开始时说清,不能只在出了问题以后重新扩张。

把三条线放回遗漏案例,修复就不再只有“要求编辑更认真”。若限制在摘要环节丢失,应修订压缩规则与异常提示;若原文没有对核验者开放,应改变访问条件;若核验时间被取消,应调整交付安排;若已有充分条件而承诺没有履行,再处理相应履行问题。同一事故可以有多项修复,但每项修复都应指向它能够改变的环节。

当三条线不重合时,组织就需要相应的转接机制。看见异常的人能够交给有权限的人,有权限的人能够获得必要事实,作出承诺的人能够得到实际支持。这些连接一旦缺失,组织便可能既不能防错,又总能在事后找到一个孤立的过错者。

三、四种负担不宜装进一个“负责”

面对一次失误,至少存在四种工作:解释如何发生,修复当前结果,照顾受到影响的人,以及改变后续安排。它们有时由同一团队完成,有时需要不同位置承担。把四种工作都叫作负责,却不说明各自条件,会使承担停留在态度层面。

解释需要记录与调查能力。修复需要访问材料、修改结果和通知接收者的渠道。照顾影响需要理解损失究竟落在哪里,而不仅是撤回一份文件。改变安排则可能涉及时间、预算、工具或工作定义,往往超出末端使用者的权限。

在设例中,编辑可以协助定位遗漏,却不能独自改写整个组织的交付周期;技术人员可以修复摘要流程,却不一定有资格决定如何回应客户。合理分工不要求每个人包办一切,也不允许大家只完成自己方便的一项,然后共同宣布事件结束。

还要留意四种工作之间的顺序。急于找到责任人的讨论,可能妨碍及时修复;急于恢复运行,也可能使发生机制从未被调查。可以先采取减少影响的必要行动,再开展更完整的复查,但应保存尚未回答的问题,而不是把恢复表面正常当作已经理解。

四、最后的人工确认,何时只是一种负担转移?

让人在发布前确认,并非没有意义。若确认者能看见关键依据,了解当前任务,拥有足够时间,并能在拒绝时获得合理响应,这一环节可以承担真实功能。问题不在于有一个人,而在于这个人的动作是否实际改变了系统可以接受的结果范围。

反过来,若确认页面只有一段流畅成文,没有原始材料,没有不确定提示,拒绝还会直接影响个人绩效,那么确认就可能主要完成一件事:使系统产生的风险在形式上转移到一个人的名字旁边。按钮保留了,判断条件却没有形成。

此时要求确认者“更加负责”,可能只增加恐惧而不增加可靠性。真正应该改变的,是可见信息、工作时间、转接路径以及拒绝后的处理方式。有些验证还可以通过工具完成,关键并不在于把更多细节重新交给这个人,而在于让重要差异得到真实处理。

因此,人的参与不是一块摆在流程末尾的安全标志。它必须具有可实现的作用。若某个环节已经能够由经过检验的系统可靠承接,也不必为象征主体性而保留一个没有内容的点击;若尚未可靠,就更不能靠这个点击假装完成了封装。

五、转型成本发生在旧流程与新流程之间

引入工具的说明往往把起点与终点放在一起:原来需要若干步骤,现在只需整体调用。中间如何达到这个状态,却可能被略去。真实转型需要清理旧材料、辨认例外、重新划分任务、练习新流程,还要处理新旧方式并行时的重复工作。

对已有工作安排的人来说,这些成本不会因为属于过渡期便自动变轻。白天按旧方式交付,晚上学习新工具,次日又被要求立即达到新标准,可能使转型成为一项没有名字的额外工作。若组织只核算运行后的节省,就会把达到节省所需的投入藏进个人时间。

另一种隐形成本是经验的翻译。熟练者知道哪些情况不能照章办理,却未必已经把这种经验写成系统能够使用的条件。让他说明例外、参与试验与解释失败,本身就是能力建设。不能一面依赖他的经验,一面因其产出速度暂时下降而认定他抗拒变化。

合理转型应当把这段发生过程正式纳入安排:哪些工作暂时减少,哪些学习需要支持,何时检验新流程,未达预期时怎样调整。它不保证转换毫无困难,却可以避免把组织选择造成的困难,全数解释成个人不够努力。

六、可逆与不可逆,改变了试用应该多大

对一份仅供讨论的草稿进行试验,与把自动结果直接发送给大量外部对象,后果并不相同。前者较容易修改,后者即使能够撤回,也可能已经进入他人的判断和行动。相同的技术表现,进入不同后果结构,就需要不同的试用边界。

这里的可逆不是一个非黑即白的属性。有些内容可以改写,受影响的时间却无法收回;有些操作可以技术回滚,人际信任却未必立刻恢复。因此,设计试用时要问的是哪些后果能够恢复、由谁恢复、需要什么成本,而不是仅看系统有没有撤销按钮。

从较小范围开始,可以使未被识别的条件更早显露。但小规模也不是免检理由:若涉及重要个人材料或难以恢复的操作,参与人数少并不使问题无关紧要。范围、敏感程度和后果大小需要共同判断,不能只用一个数量决定谨慎程度。

试用的价值,在于让承诺与证据相匹配。一项流程尚只在有限材料中运行过,就暂时承接相应范围;随着新的检验积累,才讨论是否扩大。这样的渐进不是害怕进步,而是让封装从实际发生中长出来,避免由宣传提前替它宣布成熟。

七、退出不是把账号关闭那么简单

一个成员离开原来的工具平台,可能带走全部文件,却仍然失去重要能力。文件之间的关联、曾经使用的判断条件、哪些版本已经被接受、哪些结论仍在试验,都可能没有随文件一起保存。形式上的内容导出,与实际活动能否继续,是不同问题。

还有一些积累属于共同工作。离开者不能因为参与过项目,就不加区分地带走所有人的材料;组织也不能因为提供了入口,就把个人可以合理保留的经验与记录全部锁住。具体权利需要按相应规则明确,本书强调的是在进入之前辨认边界,而不是等到退出时才发现双方理解完全不同。

退出条件至少要回答:能够保留哪些内容,如何说明来源与状态,哪些私人材料需要删除或限制,后续怎样接续。它们可以通过清楚的约定与适当工具来实现,不必要求每位使用者都精通复杂迁移技术。

真正有意义的退出,也可能是降低依赖而非彻底离开。一个人保留旧流程处理特殊材料,另一部分任务使用新系统;或者把积累保存为不依赖单一界面的形式。这样的选择并不否定复合生活,而是在复合关系内部增加调整余地。

八、把不确定性集中给最弱的位置,是一种坏封装

假如管理层对外承诺快速交付,工具提供者只保证有限功能,而一线成员被要求对最终全部结果负责,那么系统中未被解决的不确定性,就可能沿着分工层层向下移动。越接近客户的人越要解释一切,却未必拥有改变任何条件的能力。

从本书的角度看,这不仅是人事问题,也是封装质量问题。一个声称可以整体调用的服务,若必须靠末端人员反复补足未声明的工作才得以兑现,其功能边界就没有被诚实表达。表面的自动运行,可能建立在被隐去的人工兜底上。

改进不能只靠增加末端检查表。需要让承诺方了解实际限制,让提供工具的一方看见典型失效,让承担例外的人拥有相应时间与支持。某些服务范围可能需要缩小,某些自动承诺可能需要暂停。承认尚未完成,比把未完成包装成个人失职更有利于继续建设。

同样,不能把普通使用者不具备专业判断能力,解释成他不配获得服务。封装的重要意义之一,正是使人能够合理使用自己不必独立重建的机制。专业责任需要在相应层级承担,不能随着能力颗粒扩大,反而要求每个消费者成为所有领域的专家。

九、公开失败,需要一种不把坦诚变成惩罚的环境

组织希望成员报告异常,却又只奖励流畅交付,便可能使两个要求互相冲突。成员发现疑点时,知道报告会延误进度、增加解释负担,甚至被视为能力不足,因而倾向于把问题先压下去。这里不应立即归结为某个人品格不好,而要看报告在实际安排中意味着什么。

一个可用的反馈环境,应当区分诚实发现、合理试验中的失败与明知违反约定。它也需要避免把失败分享变成另一种表演:每个人必须定期提交若干问题,数量成为成绩,真正困难的事件却无人处理。反馈的价值在于使安排改变,不在于文档越写越多。

对重要事件,可以保留最少但足够的发生信息:原来要做什么,在哪个条件下偏离,哪个环节察觉,采取了什么处理,尚有什么未知。既不过度收集个人信息,也不把关键上下文全部删去。记录应服务于复查,而不是预先收集每个人未来可能被责备的证据。

若修正之后仍然发生同类问题,就要重新考虑原因是否找对。可能不是提示不够详细,而是目标本身冲突;不是成员培训不足,而是资源不足。敢于把调查推进到工作定义和组织目标,是避免让所有问题停在个人操作层面的必要条件。

十、成本与收益需要在同一个时间尺度上相遇

“以后会节省很多”不足以回答“现在由谁承担学习和迁移”。同样,短期出现成本也不足以证明一个工具没有价值。我们需要说明不同阶段发生什么,让投入者知道哪些收益是已经看到的,哪些仍然只是预期,以及预期未实现时怎样处理。

例如,机构可以把试用期的材料整理和复查列为正式工作,在达到约定功能之前不撤去全部旧支持。后续若确实节省了时间,也应重新讨论这部分时间的用途。这样,技术收益就不再只是事前用来动员、事后用来追加任务的一句话。

对不同参与者,时间尺度还可能不同。年轻成员能够投入较长学习周期,临时协作者却可能无法承担同样转换;某人可以等待流程成熟,另一个人当下就需要稳定收入。平等对待不等于要求所有人用相同方式适应,而是认真辨认进入新活动所需的不同条件。

这些安排并没有一个普遍适用的精确公式。它们需要协商与实际资源,也可能面临不能立即解决的冲突。理论能够做的是拒绝把冲突抹去,指出技术可能性与实际利益之间,始终需要有人作出可讨论的选择。

十一、一份能力契约,不是一张无限保证书

为了使上述问题能够进入日常工作,可以把一个封装单位及其参与条件写成简明说明。它不必叫合同,也不应冒充法律文件;更接近一种共同理解:这个单位承接什么,基于什么材料与检验,在何种情况下需要转接,以及谁能够改变关键条件。

这种说明还应包括未承接部分。工具能够整理已有证据,不代表能够替组织决定所有价值取舍;能够指出格式冲突,不代表已经判断现实安排是否合理。把未完成的部分写出,不是削弱产品,而是让上下层能够形成真实的接口。

说明也可以随着运行改变。过去需要手工介入的环节获得了可靠承接,就更新边界;新材料使旧能力失效,就撤回相应承诺。重要的不是把第一次说明保存为永恒标准,而是让承诺、证据与实际支持保持可以修订的联系。

因此,能力契约的目的不是把每种不确定性都交给一位签字者,而是让不同承担有清楚位置。一个人在这里不必成为全能者,只需能够理解自己的参与及其支持。这样的有限而明确,比一句包办一切的“最终由人负责”更能保护真实行动。

十二、第六编的出口:焦虑终于有了可以改变的对象

经过这一编,我们能够把几种不安放回不同层级。担心输出不真实,应追查证据与封装边界;担心自己没有学会,应重新设计学习及其评价;担心无法继续使用,应检查保存与接续;担心被转型抛下,则需要讨论工作条件、资源与成本承担。

它们并非都能迅速解决,但不再必须合并成“人工智能越强,我就越没有存在位置”。这个总判决遮住了具体问题,也使行动失去尺度。把它拆开之后,有的问题需要一项工具修正,有的需要改变组织,有的需要共同建设长期支持。

与此同时,概念清楚并不等于每个人已经拥有行动力量。有人能够提出合理问题,却暂时缺少响应渠道;有人知道应当保存积累,却没有适当工具。本书不能把这些缺口再命名为个人主体性不足。下一步要讨论的正是怎样形成可进入的实践,而非要求每个人只靠意志越过条件。

真实风险定位以后,建设能力仍是可以选择的一条实践道路,而不是证明个人价值的新考试。第七编以一个有限的思想案例,尝试把问题、支持、反馈和积累组织起来。它展示一种可能的方法,不要求所有读者都以成功采用工具为自己辩护。