SDE · AI越强,人就越弱吗?
第二编

第七章 汽车没有让双腿成为发动机

王德生 著 · 本章正文4,064汉字 · 打开第56页

本章小节

一、到达不是腿力的一种别名

一个人从住处前往另一座城市,途中可能步行、乘车、换乘列车,再走进目的地。从生活叙述看,这是他的一趟旅行;从实现机制看,位移由不同部分在不同阶段承担。把整趟旅程称为他的行动,并不要求把每一段动力都归入他的肌肉。我们能够同时承认行动属于他的生活,以及实现不能由他的身体独自解释。

“交通能力提高”因此有多种含义。它可以指身体在步行中的表现,也可以指在一定时间、费用和支持条件下能够抵达哪些地方,还可以指组织复杂行程的能力。若不说明是哪一种,关于工具作用的争论就容易在这些含义之间滑动。汽车能够改变后两种,并不能自动证明第一种同步增加。

相反,某些交通方式可能伴随身体训练,但那需要另行观察。骑行中的个人体能变化,与车辆结构参与位移,是两个可关联而不能混同的问题。本书不需要断言工具使用从不改变身体,才能说明汽车运动不是腿力被直接放大。一个反例若只证明学习或训练能够发生,并没有推翻复合能力与个人能力需要分开的原则。

这个区别之所以重要,是因为它把我们的注意从“人增加了多少内部存量”,转向“哪些活动现在能够实现”。人可以没有更强的腿,却获得参加远处讨论、探望亲人或组织异地合作的条件。这里的提升首先显露在生活与互动的可达范围,而不是肌肉指标上。

二、可达范围比最快速度更接近生活

为了理解交通的广度,可以设想两套条件。在第一套条件下,一个人每天只能在步行可及的范围内活动;在第二套条件下,他能够稳定进入某种交通系统。我们要比较的,不只是最高速度,而是在既定时间与资源限制下,哪些地方和哪些活动真正可达。一个很快却无法实际获得的服务,不能算作他已经拥有的可靠能力。

可达还包含时间上的匹配。某条线路存在,却与工作或照料安排完全冲突,对某个人而言仍可能难以使用。于是,同样的技术性能在不同生活条件下形成不同广度。若只展示机器能够走多远,就把这种差异遮住了。复合能力的分析需要把实际进入条件纳入,而不是只看器具的技术上限。

人工智能也可以用类似问题来辨认。一个系统在演示中能处理某种任务,不等于每个使用者都能把它组织进自己的工作。材料是否可得、使用条件是否稳定、反馈能否回来、错误是否可处理,都影响实际可达的活动范围。这里的交通类比只说明需要考察什么,不证明两类系统已经具有同等可靠性。

广度因此不等于地图上圈得越来越大。它要求新的连接能够进入实际行动,并与人的生活目标发生关系。一个人可以接触很多地方,却没有时间在任何地方开展有意义的活动;也可以只扩大一个小范围,却因此接通一段重要关系。范围的变化需要被描述,价值则还需回到具体活动判断。

三、驾驶者、乘客与组织者拥有不同的能力

同一趟车程中,驾驶者与乘客都参与交通,却没有因此拥有相同能力。驾驶者承担某些操作与监测,乘客可能只选择目的地并进入服务,行程组织者则协调不同环节。若把这些角色全部称为“人—车复合体”,还需要继续说明各自所处层级。复合概念不能消除内部差异。

乘客不具备驾驶能力,并不意味着他的到达是假的。他可以正当地利用到达去开展另一项活动。我们也不需要为他虚构一项高深贡献,才承认交通服务对他的生活有意义。工具文明允许一个人不参与某个实现过程的内部生产,而真实地受益于它。这种受益无需每次都被改写成个人创造。

与此同时,乘客能够使用一次服务,与能够稳定组织一段长期生活,仍有区别。偶然顺利抵达不证明所有后续条件都可靠;持续通勤还需要服务可得、时间可预期以及异常时有相应安排。能力是有条件的持续可能,不只是一次结果。这个区别同样适用于一次人工智能调用与长期复合工作能力。

我们由此得到一种比“会不会开车”更丰富的能力图景:有操作能力,有服务进入能力,有多环节组织能力,也有维护与改进系统的能力。它们可以分布在不同参与者之间,不必全部由每个人独立掌握。新的技术可能改变这种分布,但不能只靠角色名称预先确定谁更有价值。

四、从一段位移到一套行程,组织高度在哪里变化

若某人只需完成一次短途移动,他面对的是相对有限的组织问题。若要把住处、工作、家庭事务与异地合作安排在同一周内,交通过程就成为更高层级生活组织的条件。车辆与线路被调用,不再是活动的全部目的,而是其他活动能够衔接的基础。这是高度变化的一个清楚入口。

组织高度并不等于坐在更高职位上发号施令。它指的是一个过程能够把哪些较低层级过程作为条件,怎样在它们之间建立关系。乘客可以不懂发动机,却能组织一段多阶段行程;交通系统也可以进一步把换乘与调度收进服务。今天由个人承担的组织环节,明天可能被更成熟的封装承接。

因此,不能把出路固定成“机器负责开车,人负责规划路线”。路线规划本身也可能进入工具实现。新的活动会继续改变人需要做什么。若为了保护主体性,要求每次都留给人一段不能自动化的规划工作,便把一项暂时分工误认成了永久本体边界。

更值得关心的是,组织变化是否服务于实际目的。整套行程安排得很精细,却让人没有时间休息,未必构成值得赞赏的生活提升。高度说明过程之间的关系,不自动担保其意义。工具可以帮助组织,也可以把人卷入更多安排;这需要在价值层面继续判断。

五、一张车票怎样表现出颗粒度的改变

从乘客的调用层级看,一张车票可以对应一段完整运输服务。内部涉及的运行、维护和协调没有消失,却被收进一个可以进入的整体单位。调用动作相对简短,内部过程可能十分复杂。把前者看成后者已经简单化,就会误读封装的作用。

这种整体单位还有边界。车票对应的是特定条件下的服务,不代表任意时间、任意地点的所有位移。若把一次可调用的单位无限扩张,就会把有条件的能力变成想象中的万能能力。同理,一个人工智能工作流承诺处理某类材料,并不因界面上只有一个入口,就拥有处理全部世界的资格。

颗粒度也可以在不同角色间变化。乘客看一段行程,调度者看运行之间的关系,维护者看某个部件的状态。不同颗粒并存,使系统能够既被整体使用,又在适当位置接受细致处理。不是每位参与者都看得越细越好,也不是所有人都只看大颗粒最好。

由此,颗粒度升维可以被理解为可用单位的重组与相应组织可能的变化,而不是一味扩大任务包。整体越大,越需要知道它真正覆盖什么、哪些条件仍在外部以及异常如何转接。封装的成熟体现在这些关系得到承接,而不只体现在界面上的步骤减少。

六、道路不是背景墙,而是能力的条件

把汽车单独摆在一块无法通行的地面上,就能看见器具与活动之间的距离。车辆的某些功能可以存在,交通能力却未必能按原来的方式实现。道路、服务安排与其他参与者并不是故事后面的装饰,它们改变了实际能够做什么。但也不能因此把所有远近条件一律叫作同一个主体。

分析边界应当随着问题确定。解释一次驾驶中的操作反馈,车辆与驾驶者是重要构成;解释一个地区的持续交通可达性,则需要纳入更广的设施与组织。两种边界并不矛盾,只要我们说明正在解释的能力是什么。若从局部系统的成功直接跳到所有人的生活改善,就再次发生了尺度偷换。

这也提醒我们,工具的名义拥有与能力的实际获得不相同。一个人可以买到器具,却缺少必要材料和支持;也可以不拥有器具,却通过稳定服务获得相应能力。所有权、使用权与能力形成是相关但不同的问题。本书在这里讨论分析关系,不对具体法律权利作统一判断。

对人工智能平台而言,类似问题是个人能否持续进入自己的材料与流程。一次可访问并不证明长期可得,一次输出也不证明积累能够迁移。我们将在后文详细讨论这种依赖,但此处已经能够看到,复合主体的形成必须连同条件的稳定性来理解,不能只看设备或账户是否存在。

还可区分三种“增强”:机械装置改变力的传递,训练使身体产生变化,交通系统扩大可到达的范围。三种命题的主语与证据不同。反对赋能误导,不是禁止物理学中的放大概念,而是不把传递的力、身体的改变与系统的功能未经说明地合成一个个人能力总量。

七、交通便利也可能带来新的受制

一旦生活围绕某种交通方式重新组织,依赖便可能加深。工作地点、交往范围与时间安排都可能建立在它持续可用的假设上。依赖本身不必被视为失败,因为复合生活本就需要条件;但若关键条件突然失效而没有可行替代,能力就会表现出脆弱性。

于是,系统更强与个人更稳并不总是同步。一个高度集中的服务可能效率很高,却使某些使用者在中断时缺乏选择。解决问题不必是要求人人回到步行,而可以是改善替代路径、支持安排与信息可得性。复合能力的稳健性来自依赖关系的组织,不来自幻想没有任何依赖。

同样,人工智能使用者不必因为无法独立重建模型就被视为不独立,但需要知道关键工作是否只能寄托于一个不可替换的入口。这里的担忧是具体的条件问题,不是抽象的“机器越强我越弱”。条件问题可以通过设计与协商改善,主体恐慌却容易使人只剩拒绝或服从两种选择。

还有一种受制来自评价。原来较远的任务因交通可达而变成“理应承担”的任务,节省的时间也可能被更多安排占满。技术可能扩大行动范围,却不保证个人拥有决定范围用途的机会。广度需要与选择条件结合,才可能成为生活的改善,而不是新的无限要求。

八、为什么不必因跑不过车辆而羞耻

人通常不会把与车辆竞速作为证明自己值得生活的日常要求。这里并非因为身体活动不重要,而是因为交通目的与身体竞赛可以被区分。一个人可以认真训练跑步,也可以坦然乘车,两种活动不需要互相取消。亲自实现与使用成熟服务,能够在同一生活中并存。

认知活动也可以尝试类似区分。为理解一个概念而亲自推演,是一种学习目的;为完成经过明确检验的工作而调用成熟流程,是另一种活动目的。若要求后者每次都完整变成前者,封装就很难扩大。若把前者全部替换为答案交付,学习又可能没有发生。目的需要先被说明。

这并不证明所有认知任务都像乘车一样。交通结果有时较容易感知,复杂论证的正确性可能更难判断,错误后果与反馈速度也可能不同。正因为存在这些差异,我们需要建设相应的可靠性机制,而不是把差异简单转化为“思考永远不能借助外部执行”。

因此,交通类比能够解除一种不必要的羞耻,却不能取消认知工具的检验责任。它告诉我们,依赖成熟封装不自动损害人的价值;它没有告诉我们某个现成系统已经成熟。类比应当停在它能够支持的位置,剩下的工作需要具体研究。

九、把交通能力看成生活关系的组织

到达某处为什么重要,取决于到达之后发生什么。探望、合作、学习、照料与休息,使位移进入更大的生活过程。若只用公里数衡量交通价值,就可能把不断奔波误认为不断改善。工具能力需要被放回它所支持的活动,而不能用自身指标占据生活的全部评价。

同样,信息处理数量不等于理解,生成篇数不等于创造,自动完成的任务数也不等于幸福。我们不是因此否定数量指标,而是要求它们说明自己的对象。一个人借助工具减少重复劳动,只为多一点与家人相处的时间,这种选择不必被要求再转化成更高产出才算升级成功。

从发生视角看,交通改变了哪些关系能够持续,哪些活动能够被组织,这比“腿被增强了”更能解释其作用。人工智能的影响也应在这种尺度上考察:它使哪些问题能够进入,哪些联系能够形成,哪些过程可以托付,又使哪些活动变得更加脆弱。能力的意义在这些关系中显露,而不只在单次表现中显露。

交通案例把三件事分开了:身体运动、复合位移,以及位移为生活打开的新活动。接下来,文字与计算将把同一问题带入认知内部:被保存、调用和执行的,究竟是什么;个人又在哪些过程中形成新的经验?