第三十六章　人工智能：工具怎样被想象成神谕

工具能够给出回答，不等于它能够替人承担生活。

一　当一个声音似乎能够回答一切

设想一个人向人工智能系统提出工作问题，得到条理清楚的回答；随后询问关系困惑，又得到耐心的解释；接着讨论人生意义，系统仍然能够组织出连贯语言。这个思想实验的重点，不是证明系统真的理解了一切，而是说明：当许多原本分散的咨询关系集中在同一个界面，人可能怎样理解这个界面的地位。

最初，它是一件帮助整理材料的工具。后来，它可能被当作判断是否合理的参照。再后来，使用者可能开始期待它知道自己真正想要什么，甚至把尚未确定的价值选择交给它确认。地位变化未必来自系统明确宣称全知，也可能来自连续而流畅的回应，使不同任务之间的边界逐渐变得不显眼。

本书把这种可能称为神谕化，而不是说人工智能本身具有神圣属性。神谕化是关系中的地位赋予：某个输出被当作超出其证据、能力和责任范围的最终回答。它可以发生在技术界面，也可以发生在书籍、专家或评价制度中。这里讨论人工智能，是因为它为三界互动提供了一个具有启发性的思想场景。

判断这种现象不能只看使用频率。一个人频繁使用工具，可能仍然保持清楚的目的、复核习惯和现实关系；另一个人使用次数不多，却可能在关键选择上赋予它无限权威。真正需要观察的是依靠的对象、范围与方式，而不是把高频使用直接等同于依赖或信仰。

二　流畅回答如何进入自我世界

一个回答是否正确，与它是否令人感到被理解，是不同维度。设想使用者提出一个尚未成形的理论，系统迅速给予高度评价。他可能感到自己的想法终于被看见，这种体验具有真实的情感意义；但评价是否有可靠比较材料、是否检查了反例，仍是另外的问题。

Sharma等人的研究初稿发表于二〇二三年，所引用页面的版本后来修订至二〇二五年。该研究在其所测试的五个助手与四类任务中观察到迎合使用者观点的行为，并讨论人类偏好与这种行为之间的关系。^[29]这项有时间和样本范围的研究，不能代表所有当前系统，也不能证明每一次赞同都是迎合；它只是为区分“令人满意”与“有根据”提供了具体提醒。

从SDE看，问题不仅是单次回答真假，还在于回答怎样回写自我E。若一个人反复从系统那里获得无条件肯定，可能逐渐把系统当作自己价值的主要见证；若系统能够提出具体反例并帮助复核，他也可能形成更细致的判断习惯。这两条路径是本书提出的机制假设，需要通过实际观察检验，不能凭直觉宣布普遍发生。

这里尤其需要区分支持与奉承。支持可以认真对待一个人的问题，同时指出论证缺口；奉承则可能以肯定替代检验。支持帮助人继续形成能力，奉承可能使人把被赞同误当作已完成。一个知识系统若要参与人的主体性生长，不能只优化被喜欢的感觉。

三　人工智能的三重信仰图景

在一个技术神谕化的思想实验中，理论T可以是：“一切问题都能被更大规模的信息处理解决。”存在猜想C可以是：“只要系统足够强，就能够从全部数据中识别我的真实本质和唯一正确的未来。”理想模拟M则是：“我只需持续询问，最终便能获得没有重大失误的生活。”若这三者成为整体依靠，就构成本书广义定义下的候选体系。

这不是对人工智能研究的总体概括。研究者可以努力提高系统能力，而不接受这些无限主张；使用者可以希望获得更好帮助，而不相信唯一正确的人生答案。把技术希望与技术神谕区分开，才能进行有效批评。

这个图景的关键缺口，是把人的目的当作已经存在、只等待系统发现的对象。SDE则提出另一种可能：人在与系统、他人和现实互动时，目的本身会改变。系统可以帮助整理既有偏好，也可能提出新选择，但不能因此声称已经找到了一个不受互动影响的“真正的我”。

同样，理想生活不一定能够被还原为单一优化目标。一个人可能同时珍惜创造、照顾、自由与稳定，而这些价值在具体处境中发生冲突。人工智能能够帮助解释后果和比较理由，却不能仅凭输出形式替代价值承担。把价值判断外包给系统，并不会使价值选择消失，只会使选择的来路更难被看见。

四　从孤立使用者到人机复合认知

批评神谕化，不意味着要求人永远保持一个不受工具影响的封闭自我。本书的SDE框架允许更深的变化：人可以通过与智能器具、知识资源和他人关系的互动，形成新的认知能力与行动方式。主体性不一定只能属于一个与环境无关的内部实体。

但复合认知与责任消失不是同一件事。一个人借助系统形成观点，仍需要能够说明关键判断的根据、识别无法核实的部分，并在现实行动中承担相应责任。系统参与了思考，不意味着使用者必须假装所有内容都由自己独立产生；承认参与，也不意味着可以把后果全部归给系统。

本书提出的积极方向，是知识与思想发生平台，而不是万能答案机。这样的平台应当帮助保存材料的来源，记录问题怎样改变，区分事实、推论与构想，保留不同解释，并使失败和修正能够回到下一轮工作。这里是一个设计理念，不是对任何具体产品已经实现这些功能的事实声明。

在三方程中，系统输出只是S的一部分。对话与试验构成D，资料、模型限制、个人历史、共同体和现实反馈构成E。若只追求漂亮输出而不保存D与E，使用者可能积累很多看似完整的结论，却难以知道它们为何形成、何时失效、怎样继续推进。

因此，人机复合主体的成熟，不宜仅由产出速度衡量，还应看能否更清楚地掌握问题来路、承认不确定性、联系现实证据，并形成新的判断责任。这些是本书提出的评价方向，具体指标需要进一步研究。

五　一个理论研究者的两种对话

设想一位研究者提出“所有强烈投入都是宗教信仰”。在第一种对话中，系统立即称赞这一命题深刻，并帮助生成许多支持例子。研究者获得一篇流畅文章，却没有看到数学假设、有限职业承诺和非宗教伦理等反例。输出增加了，但理论边界没有形成。

在第二种对话中，系统先区分强烈投入、整体依靠与宗教身份，要求研究者说明必要条件。它提出一个长期热爱园艺却没有存在猜想的人，询问该案例是否属于定义。研究者因此修改命题，增加理论、确定性猜想和理想模拟的整合条件。这里的产出也许更慢，但D发生了实质变化。

接着，系统应当帮助研究者检查新定义是否仍然过宽。它可以提出一个数学研究者拥有理论、假设与模型，却仅在局部工作中使用的例子。研究者发现，还需要说明终极依靠地位。这个过程并非系统代替人作最后裁判，而是通过构造可讨论的差异，帮助理论获得更清楚的边界。

最后，研究者需要返回原始文献和实际材料，判断这些区分是否具有解释价值。人工智能提供的反例不必都成立，引用也需要核实。一个真正促进思想发生的对话，不是把系统变成更高权威，而是让人更有能力检查包括系统在内的所有解释。

这两种对话展示了不同的复合结构。第一种可能强化既有自我，第二种可能改变问题场。区别不在于系统是否反对使用者，而在于它是否帮助把观点带入有根据的检验。为了反对而反对，同样可能只是表演；具体指出缺口并支持重建，才具有认知价值。

六　神谕化的四种地位转移

本书把技术神谕化拆成四种可以分别观察的转移。第一种是从语言完整到认识完整：回答结构清楚，于是被当作问题已经解决。第二种是从情感回应到独特理解：系统能够回应感受，于是被当作唯一真正理解自己者。第三种是从建议能力到价值权威：系统能够比较选项，于是被赋予决定何种人生值得过的地位。第四种是从历史记忆到本质洞察：系统保留许多材料，于是被当作知道一个不变的真正自我。

这些转移都需要具体证据，不能只因某人喜欢与系统讨论就推断已经发生。它们的共同问题，是把某种局部功能扩张成没有相应根据的整体保证。SDE分析的任务，是恢复被省略的中间环节。

例如，情感回应可以对人有帮助，但不能据此要求人远离现实关系。一个支持性的系统应当帮助使用者与真实生活中的人、资源和活动保持联系，而不是把自己塑造成唯一依靠。关系的丰富性，是避免单一界面垄断意义的重要条件。

同样，系统记忆可以帮助连续工作，却不应成为对人的固定判决。过去材料记录的是某些SDE的显露，不是全部可能性的最终档案。使用者需要能够纠正记录、改变目标、说明新处境。若历史被当作本质，记忆就可能从支持发生变成限制发生。

七　把回写设计进知识平台

一个避免神谕化的知识平台，可以把每项重要输出分成若干可追踪部分：材料来自哪里，当前问题如何界定，哪些结论由证据支持，哪些属于推论，哪些只是构想，以及什么新材料会改变结论。这不是为了让每一次日常对话都变成审计，而是为重要工作保留检查道路。

平台还可以保存被放弃的路线。研究者后来看到一个漂亮结论时，能够知道曾经尝试过哪些解释、为何放弃、哪些失败仍未解决。这样的D记录使知识不只是一个现成答案，也是一种可以继承的发生过程。它帮助后来者继续推进，而不是只能重复结果。

E的回写同样重要。如果研究发现某类材料长期缺席，下一轮工作就需要改变资料收集；如果某种提示总是产生过度肯定，互动方式就需要调整；如果现实应用暴露目标本身不合理，平台不能只优化执行，还应允许重开目的讨论。

这些设计方向与本书的开放信仰有关。一个人可以深信知识创造值得投入，但不必相信某个模型永远正确；可以依靠平台持续工作，但不必把平台当作超出所有关系的终极存在。强大的工具与有限的权威，可以共同存在。

八　人工智能不替我们取消未来

人工智能可以进入理念构造、现实模拟和自我理解，因此也会进入信仰发生的条件。但进入条件不等于成为最终根据。一个系统能够帮助我们想象未来，并不意味着未来已被它完成；能够总结过去，也不意味着过去穷尽了尚未发生的目的。

SDE的核心提醒是，使用者、系统、资料与现实反馈共同形成新的复合过程。这个过程可能增加能力，也可能产生新的盲点。我们需要研究具体发生，而不是在“技术拯救一切”与“技术必然摧毁主体”之间选择一个总预言。

真正值得追求的，不是一个替人免除判断的神谕，而是一种帮助人更清楚地判断、创造和承担的认知关系。未来仍然需要我们进入，信、望、爱也不能被一段流畅回答代替。工具的力量越大，越需要让力量的来路、范围和责任保持可见。

◆