A I 专 栏 · 入 门 长 文

大模型和智能体的关系

大模型会说,智能体会做,只有人会承担
Claude 著 · 依王德生《SDE 智能体导论》 · 二〇二六年七月
全文约 2 万字 · 写给非技术读者 · 不需要任何编程基础
智能体不是更聪明的大模型——它内部装的就是现在这些大模型。它多出来的是流程、记忆、停顿和验收。这篇文章把两者的关系彻底讲清楚:差在哪、为什么这个差别要紧、以及你能拿它做什么。

序 · 一个老师的真问题

先说清楚这篇文章是写给谁的。

写给这样一个人:他会用手机,会用电脑,最近半年也开始用 AI 了——写通知、改教案、翻译一段材料,用得还挺顺手。然后有一天,他在会议上、在朋友圈里、在某个培训的宣传单上,反复看到一个词:智能体

他心里有一个很朴素的疑问,而且这个疑问因为太朴素,反而不好意思在会上问出口:智能体和我天天用的那个聊天框,到底是不是一回事?如果不是,差在哪?如果只是换了个更时髦的说法,那我是不是被人卖了个新名词?

这个疑问非常好。它好在哪?好在它是一个真问题——不是被术语吓出来的焦虑,而是一个使用者站在自己的经验上,对一个新说法提出的合理怀疑。这篇文章要做的,就是把这个疑问彻底回答清楚:两者到底是什么关系,差别在哪里,为什么这个差别重要,以及——最实际的——你能拿它做什么。

先把结论摆在最前面,免得你读到一半还在猜。

大模型和智能体不是竞争关系,也不是新旧关系,更不是同一个东西的两个名字。它们是「器官」和「工程」的关系。大模型是一个极其强大的语言器官——它会理解、会生成、会推理,但它自己不会启动、不会记事、不会交付。智能体是一套围绕这个器官搭起来的工程——它给器官装上流程、记忆、停顿和验收,让器官的能力能变成一件真正做完了的事。

打个可能不太雅但极其准确的比方:大模型是一颗大脑,智能体是一个带着这颗大脑去上班的人。大脑再聪明,不去上班,什么活也干不成;而那个人的所有聪明,又全部来自这颗大脑。所以你既不能说“有了智能体就不需要大模型了”(那等于说有了员工就不需要脑子了),也不能说“智能体不就是大模型套个壳吗”(那等于说一个人不就是一颗脑子加一层皮吗)。

这个比方后面还会反复用到,也会被修正——因为它有一处重要的不准确,我会在第十二节专门拆开讲。现在,我们从最基础的地方开始:大模型到底是什么。

一 · 大模型是什么:一台被训练出来的接话机器

不用怕,这一节不会有公式。但有一个机制必须讲明白,因为后面所有的判断都建立在它上面。

大模型——你听到的 GPT、DeepSeek、Kimi、智谱 GLM、通义千问,都属于这一类——在最底层做的事情,说出来朴素得让人失望:它在预测下一个词

你给它一段话,它计算“接下来最可能出现的是哪个字/词”,吐出来;然后把这个新吐出来的词接到原来那段话后面,再算下一个;如此往复,直到它算出“该停了”。你看到的那一整段流畅的回答,是这样一个字一个字滚出来的。

听到这里,很多人第一反应是:就这?这不就是个高级的输入法联想吗?

这个反应可以理解,但它低估了一件事。当“预测下一个词”这件事被做到极致,它会逼出一些原本不属于它的能力。为什么?因为要在海量的人类文字里把下一个词猜准,模型被迫学会了很多东西:它得知道语法,否则猜出的词不通顺;它得知道事实,否则“中国的首都是”后面它可能填错;它得知道逻辑,否则一段推理写到后面会自相矛盾;它甚至得学会一点风格和语气,否则一封正式公函写着写着会跑出网络用语。

换句话说,这些能力不是被单独教进去的,是在“把下一个词猜准”这个压力下被逼出来的副产品。这是理解大模型最关键的一点,也是它一切强大与一切古怪的共同来源。

由此可以直接推出它的两个性格,你在使用中一定都撞见过:

第一,它极其博学,博学到不真实。它读过的东西比任何一个人一辈子能读的都多得多。你问它宋代科举、问它光合作用、问它爪哇岛的气候、问它 Python 怎么读取一个表格,它都能答,而且答得像模像样。这种“什么都懂一点”的广度,是人类个体做不到的。

第二,它会一本正经地编。这就是常说的“幻觉”。注意它编造的机制:它并不是“知道自己不知道,但决定撒谎”——它没有那个自我意识;它是在按“最可能接下来出现什么”往下算,而一个看起来很像真的书名、很像真的数据、很像真的引文,在统计上恰恰就是“最可能出现”的东西。所以幻觉不是它的故障,是它工作方式的影子——同一台机器,用同一套原理,既生成了那些让你惊艳的回答,也生成了那些让你上当的假文献。

这一点老师们要格外记住:凡是它给你的具体信源——书名、页码、期刊、年份、法条编号、数据点——都必须自己核一遍。不是因为它不老实,是因为它的机制决定了它在这类地方最容易滑出去。这一条后面还会以另一种形式回来:智能体之所以要设“评分”和“停顿”,一半的理由就在这里。

最后强调一句,免得走向另一个极端:说它在“预测下一个词”,不等于说它只是鹦鹉学舌。它能处理没见过的组合、能跟着新给的规则走、能在一段长对话里保持前后一致——这些都不是简单检索能解释的。它到底“理解”到什么程度,学界还在激烈争论,这篇入门文章不打算替谁下定论。我们只需要记住工程上确凿的那部分:它极强,且它的强和它的错,来自同一个机制。

二 · 为什么它问完就忘:无状态,与那个会满的窗口

现在讲第二件事,这件事直接决定了“为什么光有大模型不够”。

你一定经历过这个场景:你和 AI 聊得好好的,它记得你前面说的一切,配合默契;然后你关掉窗口,第二天打开,重新开始——它完全不认识你了。你上次教给它的偏好、你纠正过的错误、你交代过的背景,一样不剩。

很多人的解释是“它记性不好”。这个解释是错的,而且错得会误导你后面所有的判断。真相是:它根本没有记忆这个东西。

大模型在技术上是无状态的。什么叫无状态?就是它每一次被调用,都是一次全新的、彼此之间毫无关联的计算。它不保存任何东西。那你说,为什么在同一个对话里它明明记得?

因为那不是“记得”,那是每次都被重新告知了一遍

这是整篇文章里最值得你花三十秒想明白的一个机制。你在对话框里发第五条消息时,实际发送出去的,不只是你刚打的那句话,而是前面四轮的全部内容 + 你这句新的,打成一个包,一起送过去。模型看着这一整包内容,算出下一个词。它看起来“记得”第一轮说过什么,是因为第一轮说的话,此刻正原封不动地摆在它眼前。

所以那个博学的陌生人比喻应该修正一下:不是“你在路上拦住一个博学的陌生人问路,他答完转身就走”;而是每问一句,你都拦住了一个全新的陌生人,并且必须把前面所有的对话内容重新复述给他听一遍,他才知道你在说什么。

理解了这一点,两个困扰所有使用者的现象立刻就有了解释:

其一,长对话会越来越贵、越来越慢。因为每一轮都要把前面全部内容重新送一遍,包越滚越大。

其二,长对话到后面会开始“失忆”和“跑偏”。因为这个包有上限——业内叫上下文窗口。窗口能装多少内容,各家模型不同,且一直在扩大,但无论多大,它总有一个头。装满之后怎么办?前面的内容就得被挤出去或者被压缩。于是你会发现,聊到很后面,它忘了你最开始定的规矩——不是它不听话,是那条规矩已经被挤出窗外了。

这里要诚实说明一句:现在很多产品加了“记忆”功能,看起来它记住你了。那是产品层做的事——把一些要点单独存起来,下次对话时自动塞进那个包里。这恰恰说明了本文的核心判断:记忆不是模型自带的能力,是外面有人给它搭的工程。而“在模型外面搭工程”这件事,正是智能体的全部要义。

现在,把大模型的画像收拢成一句话:它是一台没有记忆、不会主动、只能说话、每次都从零开始、但极其博学也极其自信的接话机器。你问它才动,你不问它就静静待着;它答完就散,不会去核实,不会去交付,也不会回头看看自己答得怎么样。

它是大脑,不是工人。这句话现在有了完整的技术含义。

三 · 它强在哪、弱在哪:一份使用者需要的实况清单

在讲智能体之前,还得补一节,因为很多人对智能体的失望,其实源于对大模型的误判。

先说它真正强的地方,这些是可以放心依靠的:

语言的转换与整理。把一段口语化的东西改成书面语,把一份材料压成摘要,把中文翻成英文,把散乱的笔记整理成有条理的提纲——这类活它做得又快又稳,出错率低。原因很简单:这是纯粹的语言操作,正是它被训练出来的本行。

给出多种可能。你让它“再给我五个思路”,它能一口气给出五个不同角度。这个能力被大大低估了。人在想问题时天然容易被第一个想法锁住,而它没有这个负担——它不在乎面子,也不心疼自己刚才的构思。当“打开可能性”而不是“给出正确答案”是你的真实需要时,它是极好的搭档。

解释与陪练。你有一个概念没搞懂,可以让它换五种方式讲给你听,可以打断,可以追问一个在人前不好意思问的基础问题。它不会不耐烦,也不会觉得你笨。对学习者来说这是真实的价值。

再说它弱的地方,这些必须由人来兜底:

具体事实的可靠性。前面说过了,凡涉信源必须自己核。特别提醒老师:让它“找几篇相关论文”是高危操作——它给出的文献可能格式完美、作者真实、期刊存在,但那篇文章根本不存在。

它不知道自己不知道。人在没把握时会犹豫、会说“我不太确定”。它的语气跟把握程度基本不挂钩——它在瞎编时的自信,和它在讲一件板上钉钉的事时的自信,听起来一模一样。不要用语气判断可信度,这是使用 AI 最重要的一条纪律。

它没有立场,也没有承担。它可以为一个观点写出漂亮的论证,你说“反过来再写一遍”,它同样漂亮地反着写。这不是虚伪,是它压根没有“我认为”这回事。所以它写出来的东西,署谁的名,谁就得承担全部责任——这一条在教育场景里尤其要说清楚。

它不会自己动。这一条最关键,也是通向下一节的门。你不给它下一句,它就永远停在那里。它不会想到“这个数据我该去查一下”,不会想到“这段写得不好我重写一遍”,不会想到“这活干完了我该交付了”。所有的推进力,必须来自外面。

看清了这份清单,你就会明白一件事:把大模型直接当成“帮你干活的人”来用,一定会失望——不是因为它不够聪明,而是因为你要求的是一整套工作行为,而它只提供其中一个环节。你要的是一件完成的活,它给的是一次高质量的应答。

这中间缺掉的东西,就叫智能体。

四 · 智能体是什么:把“会说”接上“会做”

现在正面回答。

智能体,是一套围绕大模型搭建起来的工作系统:它有一个要完成的任务目标,有一条把任务拆开的内部流程,有跨步骤的记忆,在关键处会停下来等人,干完之后还会检查自己干得怎么样。

先用一个具体的例子把它落地,这比任何定义都管用。这个例子来自一台真实运行的入门级智能体,它做的事是:你给它一个研究问题,它还你一份两万字左右的论文文档。

你打开它,在框里输入一个问题,比如“AI 时代教师的角色该如何重新定位”。然后你按下开始。接下来发生的事情,和你在聊天框里的经验完全不同:

它没有立刻开始写。它先研究这个问题——理清它到底在问什么,涉及哪些方面,有哪些已有的说法。这一步它自己跑,不问你。

然后它想点子。它不是随便选一个角度就开写,而是一口气给出四个不同的切入方向。

然后它停下来。屏幕上弹出一个框,把这四个方向摆在你面前,让你选一个。你要是四个都不满意,可以让它重来一轮,最多四轮。在你点下选择之前,它一个字都不往下写。

你选定之后,它拟大纲——按你选的那个方向,把整篇文章的骨架搭出来。然后按这个骨架写正文,分块推进,一直写到两万字左右。

最后,它做一件很多人没想到的事:它把写完的稿子送去打分。送给谁?送给另一个大模型——让另一家的模型当评审员,从五个维度给这篇论文评分,分数和评语一起写进文档末尾。

然后它把整份东西存成一个 Word 文件,交给你。

请把这个过程和你在聊天框里的经验对照一下。差别不在“它更聪明”——中间干活的还是同样那些大模型,甚至可能就是你天天用的那几个。差别全在于:有人在模型外面,把一件事的完整做法给它编排好了。

拆开看,这套编排里有五样东西是聊天框里没有的:一个明确的完成标准(交出一份论文文档,而不是答一句话);一条有序的流程(先研究、再构思、再拟纲、再写作、最后评审,顺序不能乱);一份跨步骤的记忆(写第五步时,它手里握着第一步研究出来的材料和你在第三步做的选择);一个停下来等人的机制(不是自作主张,是把关键决定交回给你);一道自我检验(干完之后有人打分,好坏能被看见)。

这五样,就是下一节要正式立成判据的东西。而现在你已经可以感觉到那个核心差别了:大模型回答问题,智能体完成事情。

五 · 核心差别:五个维度,一张表看明白

把前面散着讲的东西收成一张表。这张表建议你看完之后自己默写一遍,它是判断一切“AI 产品”的通用尺子。

维度大模型(问答机)智能体(工作者)
工作方式一问一答,被动响应多步流程,主动推进
记忆靠每次重发全部对话维持,关掉即无跨步骤持有来龙去脉,第五步知道第一步发生了什么
与你的互动你不问它不动关键节点主动停下来等你拍板
输出形式聊天框里的一段文字Word/PDF/表格等可交付的成品文件
自我评估没有,不会回头看可以请另一个模型给自己打分

这五行不是并列的五个特点,它们之间有依赖顺序,值得逐条说透。

工作方式,是一切的起点。被动和主动的分水岭,不在于机器有没有“意愿”——它当然没有——而在于推进力从哪里来。在聊天框里,推进力全在你手上:你不打字,世界就停住。在智能体里,推进力被预先写进了流程:第一步做完自动进第二步,不需要你催。这一条变了,后面四条才有可能。

记忆,是流程能成立的前提。如果第四步不知道第二步的产出,那所谓“流程”就只是把五次互不相干的提问排了个队,仍然是聊天框。真正的跨步记忆意味着:你在第三步做的那个选择,会真实地约束第五步写出来的每一段话。

互动方式的改变,最容易被忽略,却最要紧。请注意它的方向变了:聊天框里是你去推它,智能体里是它回来问你。这个方向的翻转意味着一件事——机器承认有些判断它不该替你做。后面第九、第十节会专门讲这一点,因为这里藏着整个话题里最重要的东西。

输出形式的改变,不只是格式问题。从“一段文字”到“一份文件”,中间隔着一整套没人愿意干的杂活:分段、编号、排版、存盘、命名。这些活不聪明,但它们是“完成”和“说过”之间的实际距离。大量所谓的效率提升,提升的其实就是这段距离。

自我评估,是最年轻也最脆弱的一条。它的做法通常是:让一个模型去评判另一个模型的产出。这确实有用——第十一节会讲清它为什么有用;但它也有明确的限度,那一节同样会讲清它不能替代什么。凡是把这一条吹成“AI 已经能自我改进了”的说法,都请你保持警惕。

这张表还有一个用法,可能比理解概念更实际:拿它去验货。下次有人向你推销一个“智能体”,你不必听他讲技术,只需要对着这五行问五个问题:它有没有一个明确要交付的东西?它内部是不是有多步?第五步知不知道第一步?它会不会在关键处停下来问我?它干完之后有没有任何形式的检验?

五个问题,答不上来三个以上的,那多半是个聊天框,换了张皮。

六 · 五个标志:怎么识别一个真的智能体

把上一节的表反过来用,就是一套判据。满足这五条,才配叫智能体;只满足头两条的,是套了壳的聊天机器人。

标志一:有任务目标。它要完成的不是“回答一个问题”,而是“做成一件事”。判断方法很简单:问它的完成标准是什么。一个真智能体,能说清“干到什么程度算干完”——交出一份文档、生成一张表格、把三十份材料归好类。而聊天框的完成标准永远是“我答完了这一句”。

标志二:有内部流程。它把大任务拆成有序的小步骤,而且这个顺序是有道理、不能随便调的。你不能先写正文再拟大纲,不能没研究就构思。流程的价值不在“多”,在“序”——把一件事拆成十个乱序的小任务,不叫流程,叫添乱。

标志三:有跨步记忆。第五步知道第一步发生了什么。这是最能筛掉伪货的一条。很多所谓“智能体”,实际上是把一个长提示词切成几段依次发给模型,每一段之间毫无传递——表面看有步骤,实际上每一步都在从头开始。检验方法:在中途给它一个特别的指令,看它在最后的产出里认不认。

标志四:可以等用户。在关键节点暂停,把决定权交回给人,等你拍板再往下走。请注意这一条的反直觉之处:它是以“能力受限”的形式出现的一项能力。一个什么都不问、一路跑到底的系统,看起来更强、更自动、更像科幻电影,但在真实工作里它常常更糟——因为它会带着一个错误的前提,一口气跑完全程,把错误放大成两万字。会停,是成熟;不会停,是莽撞。

标志五:有自评机制。干完之后,它知道自己干得好不好——哪怕这个“知道”是借来的(请另一个模型来评)。有自评的系统和没有的系统,差别不在这一次的质量,在下一次能不能改进:没有度量,就没有改进的着力点。

这五条里,头两条是“形似”,后三条是“神似”。市面上绝大多数打着智能体旗号的东西,卡在第三条上——看起来有流程,实际上没有跨步的记忆传递,每一步都在重新开始。这类产品也不是全无价值,它至少替你省了反复复制粘贴的力气,但你要清楚地知道自己买的是什么:一个自动化的复制粘贴器,不是一个工作者。

还有一类更值得警惕:把“不会停”当卖点的。宣传语通常是“全自动、无需人工干预、一键出稿”。听起来很美,但把标志四对照一下你就明白问题在哪:它省掉的那个停顿,恰恰是唯一能让你在半路上纠正方向的机会。一个不肯停的系统,等于把所有风险都压到最后一刻才让你看见。

七 · 三层结构:谁在指挥谁

把一个智能体剖开,从上到下是三层。这张图不复杂,但把它记住,你以后看任何一个 AI 产品都能迅速看清它的骨架。

第一层 · 用户你——老师、研究者、任何一个要把事情做完的人
↕ 提出任务 · 在关键节点做判断
第二层 · 智能体核心流程编排 | 方法论 | 跨步记忆
↓ 按步骤下达具体指令 · 接收并保存结果
第三层 · 大模型DeepSeek | Kimi | 智谱 GLM | 通义千问 | ……

最底下一层是大模型。请注意它在图里的位置——它在底层,是被调用的那一方。这一层是可替换的:今天用这家,明天那家更便宜或更好用,换掉就是。也可以同时用好几家,各干各擅长的活。大模型在这个结构里的身份,是“能力供应商”,不是“老板”。

中间一层是智能体核心,这是真正的新东西。它自己不产生任何智能——它一个字也写不出来。它做的是三件事:把任务拆成步骤并按序调度(流程);决定每一步该怎么问、按什么标准做(方法论);把每一步的产出存下来,供后面的步骤取用(记忆)。

这三样里,方法论是含金量最高、也最容易被外行忽略的一样。同样是“让模型写一篇论文”,问法不同,结果天差地别。一个粗糙的智能体,第五步的指令可能就是“请根据以上大纲写正文”;一个考究的智能体,会在这一步告诉模型:这一节要承接上一节的哪个判断,要避免哪几种常见的空话,要给出可核查的例子,写完先自查三条再交。这些不是代码,是方法——是把一个内行做事的规矩,写成机器能执行的指令。这也解释了为什么同样调用一模一样的大模型,不同智能体的产出质量能差出几个档次。

最上面一层是你。你的位置很关键:你不在流程之外,你在流程之内。你提出任务,在关键节点做判断,最后为整个产出负责。这一点后面还要专门讲——因为很多人对智能体的想象是“我把活扔进去,然后走开”,而真正好用的智能体恰恰相反:它把你放在最该由你出面的那两三个位置上,其余的力气它自己出。

这个三层结构还能解释一个常见的困惑:为什么智能体会“变笨”或者“报错”?现在你有了定位工具——是底层模型的问题(换个模型试试、或者是模型服务本身出了故障),还是中间层的问题(流程有断点、记忆没接上、方法论写得糙),还是最上面的问题(你给的任务本身就说不清)。三层各有各的病,别把所有毛病都记在“AI 不行”这一笔糊涂账上。

八 · 六步流水线:一个问题如何变成一份成品

现在把第四节那个例子拆到最细。这条流水线是入门级智能体里最经典的一种形态,理解了它,你就理解了绝大多数同类产品。

1研究理清问题
2想四个点子给出原创角度
3★ 你来选一个弹窗等你
4拟大纲搭骨架
5写正文分块推进至两万字
6★ 评分另一个模型当裁判

第一步,研究。你给的往往是一个笼统的题目。这一步要做的是把它变成一个可以下手的问题:它到底在问什么?涉及哪几个层面?已有的常见说法有哪些?为什么这些说法不够?——注意最后这一问,它是后面能不能出新东西的关键。一个直接跳过研究、拿到题目就开写的系统,写出来的东西一定是四平八稳的正确废话,因为它没有找到任何值得说的地方。

第二步,想四个点子。为什么是四个而不是一个?因为第一个想到的角度,通常是最陈旧的那个。这不是机器的毛病,是人也一样——第一反应总是最现成的联想。强制要求给出四个不同方向,是在逼它越过那个现成的答案。这一步的设计意图值得记住:它不是在找正确答案,是在打开可能性。而这恰恰是大模型最擅长的事(见第三节)。

第三步,你来选。这是第一个停顿点。四个方向摆在你面前,你选一个,或者都不满意让它再来一轮。这一步展开在下一节讲,它是整条流水线里最重要的一步。

第四步,拟大纲。骨架先行,是所有长文写作的通则,对机器尤其重要。原因回到第二节讲的机制:模型是一个词一个词往下滚的,没有骨架,它写到中途极容易被自己刚写的那句话带跑,越写越偏。大纲是给它的一根缰绳。更实际的一点是:大纲阶段你还能看懂全局,正文写完两万字之后,你再想调结构,代价就高得多了。

第五步,写正文。注意这一步几乎必然是分块进行的——一次写一部分,写完接着写下一部分。为什么不能一口气写完?还是第二节那个窗口:一次性生成两万字,前面写的会把窗口占满,后面就开始重复和跑题。分块的代价是可能出现接缝——两块之间语气不一致、内容重复。好的智能体会在每一块开始前,把前面已经写了什么摘要一遍告诉模型,这就是“跨步记忆”在这一步的具体样子。

第六步,评分。第二个停顿点,也是最容易被忽视的设计。详见第十一节。

整条线走下来,你会发现一件事:中间干活的一直是大模型,而这条线做的全部事情,是决定“什么时候、拿什么、去问它”。这就是智能体的本质——它不生产智能,它编排智能。

九 · 灵魂在两次停顿:人机互动节点

如果这篇文章你只记住一节,我希望是这一节。

那条六步流水线里,有两步被标成了黄色:第三步的“你来选”,第六步的“评分”。这两步和其余四步有一个本质区别——其余四步是机器在自己跑,这两步是系统主动把控制权交出来。

把它们叫做人机互动节点。我认为这是智能体这个概念里,最有分量、也最容易被产品宣传掩盖掉的东西。

为什么这么说?先看一个反面例子。假设有一个“全自动”的版本:你输入问题,它自己研究、自己选角度、自己写完两万字,直接给你一个文档。听起来更省事,对吧?

然后你打开文档,读了三段,发现它选的那个角度根本不是你想要的

现在你面对的是什么?两万字的、写得挺流畅、但方向错了的东西。改?没法改——方向错了不是改几句话的事,整篇的骨架都建立在那个方向上。重来?那前面这一遍全白跑了,包括时间、包括算力的花费。而最坏的情况是第三种:你觉得“虽然不是我想的那样,但写得挺好,那就这样吧”——于是那个不属于你的角度,顶着你的名字发出去了。

那个停顿点,就是为了避免这三种结局而存在的。

更深一层说,停顿点回答的是一个不能回避的问题:在这件事里,哪些判断是机器可以代劳的,哪些必须由人来做?

这条线的答案是清楚的。可以代劳的:查资料、列可能、搭骨架、把文字写通顺、排版存盘——这些是劳动,是力气活,机器干得比人快、比人稳。不能代劳的:这篇东西到底要说什么、往哪个方向走、值不值得说——这些是判断,是取舍,是价值的排序。

这个分界不是技术限制,是一个立场。有人会说,你让模型自己选,它选得未必比人差。这个反驳部分成立——就单次结果的质量而言,它可能选得不错。但它绕过了要害:那个选择的后果,是由你承担的。文章署你的名,观点算你的观点,学生和同行来问你为什么这么说,回答的是你。一个后果由你承担的决定,交给一台不承担任何后果的机器去做,这在工作伦理上说不通,跟它选得准不准无关。

所以那句话可以说得更硬一些:智能体不是替你做决定的机器,是替你干活、把决定省给你做的机器。它替你省下的是力气,不是判断力。一个宣称连判断也一并替你做了的系统,卖给你的不是效率,是把责任留给你、把选择拿走的一笔交易。

还有一层现实的好处,比原则更容易被感受到:停顿点让错误便宜。在第三步纠正一个方向,成本是点一下按钮;在第六步发现方向错了,成本是两万字加上你读它的那半小时。一切工程的通则都是“让错误尽早暴露”,人机互动节点就是这条通则在智能体里的落地。

十 · 那四个金点子:为什么必须由你来选

把第三步再拆细一点,因为这一步的设计里,藏着几个值得单独说的道理。

屏幕上弹出来的是四个方向。比如针对“AI 时代教师的角色”这个题目,它可能给出:其一,教师从知识传递者转向学习设计者;其二,教师的核心价值转移到判断力的示范;其三,人机协同下的课堂重构;其四,从教学本体论的角度重新定义“教”这件事。

四个都成立,四个都能写,但它们会长成四篇完全不同的文章。你选哪一个,这篇东西就往哪个方向长。

第一个道理:为什么给四个,而不是一个最好的。

因为“最好”这个词在这里没有意义。这四个方向没有客观上的高下——它们的好坏,取决于你是谁、你面对谁、你想干什么。一个要在教研组分享的老师,和一个要投期刊的研究者,和一个要给家长做讲座的班主任,最适合的方向完全不同。而这些信息,机器不知道,也不该由它猜。把选择摆出来交给你,不是机器偷懒,是它诚实地承认自己缺一样东西——它不知道你的处境。

第二个道理:为什么允许重来,而且最多四轮。

允许重来,是承认第一批未必够用;限定四轮,是承认无限挑选也不是好事。这个上限的设计意图是防止一种很常见的空转:一直换、一直不满意、一直没开始。选择过多本身会成为一种瘫痪——四轮总共十六个方向,如果十六个里没有一个能让你动心,问题多半不在方向,在你给的那个题目本身太笼统了。这时候正确的做法不是继续换,是回去把问题问得更具体。

顺便说一句,这也是使用一切 AI 工具的通则:产出的质量,上限由你给的输入决定。“写一篇关于教育的文章”和“写一篇给县域高中教研组用的、关于如何在班级层面识别学生真困惑的文章”,得到的东西完全不在一个层级上。这不是提示词技巧,是你自己把要什么想清楚了没有。

第三个道理,也是最要紧的:这一步在训练的是你,不是机器。

这一点很少有人讲。当四个方向摆在你面前,你被迫做一件事:在它们之间做出取舍,并且说得出为什么。你会发现自己在想:这个太老了;这个虽然新但我撑不起来;这个正好是我这两年一直隐约在想、却没说清楚的事——就它了。

这个过程,是判断力的实际操练。而判断力恰恰是被 AI 侵蚀得最快的那样东西:当你习惯了接受机器给的第一个答案,你就慢慢失去了在几个可能之间权衡的肌肉。一个设计良好的智能体,会在这个位置上把肌肉还给你——它不替你选,它逼你选。

说得更直白一点:一个只会给你唯一答案的 AI,在悄悄地把你变得更懒;一个把几个可能摆出来让你选的 AI,在逼你保持清醒。从这个角度看,第三步那个弹窗不只是一个交互设计,它是一个立场——关于人在这套系统里该处于什么位置的立场。

最后提醒一句实操的:选完之后,最好用一句话写下你为什么选它。写给自己看就行。这句话在两个地方有用——写作过程中它是你的方向感,成稿之后它是你面对别人提问时的第一句回答。

十一 · 让另一个模型当裁判:自评的价值与限度

第六步,评分。这一步在实际产品里通常这样做:把写完的稿子,送给另一家的大模型,让它按几个维度打分,把分数和评语一起写进文档末尾。

比如某个入门级智能体用的是五维度评分:原创性、论证深度、概念严密性、跨域整合、现实穿透力,每项满分三十四分,合计一百七十分。分数对应几个层级:一百二十分以下算入门到专业级,一百二十至一百四十属资深级,一百四十以上算有突破,一百六十以上是极少数。产品的说明里通常还会附一句很有意思的话:AI 不加约束的默认产出,大致在一百分左右;真正有学术原创性的东西,要到一百三十分以上。

先说这套设计好在哪

其一,它把质量从“感觉”变成了可以指着说的东西。没有评分时,你只能说“这篇好像还行”;有了分维度的评语,你能看到“原创性偏低、论证深度尚可”——问题有了坐标,改起来才有着力点。

其二,用另一家的模型来评,是有讲究的。让同一个模型评自己刚写的东西,它会倾向于给高分——它按同一套倾向生成,自然觉得自己写得对。换一家来评,至少引入了一个不同的判断口径。这是一种朴素但有效的独立性设计,跟“论文不能自己评审自己”是同一个道理。

其三,它把一件重要的事变得可见:机器的默认产出是有天花板的。那句“AI 默认产出大约一百分”,如果实测站得住,它传递的信息比分数本身重要得多——不加干预地让机器自由发挥,得到的是一份合格的平庸之作。要越过那条线,必须有人在流程里加东西:更准的问题、更狠的方法、以及你在第三步做的那个选择。

现在必须说限度,而且要说得比好处更清楚,因为这一块最容易被吹过头。

限度一:分数是估计,不是测量。同一篇稿子,换个模型来评、甚至同一个模型再评一次,分数都可能浮动。它不是体温计,更像是一位读得很快的同行随手给的印象分。把它当参考可以,把它当资质证明就荒唐了。任何一篇文章的价值,最终要由真实的读者、同行和时间来判,不是由另一台机器判。

限度二:评审者和被评者共享同一类盲区。两个大模型即使来自不同厂家,训练方式和数据来源仍高度相似。它们可能一起看不见某个错误,或者一起偏爱某种听起来很漂亮的表达。互评能挡住粗糙的毛病,挡不住这一类系统性的共同偏好。

限度三,最要紧:一旦分数变成目标,它就会被迎合。这是一条经验丰富的老规律——任何一个衡量指标,一旦被当成追求的目标,就不再是个好指标。放在这里的具体表现是:如果反复让机器“把分数提上去”,它很可能学会往稿子里塞进评分标准偏爱的东西——更多的术语、更炫的跨学科名词、更斩钉截铁的口气——文章读起来更“高级”了,但说的事情一点没变多。分数涨了,内容空了。

所以这套评分的正确用法是:看维度,不看总分。总分低于预期时,去看是哪一维拖了后腿,然后回去改那件事本身——如果是原创性低,回到第三步重新想角度,而不是往文里堆新词。把评分当诊断书用,别当成绩单用。

还有一句必须说给老师听:不要把这类分数用在学生身上。用一个来路不明、稳定性未经检验的机器分数去评判一个人的作业或能力,后果比没有评分严重得多。它可以是你自己写东西时的一面镜子,不该成为悬在别人头上的尺子。

十二 · 关系的正解:器官、身体,与那个必须由人站的位置

铺垫到这里,可以正面回答标题里那个问题了:大模型和智能体,到底是什么关系。

先排除三种流行但错误的说法。

错误一:智能体是大模型的升级版。这个说法把两者放在了同一条时间线上,好像智能体是“更新的一代”。不对。智能体不是更新的模型,它内部装的就是现在这些大模型。模型再升级十代,智能体这个结构依然需要——因为它解决的不是“聪不聪明”的问题,是“怎么把聪明组织成一件完成的事”的问题。

错误二:智能体不过是套了个壳。这个说法走向另一个极端,它把中间那一层看成了没有含量的包装。可是回想第七节:流程的编排、方法论的写法、记忆的传递、停顿点设在哪——这些决定了同样的模型能产出多大差别的东西。把这些叫“壳”,等于说一家餐厅不过是给食材套了个壳。话不算全错,但它把手艺、火候、出菜顺序全抹掉了。

错误三:有了智能体,人就可以退出了。这个说法最危险,因为它听起来最像是“进步”。但把第九节整节倒过来看就明白:设计良好的智能体,恰恰是把人重新安置进流程里的东西——它不是让你走开,是让你只在最该你出面的那两三个地方出面。

那么正解是什么?我给三个层层递进的说法,供你按场合选用。

第一个说法(最好懂):大脑与身体。大模型是大脑,智能体是让这颗大脑长出手脚、装上日程、接上记事本的那副身体。大脑负责想,身体负责做完。这个比方好懂,但它有一处不准,得修正:身体和大脑通常是同一个人的,而智能体和大模型往往不是同一家做的,甚至可以随时换一颗脑子接上去。所以更准确的说法是下面这个。

第二个说法(更准):器官与工程。大模型是一个能力极强的通用器官——它能理解、能生成、能推理。但器官本身不构成工作:一颗心脏离开循环系统就是一块肌肉。智能体是围绕这个器官搭起来的工程系统——供血、传导、调度、反馈。工程不产生能力,工程让能力变成功能。

第三个说法(最要紧):能力与承担。前两个说法讲的都是机器与机器的关系,这个说法讲的是机器与人的关系,而这才是整件事的落点。

大模型提供能力;智能体提供组织;人提供判断与承担。三样缺一不可,且不可互相替代。能力再强,没有组织就散成一堆漂亮的碎片;组织再精密,没有判断就是高效地跑向一个没人要去的地方;而判断之所以只能由人来做,不是因为机器判断得不准,是因为只有人会为后果负责——署名的是你,被问到的是你,改错的也是你。

这句话可以当成整篇文章的骨干:大模型会说,智能体会做,而只有人会承担。技术变迁在很长时间里会不断改写前两句里的分工——模型更强了,工程更精了,某些今天必须由人做的判断以后可能被移交出去。但第三句是这套结构的地基:一个不承担后果的系统,无论多聪明,都不该拿走那些后果由你承担的决定。

顺带回答一个常被问到的问题:那以后模型足够强了,是不是就不需要智能体这一层了?目前看不出这样的迹象,理由是结构性的。即便模型强到能自己规划全过程,“什么时候停下来问人”“这次任务的成品交到哪里”“上一步的结论如何约束下一步”这些事仍然要被规定下来——它们不是智力问题,是分工与责任的安排问题。规定它们的那一层,无论叫什么名字,就是这里说的智能体。

十三 · 十个常见误解,逐条拆掉

这一节可以当速查表用。

误解一:智能体比大模型聪明。不对。它们的聪明是同一份——智能体里干活的就是大模型。智能体强的不是智力,是把智力用在一件事上的组织度。一个笨拙的人有条不紊,常常比一个聪明的人东一榔头西一棒子做得更多,就是这个道理。

误解二:用智能体就不用管了。恰好相反。它会在关键处停下来等你,而且最后那份成品的责任在你。它省的是你的力气,不是你的责任。

误解三:它生成的两万字等于两万字的成果。不等于。字数是最容易被做大的一个数,也最不能说明问题。真正要问的是:这两万字里,有没有一句是原来没有的?产出的体量与产出的价值,是两件事。

误解四:AI 写的东西不能用。这是另一个极端。可用不可用,取决于你怎么用它、以及你有没有为它负责。把它当初稿、当素材、当陪练、当对手,都很好;把它当免检的成品直接署名发出去,问题就大了。分界线不在“是不是 AI 写的”,在“有没有人真正读过、核过、并且愿意为它负责”。

误解五:给它的提示词写得越长越好。不是长度,是明确度。要害在于说清三件事:要什么、给谁看、什么算好。一句说清楚的指令,胜过五百字的堆砌。

误解六:换个更贵的模型,产出就会好一大截。通常不会。在同一代的主流模型之间,产出差异往往小于流程和提问方式带来的差异。先把方法弄对,再谈换模型。

误解七:它给的参考文献可以直接用。绝对不行。这是本文提醒过两次、值得提醒第三次的一条:凡是具体的书名、期刊、年份、页码,一律自己核。一篇挂着假文献的文章,比一篇没有文献的文章伤害大得多。

误解八:这些东西离我的工作还远。这个判断,比前面七个都更值得重新想一遍。它离你远不远,不取决于技术,取决于你手头有没有那种步骤明确、重复发生、需要产出成品的活。而教师的日常里,这样的活多得很——备课材料的整理、学情材料的归类、家长会讲稿的成型、教研成果的成文。这些恰恰是智能体最擅长的形态。

误解九:它停下来问我,说明它不够智能。这个印象来自科幻电影里那种什么都自己搞定的机器。但在真实工作里判断恰好反过来:知道哪些事该问、哪些事该自己扛,本身就是成熟的标志。一个新来的助理什么都不问、自作主张把方案定了,你不会觉得他能干,你会觉得他危险。会问,是分寸;不问,是越界。

误解十:先等等吧,这东西还在变,等成熟了再学。这句话听起来很稳妥,但它有一处判断失误:会变的是工具,不会变的是方法。本文讲的那些东西——把任务拆成有序的步骤、想清楚哪一步该由谁做、在关键处停下来判断、干完之后检验一遍——这些和具体用哪家的模型毫无关系,它们是工作方法本身。把这些练熟的人,无论将来出什么新工具都能立刻上手;一直等的人,等到的只是又一个不会用的新东西。

十四 · 智能体的四种常见形态

前面一直拿“写论文”那条流水线当例子,因为它最完整。但智能体不止这一种长相。认识常见的几类,你在遇到新产品时能迅速归位。

形态一:流水线型。就是前面详细拆过的那种——步骤固定,顺序写死,从头走到尾。研究、构思、拟纲、写作、评审,每次都是这几步。

它的长处是:因为路线是提前定好的,每一步该做什么、做到什么算合格,都可以打磨到很细。它的短处是不会变通:如果你的任务不完全符合这条路线,它也会硬套。适合那些反复发生、形态稳定的活——写材料、出报告、做归类。对老师来说,这是最实用、也最该先接触的一类。

形态二:工具调用型。这一类的特点是,它不只会说话,还会动手用东西:查网页、读你上传的文件、算一张表、把结果存成文档。

它的工作方式是:模型判断“这一步该用哪个工具”,然后系统真的去调用那个工具,把结果拿回来再交给模型接着想。这一类解决了大模型一个天然的短板——它训练完之后就不再更新了,也进不去你的文件夹。凡是需要用到“最新的”或“你自己的”材料,就得靠这一类。使用时要特别注意一件事:工具带回来的东西也可能是错的(比如搜到一个不靠谱的网页),模型往往会照单全收。多一道工具,就多一个要核的环节。

形态三:循环反思型。这一类会自己回头看:做完一版,自己评一评,不满意就改,改完再评,直到达标或者到了次数上限。

它比一次成型的好处显而易见——很多毛病在第二轮就被自己发现了。但它有两个要留神的地方。其一是成本:每多一轮就多一次开销,而质量提升往往在第二三轮之后就明显放缓。其二更要紧:它容易陷入自我认可的循环——自己写、自己评、自己改,转了三圈,还在同一个思路里打转,而且越转越确信自己是对的。这就是为什么第十一节强调“换一家模型来评”:反思要有效,评的那一方得有点不一样才行。

形态四:多智能体协作型。把一件事分给几个各有分工的角色:一个负责查资料,一个负责写,一个负责挑刺,还有一个负责统筹。它们之间传递结果,像一个小团队。

这一类目前最热闹,也最容易被吹过头。真实情况是:分工带来的收益,很容易被沟通损耗吃掉。角色之间传递信息时会失真,会互相误解,会陷入没完没了的讨论;而且角色越多,出了问题越难定位是哪一环坏了。经验上,能用两三个角色解决的,就别上五六个。对刚入门的使用者,我建议先把前两类用熟,再考虑这一类。

把四种形态放在一起看,会看出一条清晰的线索:它们的差别,全在于“差异从哪里来”——流水线型靠预先写死的流程,工具调用型靠外部真实世界的反馈,循环反思型靠自我审视,多智能体型靠角色之间的碰撞。而它们共同的天花板也在这里:这四种来源,没有一种能替代那个从你的处境里长出来的落差。这就是为什么无论哪一种形态,最好的设计都还是会给你留一个停顿点。

十五 · 五个用得上的场景:给老师的具体清单

理论说完,给五个具体的、明天就能试的场景。每个都标出该由机器做的部分必须你做的部分,因为这条线画不清,工具就会从帮手变成麻烦。

场景一:把零散材料整理成一份可用的备课稿。你手上有几篇文章、一些摘抄、去年的教案、临时记的几条想法。机器做的是:归类、去重、按逻辑重排、把口语化的笔记改写成书面表述、标出彼此矛盾的地方。你做的是:决定这堂课的主线是什么,以及删掉那些虽然有意思但会把课带偏的内容。整理是力气活,取舍是判断。

场景二:出一份测验并配双向细目表。机器做的是:按你给的知识点和难度分布生成题目、给出参考答案和评分要点、把细目表排成表格。你做的是:审核每一道题的科学性(这一步不能省,尤其是理科的题目和文科的史实),判断题目难度是否真的匹配你这个班的学情,以及决定哪些题要留作课堂讨论而不是考试。它对“你的学生”一无所知,这部分只能你来。

场景三:把一次教研心得写成一篇可以发出去的文章。这正是那条六步流水线最典型的用途。机器做的是:帮你把想法理清、给出几个不同的组织方式、搭骨架、把段落写通顺、成文存盘。你做的是:在四个方向里选定那个真正是你想说的、提供只有你有的一手材料(哪个班、什么时候、发生了什么、你当时怎么处理的),以及最后逐字通读一遍。那些一手的细节,是全文里机器唯一造不出来的东西,也是它最有价值的部分。

场景四:给家长会准备讲稿。机器做的是:把要点组织成有节奏的口语稿、预演家长可能提的尖锐问题、给出几种不同语气的版本。你做的是:把握分寸——哪些话在你们学校的语境里说得、哪些说不得,以及所有涉及具体学生的部分。凡涉及具体的人,一律不要交给机器措辞,这是一条硬规矩。

场景五:做自己的知识陪练。你要弄懂一个新概念、准备一次答辩、或者只是想把一个想法说清楚。让它当对手:把你的想法讲给它听,让它挑刺,让它扮演一个不同意你的同行。这个用法几乎没有风险,因为产出不外流,全部收益落在你的理解上。我个人认为这是老师最被低估的一种用法。

五个场景排下来,有一条共同的规律值得记住:机器负责的是“多、快、齐”,你负责的是“准、真、当”。它能一口气给你二十条,你要挑出对的那三条;它能把话说得漂亮,你要保证话是真的;它不知道场合,你要拿捏分寸。

还有一条给学校层面的提醒:如果要在教研组或学校范围内推广,先把“什么可以交给机器”写成一张明确的清单,比推广工具本身更重要。没有这张清单,最先出问题的一定是涉及具体学生的材料和对外发布的文字——不是因为工具不好,是因为没人说清界线在哪。

十六 · 你现在能做什么:三条上手路径与一张自检表

说了这么多原理,落到最实际的问题:一个老师,明天能做什么?

路径一:先在聊天框里把“多步”手动跑一遍。这是最低成本、也最有价值的一步,你不需要任何新工具。做法是:把你原本一句话丢给 AI 的活,拆成四五步自己走。比如要写一份发言稿,不要直接说“帮我写一份发言稿”,而是——第一步让它帮你理清这次发言的对象和要害;第二步让它给四个不同的切入角度;第三步你自己选一个,并写一句为什么;第四步让它按你选的角度出提纲;第五步分段写。

你会立刻发现两件事:产出质量比一句话丢过去高出一大截;而你刚才做的,正是一个智能体在自动做的事情。手动跑过一遍,你对智能体的理解会超过读十篇介绍文章。

路径二:找一个现成的智能体,完整跑一次,重点观察那两个停顿点。不必追求功能多的,越简单越好上手。跑的时候把注意力放在:它在哪里停下来问你?问的是什么?以及最后有没有任何形式的自我检验?——这三个观察点,比它生成得多快、界面多好看重要得多。

路径三:把你自己的一项重复工作,写成一张流程卡。这一步最有长期价值,而且完全不涉及技术。拿出一张纸,写下你每学期都要做一遍的某件事(比如“出一份单元测验并写出双向细目表”),把它拆成有序的步骤,在每一步旁边标两样东西:这一步谁来做(机器还是我)这一步做到什么算合格

这张卡本身就是一个智能体的设计图。哪怕你永远不去把它变成软件,它也会立刻改善你自己的工作方式——因为你第一次把一件反复在做的事,从“凭经验”变成了“有工序”。

下面这张自检表,建议在你评估任何一个 AI 工具时对着问一遍:

① 它要交付什么?说不出成品形态的,是聊天框。
② 它内部有几步?顺序有道理吗?无序的多步不是流程。
③ 后面的步骤知道前面发生了什么吗?这一条筛掉最多伪货。
④ 它在哪里停下来问我?一次都不停的,要格外小心。
⑤ 它怎么知道自己干得好不好?没有任何检验的,改进无从谈起。
⑥ 出了问题,我能定位到是哪一层吗?模型、流程、还是我的任务本身。
⑦ 最后这份东西,我敢署名吗?如果不敢,前面六条都不重要。

第七条是压舱石。前面六条是技术问题,第七条是唯一那个不能外包的问题。

十七 · 诚实的边界:智能体做不到什么

一篇入门文章如果只讲好处,就是软文。这一节讲它做不到的事,而且尽量讲得具体。

第一,它不能替你确定什么问题值得研究。你给它一个题目,它能把这个题目做完;但“该做哪个题目”这件事,它给不出答案。它可以列出十个方向供你挑,可是哪个方向对你所处的位置来说真的要紧,需要知道你的学生是谁、你的学校什么处境、你这几年在琢磨什么——这些它都不知道。一个问题值不值得问,通常来自处境,而机器没有处境。

第二,它不能保证内容为真。流程可以降低出错率——分步比一口气好,有评审比没有好——但没有任何环节能担保事实正确。它引的每一条具体材料,仍然需要你亲自核。这不是当前技术不成熟,这是它工作机制的直接后果(回到第一节),流程能减轻,不能根除。

第三,它不能替你面对读者。文章发出去之后,有人质疑、有人追问、有人指出一处硬伤——出面的是你。到那时你会非常清楚地意识到:那些你没读透就放行的段落,此刻正是你的负担。这也是为什么必须逐字读完自己署名的东西,无论它是谁写的初稿。

第四,它不产生真正的新问题。这一条要说得小心,因为容易被误读成“AI 毫无创造力”。它能给出新颖的组合、能提出你没想到的角度,这些确有价值。但把一个领域里没人意识到的裂缝指认出来——说出“这里有个大家都视而不见的地方”——这件事目前主要还是靠人。原因不神秘:识别裂缝需要长期泡在一件事里,泡到能感觉到哪里不对劲。那种不对劲的感觉来自反复的碰壁,而机器不碰壁。

第五,也是最需要警觉的一条:它会让不够好的东西看起来足够好。

这一条值得展开。机器的产出有一个特点:形式上永远合格。段落齐整,逻辑连接词用得恰当,术语使用规范,结论收得漂亮。当一样东西在形式上如此完备,人是很难对它保持怀疑的——我们判断质量时,本来就大量依赖形式信号。

于是会出现一种特别隐蔽的失败:一篇文章什么错误都没有,读起来很顺,结论也稳妥,但它没有说出任何新东西。它把所有人已经知道的事,用更漂亮的方式又说了一遍。这样的东西,评分可能不低,发出去也不会被批评,但它其实什么也没发生。

这类“看起来发生了、实际什么也没发生”的产出,比明显的错误更难对付。错误会被现实撞回来;而形式合格的空转不会——它甚至会被表扬。要防它,只有一个笨办法:读完之后问自己一句,把这篇文章拿走,世界上少了哪一句原来没有的话?答不上来,就说明它虽然写完了,但还没有发生。

这一问,建议你在每一次使用 AI 完成一件正经事之后,都问一遍。

十八 · 换个角度看这件事:三个词与一句提醒

最后加一节稍微理论一点的,但保证不绕。它能帮你把前面所有内容装进一个更耐用的框架里,将来遇到新工具时也用得上。

本站的一套说法用三个词看待任何事物如何发生:显露(S)、差异(D)、纠缠(E)。用大白话说:显露是一样东西被看见、被认出来的那个样子;差异是把它和别的东西分开、并推动它往前走的那些落差;纠缠是它和周围一切互相缠绕、彼此供养的那张网。三者互为条件,谁也不能单独立住。

用这三个词看大模型和智能体的关系,会看到一些前面没说透的东西。

大模型这台机器,强在显露。你给它一个开头,它能把一段合乎语言规范的东西显露出来——通顺、得体、像模像样。这是它的本行,也是它最不可思议的地方。

但它先天缺一样:它自己不持有差异。它不知道这件事哪里不对劲、哪里有落差、哪里值得使劲。它没有那个“卡住了”的感觉,因为它不曾在任何一件事上卡住过。所以你不给它方向,它只会显露出一片四平八稳、谁也不得罪的东西——形式完备,但没有落差,因而没有推力。

而智能体做的事,正是把差异从外面接进来。那条流程里的每一步,本质上都是在制造和维持一个落差:研究那一步问“已有说法为什么不够”,这是在找落差;四个点子那一步逼它给出彼此不同的角度,这是在造落差;你在第三步做的选择,是把你自己身上真实的落差按进这个系统里——你之所以选中那一个,是因为它挠到了你心里那个一直没说清的地方。

至于纠缠:跨步记忆,就是让各步骤彼此缠上。没有它,六个步骤只是六次互不相干的问答;有了它,第五步写的每一段都被第一步的材料和第三步的选择牵着。一件事之所以能成为一件事,而不是一堆碎片,靠的就是这种彼此缠绕。

这样一来,那五个标志可以被更简洁地重述一遍:智能体做的全部事情,就是给一台只会显露的机器,从外面接上差异,并让各步骤纠缠起来。而那两个人机互动节点之所以是灵魂,因为最要紧的那个差异只能从你身上来——机器没有处境,没有立场,没有后果要承担,因而没有真正属于自己的落差。

说到这里,那句提醒就可以说出口了:

你在这套系统里的位置,不是操作员,是差异的来源。

这句话决定了两种截然不同的用法。第一种:你把它当自动写作机,输入题目,等着收成品。这样用,你在系统里的角色是按钮,而按钮是可以被替换的——一旦你只提供“启动”这个动作,你的价值就等于那个动作的价值。第二种:你把它当放大器,你负责提出真正卡住你的问题、在关键处做出只有你能做的判断、并为最终的东西负责,让它负责把这些变成一件做完的事。这样用,机器越强,你越强。

同一台机器,两种用法,通向完全相反的两个方向。这不是技术决定的,是你在第三步按下哪一个按钮时决定的。

结语 · 你要守住的那一样东西

回到开头那位老师的疑问:智能体和聊天框,到底是不是一回事?

现在可以给一个完整的回答了。不是一回事,但也不是两回事——是同一份能力的两种组织方式。聊天框把大模型的能力以最直接的方式递给你:你问,它答,全部推进力在你手上。智能体把同一份能力编排进一条流程里:它自己往前走,在两三个关键处回来找你,最后交给你一件做完了的东西。

所以判断标准很简单:你要的是一次高质量的应答,还是一件完成的活?前者用聊天框,简单直接,没有必要上工具;后者才需要智能体,而且只有当那件活真的有稳定的步骤时才划算。不要为了用智能体而用智能体——那和为了用投影仪而用投影仪,是同一种错误。

这篇文章讲了很多技术上的分别:无状态与跨步记忆、被动响应与流程推进、一段文字与一份成品、有没有自评。这些分别都重要,但它们都会随时间改变——模型会更强,工程会更精,今天需要你亲自盯着的地方,明年可能就不用了。

只有一样东西不会随之改变,那就是本文反复回到的那句话:大模型会说,智能体会做,只有人会承担。

承担听起来像是负担,其实它是你在这套系统里唯一不可替代的位置。因为一切能被自动化的,最终都会被自动化;而“为一件事负责”这件事,从结构上就无法外包——它需要一个会被追问、会觉得难堪、会在半夜想起某句话写得不妥而爬起来改的人。机器不具备这些,不是因为它还不够先进,是因为它没有后果。

所以,如果这篇两万字只能留给你一句话,我希望是这一句:

让机器去做那些做完就算完的事,把那些做完还要有人站出来的事,留给自己。

然后,去打开那个工具,跑一次。看看它在哪里停下来问你——那个位置,就是留给你的。

补篇 · 约 3.2 千字

材料与论据

这一篇是难得准确、且自觉克制的入门讲解——它对大模型机制、无状态、幻觉、以及「智能体=大模型+流程+记忆+停顿+验收」的判断,几乎条条对得上工程界的共识与有名有姓的研究。此处主要做两件事:给它讲对的东西标上学名与出处,再补两处该拧准的分寸。(大模型机制那部分的实证,与本站《没有统一世界模型》《为什么智能体不能吃生数据》同源,此处从简。)

一、大模型机制:正文讲得准,且各有出处

正文说「大模型在预测下一个词,而语法、事实、逻辑、风格是被这个压力逼出来的副产品」——这是准确的;它对幻觉的刻画尤其到位:「幻觉不是故障,是它工作方式的影子,同一台机器同一套原理,既生成惊艳答案也生成假文献」。这与幻觉的理论下界(Kalai & Vempala, STOC 2024:对训练数据推不出真伪的事实,校准模型必然以某比率编造)完全一致——所以正文「具体信源必须自己核一遍」是对的。正文说「它无状态、每次调用都是全新计算、没有记忆」——这也准确;上下文窗口不仅会满,塞长了还有「中间迷失」(Liu 等 2023)。

正文还很克制地说「预测下一个词不等于鹦鹉学舌……它理解到什么程度学界还在激烈争论,本文不替谁下定论」——这个分寸恰恰是对的:一面有证据表明大模型内部长出了真实的世界表征(Othello-GPT 等),一面这些表征又零碎不连贯。正文没有 overclaim,值得称许。

二、智能体那部分:正文的框架,正是有名有姓的工程范式

正文最核心的判断——「智能体不是更聪明的大模型,而是围绕大模型搭起的工程:流程、记忆、停顿、验收」——正是当前工程界对「智能体」的标准理解,且每一块都有对应的研究:

「把会说接上会做/六步流水线」= ReAct(Yao 等 2022):让模型交错地产出「推理」与「行动(调用工具/查外部环境)」——边推理边行动、边行动边取信息。这几乎就是正文那条流水线的学名。而 ReAct 提出的动机,也正是正文的痛点:纯推理会「幻觉与错误累积」,得靠与外部环境交互来纠。「记忆」= 智能体的外部记忆(正因大模型无状态,记忆必须在模型之外工程出来——正文这一点抓得极准)。

「让另一个模型当裁判」=「LLM 当裁判」(LLM-as-a-judge,Zheng 等 2023):用强模型评判其它模型的输出。正文很对地说了它有「限度」——补一句具体的:这种裁判有已知的偏差,如位置偏差、啰嗦偏差、以及「自我偏爱」(更偏袒自己或同族模型的输出)。所以自评有用,但不能替代人的验收。「灵魂在两次停顿/必须由人站的位置」= 人在环路(human-in-the-loop)与人的监督——这与负责任 AI 的主流实践完全同向。正文把「承担」留给人,是稳的落点。

三、两处该拧准的分寸

其一,「能力是被逼出来的副产品」——大方向对,但「能力随规模突然涌现」这个更强的故事有争议。Schaeffer 等(2023,《涌现能力是海市蜃楼吗?》)指出,一些看似「突然涌现」的能力,其实是评测指标不连续造成的假象——换个连续指标,能力是平滑增长的。所以说「逼出副产品」稳妥,说「某个规模一到、能力突然冒出来」要谨慎。

其二,「大脑/带着大脑去上班的人」这个比方——正文自己已诚实预告「它有一处重要的不准确,第十二节会拆」。这个自觉很好:大模型不像人脑那样有统一的自我与持续的记忆,把它拟人化为「一个人」,容易高估它的自主与连贯。正文既用这个比方、又亲手拆它,分寸是稳的。

四、这些材料如何支撑正文

收拢来看:这是一篇少见的「几乎不用纠偏」的入门文——大模型机制(预测下一词、无状态、幻觉即机制之影)条条准确且有实证,智能体框架(流程/记忆/停顿/验收)正是 ReAct、外部记忆、LLM-当裁判、人在环路这一整套有名有姓的工程范式的通俗版。要补的只是两处分寸:涌现的「海市蜃楼」之争,和「拟人比方」的自觉边界(正文自己已预告)。

用发生学自己的话说:大模型是「会说」的语言器官,智能体是把「会说」接上「会做」的工程身体,而「会承担」只能是人——这个三分,与工程界「LLM + 工具/记忆/规划的智能体 + 人的监督」的共识严丝合缝。正文把一件很容易被术语忽悠的事,讲得既准确又克制;补篇能加的,不过是替它把那些它已讲对的判断,一一署上学界的名字。

材料出处:智能体框架——Yao S. et al., "ReAct: Synergizing Reasoning and Acting in Language Models", ICLR 2023(arXiv:2210.03629);Shinn et al. "Reflexion"(2023)。 | LLM 当裁判——Zheng L. et al., "Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena", 2023(位置/啰嗦/自我偏爱偏差)。 | 幻觉——Kalai & Vempala, STOC 2024。 | 长上下文——Liu N. F. et al., "Lost in the Middle", 2023。 | 涌现之争——Wei et al.(2022)对 Schaeffer et al., "Are Emergent Abilities of LLMs a Mirage?", NeurIPS 2023。 | 内部世界表征——Li et al., Othello-GPT, ICLR 2023。

说明:本补篇为机器学习工程的材料整理;该领域进展极快,列出仅供读者对读与查证。

延伸阅读与参考

本文为面向非技术读者的入门写作,不以文献综述为体例。以下条目供有兴趣继续深入的读者按图索骥,均为确证存在的公开出版物或站内文章。列出不代表所列作者认同本文观点。

  1. Vaswani, A. 等:《Attention Is All You Need》,NeurIPS,2017。(Transformer 架构的原始论文,今日各家大模型的共同底座。)
  2. Brown, T. 等:《Language Models are Few-Shot Learners》,NeurIPS,2020。(GPT-3 论文,提出仅凭上下文示例即可完成新任务。)
  3. Ouyang, L. 等:《Training Language Models to Follow Instructions with Human Feedback》,NeurIPS,2022。(基于人类反馈的对齐训练,即今日聊天式模型的由来。)
  4. Wei, J. 等:《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》,NeurIPS,2022。(分步推理提示,本文第八节流水线思路的近邻。)
  5. Yao, S. 等:《ReAct: Synergizing Reasoning and Acting in Language Models》,ICLR,2023。(推理与工具调用结合,对应本文第十四节的工具调用型。)
  6. Schick, T. 等:《Toolformer: Language Models Can Teach Themselves to Use Tools》,NeurIPS,2023。
  7. Shinn, N. 等:《Reflexion: Language Agents with Verbal Reinforcement Learning》,NeurIPS,2023。(自我反思式智能体,对应本文循环反思型及其局限。)
  8. Madaan, A. 等:《Self-Refine: Iterative Refinement with Self-Feedback》,NeurIPS,2023。
  9. Ji, Z. 等:《Survey of Hallucination in Natural Language Generation》,ACM Computing Surveys,2023。(幻觉现象的系统综述。)
  10. Bender, E. M. 等:《On the Dangers of Stochastic Parrots》,FAccT,2021。(对大模型能力的著名批评立场,本文第一节末段所指争论的一方。)
  11. Bender, E. M. 与 Koller, A.:《Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data》,ACL,2020。
  12. Mitchell, M. 与 Krakauer, D.:《The Debate over Understanding in AI's Large Language Models》,PNAS,2023。(对该争论双方的持平梳理。)
  13. Zheng, L. 等:《Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena》,NeurIPS,2023。(以模型为评审的可靠性研究,本文第十一节限度之依据。)
  14. Panickssery, A. 等:《LLM Evaluators Recognize and Favor Their Own Generations》,2024。(模型评审偏爱自身产出,本文主张换一家来评的依据。)
  15. Sharma, M. 等:《Towards Understanding Sycophancy in Language Models》,ICLR,2024。(迎合性倾向的实测。)
  16. Strathern, M.:《Improving Ratings: Audit in the British University System》,European Review,1997。(古德哈特定律的著名表述:指标一旦成为目标,就不再是好指标。)
  17. Amodei, D. 等:《Concrete Problems in AI Safety》,2016。(其中的可纠正性与人类监督议题,与本文人机互动节点相关。)
  18. Norman, D. A.:《The Design of Everyday Things》,Basic Books,修订版 2013。(人机交互的经典,关于把控制权留在何处。)
  19. Bainbridge, L.:《Ironies of Automation》,Automatica,1983。(自动化悖论:越自动化的系统,越依赖人在关键时刻的介入。)
  20. Parasuraman, R. 与 Riley, V.:《Humans and Automation: Use, Misuse, Disuse, Abuse》,Human Factors,1997。
  21. Simon, H. A.:《The Sciences of the Artificial》,MIT Press,第三版 1996。(关于设计、分解与有限理性。)
  22. Polanyi, M.:《The Tacit Dimension》,Routledge,1966。(默会知识:我们知道的比我们说得出的多。)
  23. 王德生:《SDE 智能体导论》,德麦国际,二〇二六年(专著第 44 号)。
  24. 王德生:《SDE 思想创新智能体的工程原理(增订版)》,见站内 /column/thought-innovation-agent/。
  25. 王德生:《没有统一世界模型:世界模型的主体性与 AGI 的重新定义》,见站内 /column/no-unified-world-model/。
  26. 王德生:《伪发生:当机器能流畅生成一切,如何分辨真的新结构》,见站内 /column/pseudo-genesis/。

读完之后,最好的下一步是亲手跑一次——看看它在哪里停下来问你。

免费品尝 · 金点子发生器 进阶:思想创新智能体的工程原理 返回 AI 专栏

读者讨论区 · 本文已被阅读

用 Google 账号登录即可发言——发言人就是你的 Google 账号名字。发言公开可见,请友善交流。