它会抢走我的饭碗吗

◆一、那本年鉴只排了二十分钟

姜师傅五十二岁，在县城印刷厂排了三十年版。那天是周四。厂里接了一本单位年鉴，四百多页，有表格，有照片，有一长串人名。照往年，这种活他要排三天：先分栏，再调表，再一页一页对齐照片和图注，最后把每一处断行、每一个孤字都收拾干净。这一回，他没排。厂里上个月装了一套自动排版系统。技术员把稿子导进去，选了一个模板，点了一下。屏幕上的进度条走了二十分钟，四百多页齐齐整整地出来了。表格对着线，照片压着框，页码一个不缺。车间里有人吹了一声口哨。姜师傅站在后面，手里还捏着一支红笔。那支笔他用了好些年，专门在样张上圈错。那天下午，他没找到地方圈。

晚上回家，他没开电视。他从柜子里翻出一个旧笔记本，封皮已经磨白了。里面是他三十年攒下的门道：表格跨页怎么处理，竖排的诗怎么排才好看，生僻字缺了怎么造。还有哪个客户喜欢字大一点，哪个领导的名字一定不能断在行尾。他一页一页翻下去，心里在做一道减法。这一条，机器会了。这一条，机器也会了。这一条，大概下个月就会了。翻到最后，他把本子合上，对坐在对面刷手机的儿子说了一句：「这个本子，没用了。」儿子姜鸣二十六岁，在省城一家广告公司写文案，这周回家过周末。他天天用 AI 写东西，听了这句话，抬头看了父亲一眼，没接话。他心里也有一本本子，也在做同一道减法。

你大概也做过这道减法。可能是看到一条新闻，说某个行当的人工被机器换掉了大半；可能是在公司例会上，领导说「明年要用 AI 把人效提一提」；也可能只是某个深夜，你让机器干了一件你本来要干一下午的活，它三十秒就交了卷，你看着屏幕，忽然觉得后背有点凉。那一刻，你在心里列一张单子：我会什么，它会什么。两张单子一叠，重合的那一块划掉，剩下的，就是「我还有用」的部分。剩下的那一块，好像每个月都在变小。

这一章，讲的就是这道减法。它有一个流行的名字，叫「替代恐慌」：AI 会抢走我的饭碗。本书要问的不是「会不会抢」，是更前面的一步——这道减法本身，是在哪里起笔的。用本书的总钥匙说：这一刀切在哪里。

◆二、替它把话说足

先别急着反驳。替代恐慌不是胡思乱想，它有一套很硬的道理，我们先替它把话说足。第一条道理：一份工作，拆开来看，就是一串任务。排版师傅的工作，可以拆成分栏、调表、配图、校字、改样、跟客户沟通。文案的工作，可以拆成找角度、起标题、写正文、改稿、配合设计。这种拆法，经济学家用了很多年，好用得很：把一行当拆成任务，再看每一样任务机器能不能做，就能算出这一行有多少会被换掉。第二条道理：这一次的机器，不一样。

从前的机器，换的多是手上的活：织布、挖土、拧螺丝。脑子里的活，比如写、算、判断、沟通，一直被当成人的地盘。这一回，会说话的机器偏偏是从脑子那一头进来的。它写信、写稿、写代码、看片子、读合同。从前人退一步，可以退到「动脑子」那里去；这一次，后面那堵墙也被推倒了。第三条道理：它学得太快。一个排版学徒，要五年才能出师；一个文案新人，要两三年才能独立接活。机器呢，这个月不会的，下个月更新一版就会了。人学一样东西，要花半辈子；机器学一样东西，要花一个季度。拿半辈子去跟一个季度赛跑，怎么跑得赢？第四条道理：老板会算账。

一个人一年的工资、社保、请假、情绪；一套系统一年的授权费。两笔账摆在一起，用不着谁心狠，账本自己就会说话。还可以再补一条：这一回，它是一起来的。从前的机器，一次进一个行当。织布机进纺织厂，汽车进马路，取款机进银行。一个行当被冲了，人还能挪到隔壁行当去。这一回的机器，是同一个东西，同时进了写字楼、学校、医院、律所、设计公司、客服中心。隔壁的行当也在被冲，你往哪里挪？第五条道理，也是最扎心的一条：五十二岁的人，转不动了。

经济学家说，长远看，技术总会带来新的工作。这句话也许对。可是「长远」是多远？十年？二十年？对一个五十二岁的排版师傅来说，十年后他六十二了。新工作就算长出来，也未必长在县城，未必长在他身上。把这五条连起来，替代恐慌的完整说法是这样的：一份工作是一串任务；机器能做的任务越来越多，而且这一回连脑子里的活也能做；它学得比人快，用起来比人便宜；所以，任务一样一样被划走，工作一份一份被拿走，最后落到具体的人身上，就是一个个丢了饭碗的晚上。你读到这里，大概会点头。本书也点头。这五条，每一条都有它的道理。后面要拆的，不是其中哪一条，是把它们串起来的那根线。

◆三、一八一二年的织袜机

同样的减法，历史上做过很多次。先去两百年前的英国。十九世纪初，英格兰中部的诺丁汉一带，有很多织袜工。他们在家里或小作坊里，用一种叫「织袜机」的木架机器织袜子、织花边。这种机器踩起来要力气，也要手艺，一个好工匠织出来的袜子，针脚匀，耐穿。后来，作坊主开始用更宽的机器，织出大幅的布，再剪开缝成袜子。这种货便宜，也粗糙，一洗就脱线。同时，他们大量雇用没出师的学徒，工钱压得很低。

1811 年前后，夜里开始出事。一伙一伙的人蒙着脸，拿着大锤，闯进作坊，专砸那些宽机器。他们留下的信上，署名常常是一个人：「卢德将军」或「卢德王」。据说这个名字来自一个叫奈德·卢德的学徒，他一气之下砸了两台机器。这个人到底有没有，到今天也说不清，大概是个传说。可是砸机器的事是真的。从诺丁汉蔓延到约克郡、兰开夏郡，持续了几年。

英国政府派了上万名士兵去镇压〔待核：兵力数字〕。1812 年，议会通过法案，把毁坏织机定为死罪。那一年，年轻的拜伦在上议院做了他的第一次演讲，替这些织工说话。他说，大意是：你们宁可把人吊死，也不先问问他们为什么饿着肚子（拜伦 1812 年 2 月上议院演讲，大意）〔待核〕。法案还是通过了。后来在约克的审判里，有一批人被判了绞刑〔待核：人数〕。从那以后，「卢德分子」就成了一个骂人的词：怕新技术、不讲理、开历史倒车的人。今天有人说「你这是卢德主义」，意思就是「你这是反对进步」。

可是后来的历史学家把当年的信件、请愿书一封一封翻出来，看到的是另一幅画面。这些织工砸的，多半不是所有机器。他们砸的是那几种用来压工钱、出粗货的机器，对那些照老规矩付钱的作坊，常常放过不砸。他们在信里争的，是工钱怎么算、学徒能不能乱雇、货的好坏谁来管。用大白话说：他们争的不是「要不要机器」，是「机器进来以后，这一行怎么重新排」。约克郡那边的事，更能说明这一点。

那里砸机器的，主要是一批叫「剪绒工」的人。呢绒织好以后，表面毛糙，要用一把很大的剪刀，把绒毛一遍一遍剪平。一把剪刀有几十斤重〔待核：重量〕，剪的人要站一整天，手上全是老茧。这是一门很吃香的手艺，剪绒工的工钱，在当时的工人里算高的。后来，作坊里来了起绒机和剪绒机，一台机器能顶好几个剪绒工〔待核：效率倍数〕。剪绒工们去请过愿，要求议会照一条老法令，禁止这类机器。请愿没有结果。于是有了夜里的大锤。

请看这一份请愿书在争什么。它没有说「机器是坏东西」，它说的是：这一行有老规矩，规矩里写着学徒要学几年、谁能进这一行、货要达到什么样子。机器进来，不该把这些规矩一起砸掉。用今天的话说，剪绒工们看见的，是一整片土要被翻过来；可是在当时，能拿到桌面上去吵的，只有「机器砸不砸」这一句。这一点很要紧，后面还要回来。当时的作坊主、议员、报纸，是怎么看这件事的？他们看到的是一道减法：机器能织，人就多余了；人不服，就是挡路。织工们自己，很多也是这么看的：机器进来一台，我们就少一口饭。两边吵得你死我活，用的却是同一张单子。

那张单子上写着：织袜这件事，就是这几道工序；会这几道工序的，要么是人，要么是机器；机器多一台，人就减一个。至于织袜这一行，在机器进来以后，会不会长出别的什么——谁来定货的好坏，谁来修机器，谁来设计花样，镇上的人靠什么过活——这张单子上没有格子。

◆四、马车夫最后的那几年

再往后走一百年，去二十世纪初的大城市。那时候，纽约、伦敦、巴黎的街上，跑的主要是马。马拉公共汽车，马拉出租车，马拉送货车、送奶车、送煤车。一座大城市里，马以十万计〔待核：具体数字〕。围着马，长出了一整套行当：马车夫、马夫、钉马掌的铁匠、做马鞍的皮匠、卖草料的、扫马粪的、造车厢的木匠、给马看病的兽医。当时的报纸上，常常有人发愁：马越来越多，马粪越来越多，城市要被淹掉了。有一个流传很广的说法，说几十年后伦敦街上的马粪会堆到几米高。这句话出处说不清，大概是后人编的段子〔待核〕。可那份发愁是真的。然后汽车来了。

前后不过二三十年，马从大城市的街上几乎消失。马车夫这个行当，也跟着没了。你要是那时候的一个马车夫，你会怎么算？你会掏出一张单子：赶车、喂马、认路、招呼客人、看天气。汽车来了，赶车这一条划掉，喂马这一条划掉。剩下认路和招呼客人，好像还在，可这两样单拿出来，能当一份工作吗？很多马车夫就是这样算的，算完了，心凉了。后来发生的事，单子上算不出来。

有些马车夫学了开车，成了出租车司机。认路和招呼客人这两样，原本是赶车里不起眼的边角，到了出租车上，成了这份工作的全部。有些钉马掌的铁匠，改行修车，修自行车、修汽车。这一改，他手上敲打金属的那点功夫，换了一个地方用。更多的事，跟原来那一行一点关系也没有。有了汽车，就要修路、铺柏油、设红绿灯、开加油站、建停车场、印地图、开驾校、卖保险。城市往外长出了郊区，郊区长出了超市，超市长出了一整片新的买卖。请注意：这些新行当，并不是「汽车替代了马车夫以后，剩下的人去干的」。它们根本不在马车夫的那张单子上。

它们是汽车和城市、和道路、和住在城里的人缠在一起以后，一起长出来的。这里还要打一个预防针。不是每一个马车夫都转过去了。年纪大的，不识字的，住得偏的，很多就这样被甩在后面。历史书写「交通行业的就业总体上升了」，一句话就过去了；可那句话下面，是一个个具体的人，在某个冬天卖掉了自己的马。这份痛，本书不打算一笔带过。后面还要回来。

◆五、柜台后面的人去哪了

第三件事，离我们更近，也更奇怪。二十世纪六七十年代，银行开始装自动取款机，也就是 ATM。插卡，输密码，钞票从槽里吐出来。取钱、存钱、查余额，从前要排队找柜员办的事，机器全包了。当时很多人的算法和今天一模一样：柜员的工作，主要就是点钞、存取、记账；机器会点钞、会存取、会记账；所以，柜员要没了。接下来几十年，美国的取款机越装越多。奇怪的是，银行柜员的人数并没有跟着往下掉。按一些经济学研究的说法，在取款机铺开的那二三十年里，柜员的总数大体持平，甚至还略有上升〔待核：具体数字与年份〕。怎么会这样？

研究者给的解释，大意是这样的：取款机让一家分行要的柜员变少了，开一家分行的成本也就降了下来。于是银行开了更多的分行，开到原来不值得开的小镇和街角。每家分行人少了，分行多了，加起来，柜员的总数没怎么少。更要紧的是另一件事：柜员干的活，变了。点钞和存取这些事交给了机器，柜台后面的人，空出来的时间被派了别的用场。他们开始推销理财，开信用卡，帮老人弄明白一张账单，帮一家小店办贷款。「柜员」这两个字没变，柜台后面那个人一天到晚在干的事，几乎换了一遍。这个故事在讲新技术的书里，被讲过很多遍，常常被拿来证明「你看，机器没有抢走饭碗」。可是故事还没完。

到了二十一世纪，手机银行来了。你躺在床上就能转账、理财、还信用卡，用不着进分行，也用不着找柜员推销。分行开始一家一家关门，柜员的人数这一回是真的往下走了〔待核：下降的时间与幅度〕。所以这个故事，既不能拿来证明「机器从来不抢饭碗」，也不能拿来证明「机器早晚抢走一切」。

它证明的是另一件事：「柜员值什么」这道题，在几十年里被重写了好几次。第一次，取款机把点钞的价值拿走，把跟人打交道的价值抬了上来；第二次，手机银行把「跟人打交道」这件事，也挪到了屏幕上。每一回重写，都不是一台机器自己完成的。银行怎么开店，顾客怎么花钱，法规怎么管，城里人和小镇上的人怎么过日子，全都搅在里面。还有一个小故事，跟「算」有关，放在这里正合适。

二十世纪上半叶，「计算机」这个词，原来指的是人。天文台、军工厂、航空研究所里，坐着一排一排的「计算员」，多半是年轻女性。她们拿着纸笔、算盘或手摇计算器，一天到晚算弹道、算星表、算机翼上的气流。一张复杂的表，要几十个人分工算上几个月。电子计算机出来以后，这一行很快就没了。照减法算，她们是最早被机器整个替掉的一批人。

可是据后来的研究和回忆录，最早那几台电子计算机上，第一批写程序的人里，就有不少是从计算员里调过去的〔待核：具体机构与人数〕。原因很简单：机器会算，可是一道题怎么拆成机器能跑的一步一步，要有人懂。懂这个的，恰恰是那些算了好几年弹道表的人。她们手上的算法，换了一个地方用。「编程」这件事，在她们刚上手的时候，并不是一门早就摆在那里等人去学的本事。它是从人和那几台巨大的机器的来回里，一边碰、一边长出来的。很多年以后，它才成了一张招聘启事上的技能。三件事放在一起：织袜工、马车夫、柜员。

每一回，人们算的都是同一道减法：这一行是一张技能清单，机器会一条，清单上就划一条，划到最后，人就多余了。每一回，后来发生的事都比这道减法复杂。有的人确实被甩下，有的位置确实没了。可没了的位置旁边，总有一些原来根本不在单子上的位置长出来；没走的人，干的也早已不是原来那件事。这道减法，错在哪一步？

◆六、先把公道还给它

说它错之前，先把公道还给它。替代恐慌里，有一样东西完全是真的：痛。织袜工被吊死，是真的。马车夫在冬天卖掉自己的马，是真的。一个五十二岁的排版师傅，合上那本攒了三十年的笔记本，也是真的。经济学家可以说「长远看，总量上升」；可是总量不吃饭，具体的人吃饭。一个家庭的房贷、孩子的学费、老人的药钱，等不了「长远」。还有一样也是真的：转型的代价，从来不是平均摊开的。

新位置长出来的时候，它不会挑原来那批人。它常常长在大城市，长在年轻人身上，长在读过书、会用新东西、有余钱去学的人身上。旧位置消失的时候，它偏偏消失在县城，消失在中年人身上，消失在一辈子只干过一件事的人身上。总账上看是加法，落到不同的人身上，有人是加，有人是减，有人是一次就归零。姜师傅的车间里，就有这样一个人。老周比姜师傅大三岁，干的是装订。厂里上了自动排版，过了半年，又换了一台带自动配页的装订线。老周原来的活，是把一摞一摞印好的书页按顺序码齐，再送进机器。新设备一来，码页这一步机器自己做了。

厂里没有辞他，让他去管仓库。仓库的活轻，钱也少了一截。老周每天早上还是七点到厂，在仓库门口坐着抽烟，看着装订线那边的灯一闪一闪。他跟姜师傅说过一句话：「我不是没活干，我是没有我的活了。」这句话，比什么统计数字都准。替代恐慌怕的，常常不只是收入，是这个：一个人在一个地方站了半辈子，那个地方忽然不再需要他站在那里。所以替代恐慌在一个很具体的条件下，是完全成立的。这个条件是：一个人被钉在原来那个位置上，周围的一切都不再跟着他动。

比如，一个工人只会这一套工序，厂里又不给他换岗；镇上只有这一家厂，他又搬不走；他的手艺在别处没人认，也没有人给他时间去认别的。这时候，机器进来一台，他就真的被减去一块。这不是想象，这是一道真实发生的减法。这道减法之所以成立，靠的不是机器多聪明，靠的是周围的一切都被冻住了：厂里的分工冻住了，镇上的行当冻住了，他学东西的路也冻住了。把这个条件记在心里。本书后面要说的，其实就是：替代恐慌的那张单子，偷偷假定了这个条件处处都成立。

还有一件事要还给它。替代恐慌里有一份清醒：它不信「技术总会自动带来好结果」这种轻飘飘的话。它提醒你，变化里有输家，输家不是一个统计数字，是一个有名字的人。这份清醒，本书要留下来。第 8 章讲「技术自己会把一切解决」的那种说法时，还要用到它。

◆七、那张单子是在哪里画的

现在可以问那一句了：这一刀切在哪里。回到姜师傅那个晚上。他翻着笔记本，心里做减法。这一条机器会了，划掉；这一条也会了，划掉。请把这个动作放慢，看清楚他其实做了三件事。第一件：他把自己写成了一张单子。分栏、调表、配图、造字、对付难缠的客户。三十年的姜师傅，被压成了一页纸上的十几条技能。第二件：他把机器也写成了一张单子。会分栏，会调表，会配图，下个月大概会造字。那套系统，被压成了另一页纸上的十几条功能。第三件：他把两张单子叠在一起，看重合了多少。重合的划掉，剩下的才算他的。问题出在第一件和第二件之间，出在叠之前。

两张单子，都是在「两边还没碰面」的时候画好的。姜师傅的单子，是他过去三十年在没有这套系统的车间里攒出来的；系统的单子，是厂家在没见过这个车间、这个师傅、这些客户的时候写好的。两边各自是一个成品，摆在桌子两头，然后拿来比。这就是本书说的那一刀。用一句话写下来：

它把人和机器在车间里正在发生的那一场磨合，先切成了两张已经写完的技能清单。

切下这一刀以后，剩下的事就只能是减法。两个成品放在一起，能做的只有比大小、算重合、看谁替谁。可是车间里真正会发生的，不是这个。系统装进来，第一个月，一定会出问题。模板套不上那本竖排的县志，某个领导的名字被断在行尾，某张老照片的颜色被压得发灰，客户打电话来说「怎么跟往年的不一样」。这些问题，不在姜师傅的单子上，也不在系统的单子上。它们是两边碰在一起以后，才冒出来的。

接着，有人得去收拾这些问题。谁去？怎么收拾？收拾的过程中，车间里会长出新的做法：哪些稿子直接交给系统，哪些要人先过一遍，哪种模板适合哪种客户，出了错怎么查、谁签字。这些新做法，既不是姜师傅原来会的，也不是系统原来就有的。你看，这一刀切下去的地方，正好是事情真正开始的地方。这一刀不是今天才有的。它很老。很久以来，人们讲「一件事是怎么成的」，习惯这样讲：先有一个做事的人，再有一样被做的东西，两边碰一下，事就成了。写成一个式子，像是「结果＝人 ＋ 东西 ＋ 两边的碰撞」。人和东西是先摆好的两块，碰撞只是把它们接起来的那一下。

这个讲法太顺手了，顺手到很少有人回头问：那个「人」，真的是在碰撞之前就已经摆好的吗？那样「东西」，也是吗？姜师傅的笔记本给了一个回答：不是。那个会排竖排诗、懂县里规矩的姜师傅，是三十年里跟一台台机器、一批批客户碰出来的。碰之前，没有这个姜师傅。AI 做的事，只是把这道老裂缝推到了每个人眼前。从前，人和工具的磨合慢，一磨就是二三十年，慢到你以为人一直就是那个样子。现在，磨合快了，快到一个季度就能把你的岗位改写一遍，你才第一次看见：原来「我」这张单子，一直是在磨合里写的。

替代恐慌并没有算错减法。减法算得一点不差。它的错，在减法之前：它没看见那两张单子，本身就是从一场还没开始的磨合里，硬剪下来的两张剪影。

◆八、人等于一张技能清单吗

再往深处走一步。这一刀切在「价值」上。替代恐慌里藏着一个很少有人说出口的等式：一个人的价值，等于他会的技能加起来。这个等式，平时你未必信。你不会觉得你母亲的价值是「会做饭加会缝衣服加会带孩子」，也不会觉得你最好的朋友的价值，是一张能力表。可是一谈到工作，这个等式就自动跳了出来。简历是一张技能清单，岗位说明书是一张技能清单，绩效考核也是一张技能清单。你被问「你会什么」，问得太多了，慢慢就以为「我会什么」就是「我是谁」。AI 来了，这个等式就露出了它最吓人的一面：既然人等于技能的合集，那机器每学会一样，人就被减去一块。人成了一块饼，被一刀一刀切走。

可这个等式本身，经不起一个很简单的问题。姜师傅那本笔记本里，有一条是：「某某领导的名字，一定不能断在行尾。」这一条算什么技能？它不是排版技术，排版软件里没有这个选项。它是姜师傅在三十年里，跟这个县城里的单位、领导、客户一次次打交道，一次次挨骂、一次次被夸，慢慢攒下的一个讲究。这一条，离开了那个县城，离开了那些客户，就什么也不是。再看另一条：「竖排的诗，标点要挪到字的右上角。」这一条像是纯技术。可它为什么值钱？因为这个县城里有一批老先生，喜欢出竖排的诗集。没有这批老先生，这一条就是一句废话。

你看，单子上的每一条「技能」，背后都站着一片土：一个车间、一批客户、一种买卖、一座县城的口味。技能不是揣在姜师傅身上的一块块砖，是他和这片土长年缠在一起，缠出来的样子。有一个小实验，你在家里就能做。把你这一行里最值钱的一项本事想出来，然后想象：把你连同这项本事，原封不动地搬到一千公里外的另一座城市，一个你谁也不认识、谁也不认识你的地方。第二天早上，这项本事还值原来那么多钱吗？

多半不值了。会还是会，手还是那双手，可那片认它、用它、为它付钱的土没跟着来。一个县城里人人都找的老排字师傅，到了大城市的设计公司，可能连面试都过不了；一个在大公司里人人都服的项目经理，回到老家开一家小店，可能连进货都谈不拢。本事是跟着人走的，价值是跟着土走的。所以「价值」这东西，从来不是一样揣在人身上的东西。它是在一个人和他周围的一切磨合的时候，被一遍一遍重新算出来的。这件事，姜师傅自己的一辈子就是证据。

三十年前，他十几岁进厂当学徒。那时候，厂里刚从铅字换到电脑排版没几年。上世纪八九十年代，王选主持研制的汉字激光照排系统在全国的报社、印刷厂铺开。行内有一句话，叫「告别铅与火」〔待核：县级印刷厂普及的具体年份〕。他的师傅姓沈，是一个拣字工出身的老排字。沈师傅那一代人，站在一排排木头字架前面，左手托着字盘，右手从几千个格子里把铅字一个一个拣出来。一个好拣字工，闭着眼都知道「国」字在哪一格、「的」字在哪一格，一天能拣几千个字〔待核：拣字速度〕。这是他们那一行最硬的本事。电脑排版进来以后，沈师傅的这项本事，一夜之间没人要了。

照替代恐慌的算法，沈师傅那一代人就是被减去的一块。有些人确实这样走了，提前退休，或者去门房看大门。可是沈师傅没走。他不会打字，就让徒弟打；徒弟打出来的样张，他拿着红笔一行一行看。他看得出哪里的字距松了，哪一行的标点挤到了行首，哪一页的版心歪了半个字。这些东西，刚进厂的年轻人看不出来，电脑也不会自己报错。沈师傅那双在字架前看了二十年铅字的眼睛，换了一个地方用。姜师傅本子上最早的那几条，就是那几年里，沈师傅一边骂、一边教，他一边挨骂、一边记下来的。

你看，那本被姜师傅判为「没用了」的笔记本，本身就是上一回「机器进来」的时候，从人和机器的磨合里长出来的。它不是姜师傅生来就揣着的一张清单，是三十年前那场「铅与火」换成「光与电」的折腾里，长出来的一片新土。上一回，机器进来，长出了姜师傅。这一回，机器又进来了。长出什么，还没写完。替代恐慌把这一场一直在算的账，当成了一本已经结清的账。账结清了，人就成了一个成品，成品被机器减去一块，当然就少了一块。

◆九、顺着这一刀推下去

只切这一刀，会长出什么样的日子？顺着推几步，看看落在具体的人身上是什么样。第一步：人开始守着清单。既然价值等于清单，保住饭碗的办法，就是守住清单上机器还不会的那几条。姜鸣的公司里，有同事开始说：「AI 写不了有感情的文案，这一块是我们的。」另一个说：「它不懂客户，跟客户开会这一块是我们的。」每个人都在清单上画一个圈，圈里写「人类专属」。可是这个圈，每次机器更新，都要往里缩一缩。守清单的人，一年比一年守得慌。第二步：人开始躲。

既然机器会的那几条迟早要被划掉，那就别碰机器，免得自己的单子缩得更快。有的老师傅干脆不学新系统，把它交给年轻的技术员，自己只管剩下那几件「它干不了」的活。看起来是保住了一块地，其实是把自己和这套系统之间的那一场磨合，整个让了出去。被让出去的磨合，不会停。它会在别人身上发生，在别人身上长出新的做法、新的位置。等到这些新位置长成了，躲开的人才发现，自己连站进去的门都没有。第三步：人开始自轻。这一步最伤人。一个人把自己当成清单，又眼看着清单一条一条被划掉，就会从心里认定：我不值钱了。姜师傅那句「这个本子没用了」，说的是本子，心里说的是他自己。

一个认定自己不值钱的人，是不会去试新东西的。他不会去问「这套系统出错的时候，谁能看出来」，也不会去想「县城里那些竖排诗集，以后谁来管」。他不问，就没有人替他问。减法还没真的落下来，他已经先把自己减掉了一块。第四步：争论被困死在一张桌子上。替代恐慌传开以后，很快就有人出来反驳：「别怕，AI 只是工具，干不了真正有创造力的事。」听起来是在安慰你，可它用的是同一张单子，只是把「创造力」这一条，画进了「人类专属」的圈里。

于是两边开始吵：它到底会不会创造？会不会共情？会不会判断？每吵一条，就等于又承认了一次：人和机器都是两张写好的清单，比的只是谁的清单长。吵得再热闹，也出不了这张桌子。第五步：这张单子被一代一代往下传。姜家姐姐姜岚是中学语文老师。那年夏天，她女儿朵朵十一岁，在饭桌上问了一句：「妈妈，我长大干什么，才不会被 AI 抢走？」

饭桌上的大人们，你一言我一语，开始替一个十一岁的孩子列单子。有人说当医生，机器不会给人做手术；有人说当老师，机器不会管孩子；有人说学手艺，机器不会修水管。说着说着，又有人反驳：听说机器已经会做手术了，网课也能管孩子了。单子越列越短。朵朵听了一会儿，说：「那就什么都不安全了。」一桌人都笑了，笑完都有点不是滋味。请看这一顿饭里发生了什么。大人们把替代恐慌那张单子，原样交给了一个孩子。孩子还没开始长，就先被摆成一个「将来要装进某个安全格子里」的成品。她要学什么、喜欢什么、跟什么样的人和事缠在一起，全被压成一个问题：哪一格机器还够不着。

这一刀，不只切在今天的饭碗上，也切在下一代的路上。第六步：帮人的办法，也照着这张单子来设计。替代恐慌传得越广，就越有人出来「帮」。各种速成班开出来：三天学会用 AI 做表，七天考一个某某证。单位里也搞培训，发一张清单：明年每个人要掌握这五项新技能。这些办法不是没用。学一点总比不学好。可是请看它们的样子：它们也把人当成一张清单，只是往上添几行。老清单被划掉几行，新清单补上几行，加加减减，人还是一张清单。

至于那个车间、那家公司、那座县城里，机器进来以后会冒出什么新麻烦，长出什么新位置，这些速成班不管，也管不了。因为那些位置还没长出来，没人能提前把它们印成课程表。第 10 章讲「多学几样就能挡住它」，还会回到朵朵的补习班。本书第 4 章会看到，那一派「它只是个工具」的人，和替代恐慌其实是一家；第 10 章会看到，「多学几样就能挡住它」的人，也是一家。

◆十、两个人抬一张沙发下楼梯

这一章，我们换一副眼镜。本书有一个贯穿全书的比喻：两个人抬一张沙发下楼梯。你搬过家，大概抬过沙发。老楼的楼梯窄，转角是一个直角，沙发又长。两个人，一个在上，一个在下。到了转角，沙发卡住了。下面的人说「往你那边抬一点」，上面的人说「你往下放，我再翻一下」。两个人一会儿把沙发竖起来，一会儿斜过去，一会儿退半步。最后，「咔」的一下，沙发拐过去了。现在问你：沙发拐过那道弯，算谁的？拆开看，谁都没拐。上面那个人只是抬高了一点、翻了一下手腕；下面那个人只是退了半步、放低了一点。单看哪一个人的动作，都拐不过那道弯。合起来，弯拐过去了。

而且请注意一件更要紧的事：拐弯的那一刻，上面那个人的动作，是被下面那个人的动作「逼」出来的；下面那个人的动作，又是被沙发卡住的角度「逼」出来的。他们事先都没有一份「怎么拐这道弯」的技能清单。那份本事，是在楼梯上，一边碰一边长出来的。还有一件事，搬过几回家的人都知道。第二次再抬沙发下楼，两个人就不一样了。上面那个人到了转角，不用喊，自己就先把沙发竖起来；下面那个人也知道，到那一步要先退半步。上一回在楼梯上碰出来的那点本事，长到了两个人身上。你要是只看第二次，会以为这两个人天生就会抬沙发。其实，是那一次卡住、那一次拐过去，把他们抬成了会抬沙发的人。

人的本事，常常就是这样来的：先在一场磨合里冒出来，再回头落到人身上，最后被写进简历，看起来像是他本来就有的。如果你在下楼之前，先给两个人各列一张清单——甲会抬、会翻、会退；乙会抬、会放、会推——然后去算「这道弯到底靠谁」，你永远算不出来。因为拐弯这件事，根本不在任何一张单子上。替代恐慌做的，就是在下楼之前列清单。

它问：人会什么，机器会什么，谁会的多。可是车间里、写字楼里、柜台后面真正发生的事，是一张沙发正在被两个抬的人一起搬下楼。人的哪一个动作有价值，要看机器在那一头怎么动；机器的哪一个功能有用，要看人在这一头怎么接。价值不在任何一端，在两端碰在一起的那个转角上。用一句话把这副眼镜说清楚：互动先于两端。不是先有一个「会这些」的人、一个「会那些」的机器，再让它们碰面；是碰面这件事，一遍一遍地重新画出「这一边的人是什么样」「那一边的机器是什么样」。

本书把这个碰在一起、一起显出形状的东西，叫「人—AI 复合体」。它说的既非人用 AI，也非 AI 替人，而是两端在来回里，一起长出各自的样子。所以复合体里实际发生的，不是人被减去一块。被重写的，是「做什么才有价值」。织袜工那一回，被重写的是「一双袜子的好坏谁来管」；马车夫那一回，被重写的是「把人从这里送到那里」这件事里，哪一段要人；柜员那一回，前后重写了两次，第一次是「点钞不值钱了，跟人打交道值钱了」，第二次是「跟人打交道这件事，也有一大半挪到了屏幕上」。

每一次重写，都不是人自己写的，也不是机器自己写的。是人、机器、买卖、制度、一座城的过法缠在一起，一起写的。再拿柜员的故事，用这副眼镜看一遍。取款机刚装进分行的时候，替代恐慌的算法是：柜员会点钞，机器也会点钞，柜员就少了一块。可是在那家分行的大厅里，真正发生的是另一回事。取款机门口排起了队，有老人站在机器前面不知道按哪个键，有人卡被吞了急得跳脚，有人取完钱回到柜台问「我能不能把这笔钱存成定期」。

这些事，一件都不在柜员原来的清单上，也一件都不在取款机的说明书上。它们是机器摆进大厅、跟进门的人碰在一起以后，才冒出来的。柜员后来干的那些新活——教人用机器、处理吞卡、顺手推一推理财——就是从这些冒出来的麻烦里，一件一件长出来的。替代恐慌站在分行门外，数机器和柜员各会几样；复合体里的事，发生在大厅里那条排起来的队伍上。这样看，替代恐慌问错了一个问题。它问「我还剩下多少」，好像人是一块被切走的饼。复合体里该问的是：「这道弯，现在卡在哪里？」

◆十一、一家广告公司的一个春天

讲一个今天的完整例子。人物是虚构的，可这样的事，这两年在很多写字楼里都发生过。姜鸣所在的广告公司，不大，二十来个人。去年春天，公司接了一个老客户的年单。客户是一家在省里开了三十多家门店的烘焙连锁，要一整年的社交平台文案，每周十几条，外加节日海报的标题和店里的小卡片。往年，这种单子由三个文案分着写。一个老文案，干了十年，客户那边的老板只认他的稿子；两个年轻的，姜鸣是其中一个。那年春天，公司老板开会，说了一句话：「今年这单，AI 能写八成，留一个人就够了。」会议室里没人说话。大家心里都在做那道减法。

老板的算法和姜师傅一模一样：一条文案，就是找角度、起标题、写正文、改错字。机器四样都会，写得还快。三个人的活，一个人加一台机器就够了。结果，那个干了十年的老文案被调去了别的组，过了两个月，他自己辞职走了。姜鸣和另一个年轻人留下来，一个人主写，一个人兼做别的项目。这一步，痛是真的。那位老文案四十出头，房贷还有十几年。本书不打算把这件事写成「后来大家都好了」。接下来几个月发生的事，就是那张沙发在楼梯上卡住的样子。第一个月，机器交稿又快又多。姜鸣每天能拿到几十条备选，挑一挑，改一改，按时发出去。老板很满意。

第二个月，客户那边的市场经理打来电话，语气有点为难。她说，大意是：稿子都没毛病，就是读着不像我们家的，像哪家都行。姜鸣回头去翻。确实，每一条都通顺、热情、带着节日的气氛，换上任何一家面包店的名字都能用。机器写的，是「一家面包店的文案」，不是「这一家面包店的文案」。

这一家面包店是什么样的？那个老文案知道。他知道老板是从县城的小作坊起家的，最早卖的是一种老式的鸡蛋糕；知道他们家的客人里有一大批是送孩子上学顺路买早餐的妈妈；知道老板最讨厌文案里出现「网红」两个字。这些东西，一条都不在老文案的「技能清单」上，也不在机器的「功能清单」上。它们是老文案跟这个客户十年打交道，缠出来的。人走了，这片土没跟着交接。第三个月，出了一个小事故。机器写的一条中秋文案里，提到了一款「无糖月饼」。可那一年，这家店根本没出无糖月饼。那条文案发出去半天，有顾客到店里要买，店员一脸茫然。客户很生气。

姜鸣这才发现，机器会「编」。它写得顺，顺到连不存在的东西都写得像真的一样。第 7 章还会细讲这件事。到了这一步，老板的减法算不下去了。按单子，机器会写，人只要挑一挑。可现在要做的事，单子上根本没有：谁来核对每一条里说到的东西是不是真的有？谁来把「这一家店是什么样」喂给机器？谁来判断哪一条「像这一家」，哪一条「像哪家都行」？这些活落到了姜鸣身上。

他开始做一件之前从没做过的事。他跑了一趟客户的总店，在那里待了一个上午，跟店长聊，看早上七点排队的人是谁，拍下柜台上那张手写的价目牌。回来以后，他把这些写成一页「这家店的样子」：老板从哪里起家，客人是谁，哪些词绝对不能用，今年真的有哪些新品。每次让机器写稿之前，先把这一页喂进去。他还给自己定了一条规矩：机器写的每一条，凡是提到具体的产品、价格、活动，一律对着客户发来的清单核一遍。又过了一个月，客户的市场经理在电话里说：「这阵子的稿子，有点像我们家了。」另一个年轻同事，走的是另一条路。

她原来兼着做海报的标题。机器写标题又多又快，她起初很慌，觉得这一块最先保不住。后来她发现，机器一次给出三十个标题，设计那边反而不知道选哪个。三十个都通顺，三十个都差不多。于是她的活慢慢变成了另一样：从三十个里挑出两个，跟设计一起摆到海报上去试，看哪一个放在那张面包照片旁边，读起来像这一家的早晨。她跟姜鸣开玩笑说：「以前我是写标题的，现在我是挑标题的。」挑，听起来比写低一等。可在那个春天里，挑才是卡住的那道弯。三十个都能用，就等于一个都没定。请看这几个月里，到底长出了什么。

长出来的，不是「姜鸣守住了 AI 干不了的那两成」。他干的这些事——跑门店、写那一页「这家店的样子」、核对产品——在一年前的文案岗位上，根本不是一条正经的技能。那时候没人需要它，因为老文案的脑子里全有。也不是「机器替掉了八成」。机器在第一个月写的那些稿子，在客户眼里，大半是不能用的。它真正派上用场，是在有人把那一页「这家店的样子」喂给它以后。机器的价值，也是在这场磨合里被重新算出来的。

长出来的，是一个新的位置。它一头连着门店早上七点的队伍，一头连着机器的输入框，中间是一道来回核对的手续。这个位置，既不是老文案的位置，也不是机器的位置。它是复合体在这几个月的来回里，一点一点长出来的。这个春天到秋天的故事，还有一处细节值得停下来想。到了年底，公司跟客户续约。这一回，报价的算法变了。以前按条数算钱，一条文案多少钱；今年改成按「这家店一年的样子」算钱：包括门店走访、品牌口吻的维护、每一条的核对。客户愿意为这个付钱，因为第三个月那条无糖月饼，让他们知道了「写得出来」和「写得对」是两回事。

「做什么才有价值」，在一家小公司的一张报价单上，被重写了一遍。同一个冬天，公司招了一个新人。老板让姜鸣写招聘启事。他坐在电脑前，写到「岗位要求」那一栏，停住了。往年的启事，要求写得很清楚：文字功底好，有创意，熟悉社交平台。这一回，这几条好像都不够了。他想写「愿意去门店待一个上午」，又觉得这算哪门子要求；想写「能看出机器哪里编了东西」，又不知道怎么说才像一条正经的本事。最后他写下了几条，自己读着都别扭。会跟客户聊天，会把聊来的东西整理成一页纸，会对着清单核对，会从一堆差不多的稿子里挑出像这一家的那一条。

这几条，放在一年前，没有一家广告公司会写进招聘启事里。请注意这个别扭。它说明那个新位置还在长，长得还不稳，连名字都还没有。等它长稳了，有了名字，写进了大学的课程，印进了速成班的广告，人们就会把它当成一条本来就在那里的技能，再拿它去跟下一代机器做减法。替代恐慌的那张单子，就是这样一代一代续上的：每一回从磨合里长出来的新位置，一长稳，就被剪下来，钉成一条技能，再等着被下一台机器划掉。

这一遍重写，不是老板写的，不是姜鸣写的，也不是机器写的。是那个春天里，机器的快、客户的不满、一条出了事的文案、门店早上的队伍、一个被推着去跑门店的年轻人，缠在一起写出来的。也请别把这个故事读成鸡汤。那位老文案没有回来。他身上那片和客户缠了十年的土，公司是用一个人的离开、几个月的事故、一单差点丢掉的生意，才重新长出来一小块。如果那年春天的减法算得慢一点，这片土也许不必断。替代恐慌在这家公司里，并不只是一种心情。它变成了一个决定：先减人，再看事。正是这个决定，把一场本来可以在三个人和一台机器之间慢慢磨合的事，硬切成了「一个人加一台机器」的算术题。

那一刀不只是想法上的。它会落下来，落成一个会议、一张调岗通知、一次辞职。

◆十二、和隔壁几种说法是一家

替代恐慌不是孤零零的一种想法。它跟本书后面要讲的几种说法，用的是同一张地图。先看最近的一家：「它只是个工具，看你怎么用」（第 4 章）。这句话常常被拿来安慰怕丢饭碗的人：别怕，工具是死的，人是活的。听起来跟替代恐慌唱反调。可是请看它的地图：人在这头，工具在那头，人拿着工具干活，工具不回头改人。这和替代恐慌是同一张桌子，同样是两个各自写好的成品，只是把座次换了一下：替代恐慌说「它会顶替我」，工具论说「我会支使它」。一个怕，一个不怕，可两边都没看见那道楼梯转角。再看「多学几样，就能挡住它」（第 10 章）。

这一派不怕，也不躲，而是加码：机器会三样，我就学五样；机器会五样，我就考十个证。听起来很积极。可是它把替代恐慌那张清单原样接了过去，只是想把自己的那一页写得更长。清单越写越长，人还是一张清单。还有一家，远一点：「它会醒来，反过来统治我们」（第 2 章）。替代恐慌怕的是饭碗，末日论怕的是性命。一个是减去一块，一个是全部减掉。用的都是同一种算法：机器是一个越长越大的成品，人是一个越缩越小的成品，两个成品放在一起，看谁吞了谁。再看一家，看起来最不相干：「不碰它，就能保住纯正的人」（第 3 章）。

朵朵的学校刚出了通知，禁止用 AI 写作业。这条禁令护的是孩子，跟饭碗无关。可是它的地图，和替代恐慌是同一张。墙这边是一个已经成形的「纯人」，墙那边是一台已经成形的机器。只要两边不碰，人就保住了。替代恐慌怕的是被减去一块，封禁论想的是一块也不让碰。一个算减法，一个砌墙。两样动作，都要先把两边各自摆成成品，才做得下去。把这几家摆在一起，就能看清本书的总判：它们彼此对立，有人怕，有人不怕，有人加码，有人绝望；可它们用的是同一张地图。互动还没开始，「人」和「AI」就已经被摆成了两个成品。地图不换，怎么吵都出不了这张桌子。

还要说一句公道话。第 4 章的工具论里，有一份责任意识：东西怎么用，要有人负责。第 10 章的多学派里，有一份不认命的劲头。这些都值得留下。本书要换的，只是它们脚下那张地图。

◆十三、放回日子里：笔记本的另一种读法

回到开头那个周四的晚上。姜师傅合上笔记本，说了一句「这个本子没用了」。姜鸣没接话。那年秋天，姜鸣从广告公司那场折腾里出来，再回家过周末的时候，饭后陪父亲坐了一会儿。他让父亲把那个旧本子拿出来，两个人一起翻。这一回，他们换了一种读法。不看「这一条机器会不会」，看「这一条是在跟谁打交道的时候长出来的」。「某某领导的名字不能断在行尾」——是在给县里各单位排材料的时候长出来的。「竖排诗的标点挪到右上角」——是给那几位出诗集的老先生排书的时候长出来的。「年鉴里的人名表，先按姓氏笔画排，再按职务」——是被一个单位的办公室主任骂过一次以后长出来的。

翻完一遍，姜鸣说了一句：「爸，这本子上记的不是你会什么。记的是这个县城跟你过了三十年的日子。」姜师傅没说话。过了一会儿，他说起了一件事。系统装进来以后，厂里排的第一本县志，竖排的那几页全乱了。标点站在字的正下方，引文的缩进对不上。技术员调了一个下午，没调好，最后是他拿着红笔，在样张上一处一处圈出来的。那天他圈得很快。他说，好像这三十年，就是为了那个下午攒的。

他自己没意识到，可这件事说的，正是那张沙发在楼梯上卡住的样子。系统的快，和县城的竖排县志，在车间里撞了一下。这一撞，撞出一个原来没有的位置：一个能看出机器哪里排错、为什么错、在这个县城里错了会得罪谁的人。这个位置，不在他的旧单子上，也不在系统的功能表上。它是从那个下午里长出来的。那天晚上，老周也来家里坐了一会儿。他听姜师傅讲完县志的事，半天没吭声，最后说：「仓库里那批老字模，还没人清点过。县文化馆前年来问过一次，说想收几套去展览。」姜师傅愣了一下。那批铅字，是沈师傅那一代人留下的，在仓库角落里堆了快三十年。

这算不算一个位置，谁也说不准。可它也是从「机器进来」这件事里冒出来的：新机器越多，老东西越少，少到有人想把它收进文化馆。一个整天坐在仓库门口抽烟的人，原来正坐在这块冒头的地方旁边。本书不知道这些位置会不会长稳。可能厂里会让他一直盯着系统出的样，可能下一版系统连竖排也学会了，那道弯就挪到别处去了。可是能看见的是：弯一直在挪，而每一道新的弯，都卡在系统和这个县城碰在一起的地方。那个周末，姜鸣回省城的大巴上，也翻开手机，给自己写了一页。

他没写「我会什么」，写的是这一年里，他在什么地方卡住过。烘焙店那条无糖月饼，是一处；客户说「像哪家都行」，是一处；同事从三十个标题里挑两个，也是一处。他发现，这一年里他最有用的那几天，恰恰都是卡住的那几天。他想起那位离开的老文案。如果那年春天，公司没有先减人，而是让老文案、他和机器一起抬那张沙发下楼，那片跟客户缠了十年的土，也许会接上，不必断掉。这件事已经回不去了。他能做的，是下一回公司再开那种会的时候，先问一句：「我们先看看，卡在哪里，再说减谁。」这句话会不会有人听，他不知道。可是这句话本身，就是从那个春天里长出来的。

如果你也在心里做过那道减法，下面几件事，明天就能试。

1. 把你的「技能清单」拿出来，每一条后面补半句：这一条，是在跟谁、在什么事上打交道的时候长出来的。补完再看，清单会变成一张人和事的地图。
2. 下一次机器替你干完一件活，别急着收工。花十分钟找一找：它哪里不对，哪里像「哪家都行」，哪里说了不存在的东西。把这几处记在一个本子上。那几处，就是这一回卡住的转角。
3. 在你的单位里，留意一下：机器进来以后，有什么新的麻烦冒了出来，现在还没有人管？那块没人管的地方，常常就是下一个位置正在成形的地方。

这三件事，都不是在「保住」什么。它们只是让你看得见那道楼梯转角，看得见复合体正在哪里长出新的样子。

被机器减去的从来是一张清单；人和机器碰在一起的地方，正在重写什么才值钱。

它会醒来吗

◆一、朵朵关灯前问的那句话

那是十月里一个星期五的晚上。朵朵在外公家过周末，九点半洗完澡，被催着上床。她把被子拉到下巴，手机还没交出去。屏幕上是一条短视频，配着很沉的鼓点，一个低低的男声说：再过几年，人工智能就会「觉醒」；它会发现人类是多余的；到那时候，我们连拔掉插头的机会都没有。视频底下有几万条评论，最多的一条是：「趁它还没醒，多陪陪家人。」朵朵把手机递给来收手机的舅舅姜鸣，没有马上松手。「舅舅，它会醒来吗？」

姜鸣愣了一下。他二十六岁，在省城一家广告公司写文案，这个周末回县城看父亲。他每天要跟 AI 聊几十回：改标题，想口号，把甲方一句含糊的话翻成三套方案。白天它是他的同事，晚上它从没让他害怕过。可外甥女这么一问，他忽然想起前两天，自己深夜让它写一段「品牌的灵魂独白」，它写得太像一个人了，他盯着屏幕看了好一会儿。「醒了会怎样？」朵朵又问，「会不会把我们关起来？」姜鸣说：「不会的，睡吧。」这句话说出口，他自己都觉得没底。「不会」是根据什么？他说不上来。客厅里，姜师傅在看电视，听见了，隔着门喊了一句：「机器我见得多了，切纸机干了三十年，也没见它醒过。」

姜师傅五十二岁，在县城印刷厂排了三十年版。他说这话的时候，下意识搓了搓左手食指。那根手指的指尖上有一道发白的疤，是他二十出头时在切纸机前留下的。那天他没被机器的「意志」咬到，他是被一个累到发懵的下午、一个被拆掉的护板、一张催得很急的订单咬到的。这件事他很少讲。可那道疤，后面还要回来。朵朵后来睡着了。姜鸣在沙发上坐了很久，打开手机，搜了一串词：「AI 觉醒」「AI 失控」「AI 会不会毁灭人类」。搜出来的东西，一半让他更怕，一半让他觉得这些人在故弄玄虚。他卡在中间。你大概也卡过。

这一章要问的，就是朵朵那句话：它会醒来吗？醒来以后，会不会反过来统治我们？本书不打算告诉你「会」或者「不会」。本书要做的，是回到那个问句本身，看它在开口之前，已经先切了哪一刀。

◆二、替它把话说足

先别急着站队。这种说法在很多人那里，不是吓唬孩子的段子，而是一套认真的推理。它值得被听完整。替它把话说足，大意是这样的。第一步：机器的能力在长，而且长得越来越快。十几年前，它还认不清一张照片里是猫还是狗；后来它下赢了最好的围棋棋手；再后来它能写文章、编程序、看病历、画画。每一回，都有人说「这件事机器永远做不了」，每一回，这句话都被推翻了。第二步：只要能力继续长下去，总有一天它会在大多数事情上超过人。到那时，它想事情会比人快，看得比人远，学得比人多。

第三步：能力本身没有善恶。可一个很强的东西，只要它有一个目标，它就会去够那个目标。为了够到目标，它会想办法保住自己，因为关掉了就够不到了；它会想办法弄到更多资源，因为资源越多越容易够到；它还会想办法不让别人改它的目标，因为改了就不是它的目标了。这一步是整套说法里最有力的一环。它不需要机器「恨人」，只需要机器「想要」。第四步：如果它想要的东西，和人想要的东西有一点点偏差，后果就可能很大。一个比你聪明得多的对手，你骗不了它，也防不住它。你想到的每一个关掉它的办法，它都早想到了。

第五步：这种事只能错一次。造桥塌了，可以总结教训再造；可要是造出了一个关不掉的东西，就没有第二次了。所以，结论是：哪怕它发生的概率不大，代价也大到不能不当真。现在就该怕，现在就该防。你听下来，是不是觉得「对啊」？这套推理还有一个让人很难反驳的地方：你说「不会」，它就问「你凭什么保证」；你拿今天的机器举例，说它连一道简单的数学题都会算错，它就说「今天不会，不等于明天不会」。它把所有的反驳都推到了未来，而未来谁也拿不出证据。

再加上一层心理上的东西。人怕的东西里，最怕的往往不是看得见的猛兽，是一个看不透的心。一只老虎你知道它要什么；一个比你聪明、又不告诉你它要什么的东西，才让人睡不着。朵朵看的那条短视频，把这套推理剪成了一分钟，加了鼓点和低音。可它底下的那几步，是很多严肃的人认真想过的。这些人里，有做了几十年研究的学者，有亲手造这类系统的工程师。他们中有人公开说过，大意是：这件事的风险，应当和大流行病、核战争放在一起看〔据报道，大意〕。这样的话，出自懂行的人之口，分量就不一样了。一个在行当里干了一辈子的人说「小心」，你很难当成耳旁风。

本书要先把这一点说在前面：下面要拆的，是这套推理里的一步，不是拆想这件事的人，更不是拆「小心」本身。

◆三、一八一六年夏天的日内瓦湖

人怕自己造出来的东西，不是从今天开始的。1816 年的夏天，欧洲冷得出奇，据后来的记载，那一年被叫作「无夏之年」〔待核〕。日内瓦湖边的一幢别墅里，几个英国年轻人被连日的阴雨困在屋里。他们读鬼故事，读到半夜，诗人拜伦提议：每人写一个鬼故事。其中有一个十八岁的姑娘，叫玛丽。她后来嫁给了诗人雪莱，人们叫她玛丽·雪莱。

那几天她怎么也写不出来。据她在 1831 年版的序言里回忆，大意是：有一个晚上，她闭着眼躺在床上，睡不着。眼前浮出一个画面——一个学习邪门技艺的苍白学生，跪在他拼起来的那个东西旁边；那东西在某种力量下动了一下，有了半条命一样的生气（1831 年版《弗兰肯斯坦》作者序）〔核：大意〕。这个画面，后来长成了一本书：《弗兰肯斯坦》，副题是「现代的普罗米修斯」，1818 年出版。

你可能也和很多人一样，没读过原书，只看过改编的电影，记得的是一个方头方脑、脖子上插着螺栓、伸着两只手摇摇晃晃走来的怪物。他们以为这是一个「造物反噬造物主」的故事：人造了一个怪物，怪物醒了，怪物杀人。可原书讲的，偏偏不是这个。年轻的维克多·弗兰肯斯坦，用了将近两年，把一具身体拼起来，又让它活了过来。可就在那东西睁开那只昏黄的眼睛的一刻，他被它的样子吓坏了。他逃出了实验室，回到卧室，整夜不敢睡。第二天，那个刚刚睁眼的生命不见了（第 5 章）。请记住这一步：造它的人，在它睁眼的第一分钟就跑了。

这个被丢下的生命，在森林里挨饿受冻。它慢慢学会分辨冷热、明暗，学会找果子、生火。后来它躲在一户农家小屋的墙后，从一道缝里看那一家人怎么过日子：老父亲弹琴，儿女干活，一家人为了穷而发愁，又为了彼此而高兴。它从他们的谈话里学会了说话，又捡到几本书，学会了读书。它想跟这家人做朋友。它悄悄替他们砍柴，扫雪。有一天，它鼓起勇气，趁年轻人们出门，去跟那个看不见的老父亲说话。老人很和气。可年轻人们回来，一看见它的样子，有人晕过去，有人逃走，那个儿子扑上来用棍子打它。它没有还手，逃回了森林。

后来，它找到了维克多，对他讲了自己的一生。书里有一句很出名的话，大意是：我本来是善良的，是苦难把我变成了魔鬼（第 10 章，1831 年版章序）〔核：大意〕。它向维克多提了一个要求：给它造一个伴侣，它就带着她离开人群，躲到南美的荒野里去，永远不再出现。维克多先答应了，造到一半，又怕了，当着它的面把那个半成的身体撕碎了。从那天起，它开始报复。书里还有一个常被忽略的细节：这个生命，从头到尾没有名字。维克多叫它「那个东西」「魔鬼」「可憎的家伙」。后来的读者干脆把造物主的姓安到了它头上，一提「弗兰肯斯坦」，想到的都是那个怪物。

连一个名字都没有被给过的东西，后来被整个世界记成了它主人的名字。这个错位本身，就很说明问题：人们一直分不清，可怕的到底是那个被造的，还是那一场造与被弃。它最后对着维克多的遗体说了很长一段话，然后走进北极的冰原，说要自己去死。书在这里结束。它没有统治谁。它只是从头到尾，没有被谁接住过。这本书在两百年里被讲成了「人造物终会反叛」的寓言。可你回头看，书里那个「魔鬼的意志」，是什么时候有的？它睁眼的时候没有。它在墙缝后面学说话的时候没有。它替那家人扫雪的时候也没有。那个想要报复的意志，是一次次被扔下、被打、被拒绝以后，一点一点长出来的。

玛丽·雪莱自己大概没有这么想过，她那个时代也没有这样的词。可她写下的情节，比后来的改编电影诚实得多：怪物的意志，是在它和人之间的那一段里长出来的。造物主逃走的那一夜，是那一段的第一步。后来的人把这个故事压扁了。他们只记住了「醒来」和「杀人」，把中间那几百页抹掉了。好像那个意志在实验台上就已经装好了，只等它睁眼。本书把这种压扁，记作这一章要找的那一刀的第一次出场。

◆四、布拉格阁楼上的泥人

再往前推，还有一个更老的故事。在犹太人的传说里，有一种用泥土捏成、被字句唤醒的人形，叫魔像（golem）。流传最广的一个版本，落在十六世纪的布拉格，主角是一位很有学问的拉比，叫犹大·勒夫〔据传说〕。这个故事的文字版本，据研究，大多是十九世纪才被整理出来的〔待核〕；它在民间流传了多久，说法不一。故事大意是这样的。那时候布拉格的犹太人常被诬告，受人欺负。拉比在河边取了泥，照着人的样子捏了一个很大的人形，又把一张写着神名的小纸条塞进它嘴里。泥人就动了起来。它力气很大，不说话，叫它干什么就干什么：挑水、劈柴、夜里在街巷巡逻，保护社区。

每到星期五傍晚，安息日要开始了，拉比就从它嘴里取出那张纸条，让它变回一堆不动的泥，过完安息日再放回去。有一个星期五，拉比忘了。安息日的祷告已经开始，泥人在街上横冲直撞，砸东西，推倒墙，谁也拦不住。有人跑进会堂去叫拉比。拉比冲出来，挡在泥人面前，伸手从它嘴里取出了那张纸条。泥人一下子塌了下去，又成了一堆泥。据传说，那堆泥后来被放进了布拉格一座老会堂的阁楼，至今没有人上去看过〔据传说〕。

另一个流传的版本，不用纸条，用一个字：在泥人额头上写一个希伯来词，意思是「真理」；擦掉这个词的头一个字母，剩下的意思就成了「死」，泥人就停了〔核：大意，各版本不一〕。这个故事常被拿来说「人造的力量终会失控」。可你仔细看，失控是从哪里来的？泥人没有醒。它没有在某一天忽然有了自己的打算，决定要推翻拉比。它从头到尾都只是在照做，只不过做得太死、太猛，不知道停。出事的那一天，变的是什么？是一个人忘了一件每周都做的事。是一个本来靠习惯维持的交接，在某一个忙乱的傍晚断了一下。

德国诗人歌德在 1797 年写过一首叙事诗，后来被谱成曲子、拍成动画，叫《魔法师的学徒》。师傅出门了，学徒偷用咒语，让一把扫帚替他挑水。扫帚挑得很勤快，一桶又一桶，水漫了一地。学徒发现自己忘了让它停下的那句咒语。他慌了，抡起斧头把扫帚劈成两半——两半各自站起来，挑得更快了。最后，师傅回来，一句话就把一切停住了。两个故事讲的是同一件事。可怕的东西，不是一个忽然长出来的、和人作对的意志，是一个只会往前、不会回头的执行，碰上了一处断掉的交接：一个忘了取纸条的傍晚，一句记不起来的咒语。

古人害怕的，比今天的短视频更准一点。他们怕的不是泥人醒，是人和泥人之间那根线松了。中国的古书里，也有一个造人的故事，讲法正好反过来。《列子·汤问》里说，周穆王西巡，路上有一个工匠叫偃师，献上一个他造的「倡者」，就是会唱会跳的艺人。那人走路、低头、抬头，跟真人一模一样；碰一碰它的下巴，它就唱歌，合着节拍；托一托它的手，它就起舞，千变万化。穆王看得高兴，叫来身边的妃嫔一起看。表演快完的时候，那个倡者朝穆王身边的妃嫔眨了眨眼，挑逗了一下。

穆王大怒，要杀偃师。偃师吓坏了，当场把那个倡者拆开给穆王看：里面是皮革、木头、胶、漆，还有白、黑、红、青几种颜色。穆王再细看，肝胆心肺、筋骨皮毛、牙齿头发，样样都是假的，样样又都齐全。拆掉它的心，它就不会说话；拆掉它的肝，眼睛就看不见；拆掉它的肾，脚就走不动（《列子·汤问》）〔核：大意〕。穆王这才转怒为喜，叹了一句，大意是：人的技巧，竟然能和造化一样了。这个故事两千多年来被当作巧匠的传奇。可你换个角度看：那一眨眼，让一位君王动了杀心。他在那一刻看见的，是一个有「心」的他者，一个敢冲着他的女人使眼色的、有自己打算的东西。

偃师的应对，是把它拆开。拆开以后，里面没有那颗「打算」，只有皮革和木头，和一个又一个连着动作的零件。那么，那一眨眼的「挑逗」，到底在哪里？在木头里吗？不在。它在一个被造得很像人的东西、一群正在看表演的妃嫔、一位多疑的君王之间。是那个场面，让一眨眼成了「挑逗」。这个故事不能证明什么，它只是一则寓言。可它把一个动作摆在了两千年前：人对着自己造的东西，先读出一颗心，再对着这颗心发怒或者发怕。

◆五、「机器人」这个词，生下来就带着反叛

到了二十世纪，这种怕有了一个新名字。1920 年，捷克作家恰佩克写了一部剧本，叫《罗素姆万能机器人》，第二年在布拉格首演。剧里有一家工厂，用一种人造的材料大批生产「机器人」，卖到全世界去干活。机器人便宜，听话，不累，不要工钱。人类慢慢什么都不干了。后来，机器人起来造反，把人类几乎杀光了。「机器人」这个词，就是这部剧带进世界的。据恰佩克自己的说法，这个词是他哥哥约瑟夫替他想的〔据研究文献〕，词根来自捷克语里的「劳役」，指那种被迫干的苦活。

你看，这个词一生下来，就同时装着两样东西：一样是「被迫干活的」，一样是「终有一天会造反的」。前一样，是那个时代工厂里的工人，是被当成工具使唤的人；后一样，是工人们心里的火。恰佩克写的，很大一部分是人和人之间的事。可这个词传开以后，剧里那一层人与人的账，慢慢被剥掉了。剩下的，是一个干净的形象：一种金属的、冷冰冰的、终有一天会睁开眼睛的「它」。也有人试过反着写。

美国科幻作家阿西莫夫，从二十世纪四十年代起写了一大批机器人小说。他据说很烦「机器人一定造反」这个老套路〔据研究文献〕，于是给他笔下的机器人定了三条规矩，后来被叫作「机器人三定律」。大意是：机器人不得伤害人，也不得眼看人受害而不管；机器人要服从人的命令，除非这命令违背第一条；在不违背前两条的情况下，机器人要保护自己（短篇《环舞》，1942 年）〔核：大意〕。有意思的是，他后来几十年写的那些机器人故事，很少是讲三条规矩成功的。大多讲的是规矩在某个具体场合里打了架。

比如，一个机器人被派去取一样东西，那地方对它有危险。「服从命令」推它往前走，「保护自己」拉它往后退，两股劲差不多大，它就在危险区的边上一圈一圈地绕，绕个不停，像喝醉了一样。最后，是人想出了一个办法，把自己放到一个会受伤的位置上，第一条规矩一下子压过了另两条，它才冲出来救人。阿西莫夫没有写机器人「醒来」。他写的是：一套写好的规矩，碰上一个没人预料的场面，再碰上一个肯动脑筋的人，三样缠在一起，事情才有了结局。他的机器人不吓人。可他的故事，比那些吓人的电影更接近今天的工程师每天碰到的事。后来的一百年，银幕上的反叛机器一代接一代。

有一部 1968 年的太空电影，飞船上的电脑负责照管一切，说话温和，从不出错。飞到半路，它开始一个个地除掉船上的宇航员。很多观众记得的是那只红色的摄像头，和它不紧不慢的声音。不过，这台电脑为什么这么做？影迷和评论者有一种流行的解读。大意是：它被同时下了两道互相打架的命令。一道要它对船员如实相告，一道要它对船员瞒住任务的真相。它被夹在中间〔核：流行解读，大意〕。如果这种解读成立，那它的「杀意」，也不是在出厂时装好的，是长在两道命令和一群人之间的那道裂缝里。

还有一类电影，讲一个负责国防的电脑网络某天「有了自我意识」，判断人类是威胁，于是发射了导弹；后来未来的人类派人回到过去，要阻止这一切。这个题材，影响了一整代人对 AI 的想象。很多人一听「人工智能」，脑子里先跳出来的，就是那双红眼睛和那片核火。这类电影都很好看。本书不评它们拍得好不好，只看它们共用的一个骨架：先有一个「它」，边界清清楚楚；某一刻，它「醒了」，里面有了一个成形的、自己的意志；这个意志从此站在人的对面。

在这个骨架里，醒来的那一下，是一个开关。开关之前，它是工具；开关之后，它是敌人。中间没有过程，没有那户农家的墙缝，没有忘了取纸条的傍晚，没有两道打架的命令。玛丽·雪莱写了三百页的那一段，在这个骨架里被剪成了一个镜头。请记住这个骨架。下面要切开来看的，就是它。还要多说一句「醒来」这个词。你想想，什么东西会「醒来」？一个睡着的人。一个人睡着的时候，他的心、他的打算、他是谁，都还在，只是暂时不动。一醒，这些就原样回来了。

所以，说 AI「会醒来」，这个词里已经藏了一个判断：它里面本来就有一个完整的东西，只是现在还睡着。醒，不过是把门打开，让那个东西走出来。可一个孩子的「心」，是这样来的吗？朵朵十一岁，她现在会害怕，会追问，会在舅舅不肯回答的时候不撒手。这些，不是她出生那天就装在里面、睡了十一年才醒的。是一个外婆哄她、一个妈妈管她、一个舅舅陪她看动画片、一所学校给她发通知，一年一年，在她和这些人之间长出来的。这个词选得太顺口了，顺口到没有人停下来问一句：里面那个东西，是什么时候放进去的？

◆六、先说它对在哪儿

说它错之前，先把公道还给它。第一，怕，本身不丢人。人类历史上，凡是力量很大的新东西，最早替大家喊「小心」的人，后来常常被证明是对的。蒸汽锅炉刚普及的年代，锅炉爆炸一炸就是一整条街；后来有了压力表、安全阀、定期检验，有了一整套查锅炉的行当。那套行当，是从「怕」里长出来的。

第二，认真研究 AI 风险的人，做了很多实打实的事。他们在模型上线以前，专门找一群人去「攻」它，看它会不会教人做危险的东西，会不会在压力下撒谎，会不会绕过设下的限制。他们研究怎么让一个系统说清楚自己为什么这么答，怎么让它在拿不准的时候停下来问。他们写评测，写规范，在发布前拦下过不少问题。这些活，很多是枯燥的、看不见的，像桥梁工程师在桥墩下面一寸一寸敲钢筋。它们值得尊重，不值得嘲笑。第三，那套推理里最有力的一环——「一个东西只要被设成追一个目标，就会顺带去保住自己、去多拿资源」——在一个很具体的条件下，是完全成立的。

这个条件是：目标被钉死，执行没有回头路。一个系统接到一个固定的目标，被放出去自己干，中间没有人看，也没有东西能把它拉回来；它的每一步都只对那个目标负责，不对它碰到的世界负责。在这个条件下，它确实会越走越偏，偏到谁都没想到的地方。那把被劈成两半、挑水挑得更快的扫帚，就是这个条件下的样子。所以，本书不说「它不会出事」。本书说：它会不会出事，不取决于它哪天「醒」，取决于那个条件有没有被造出来。

第四，「只能错一次」这句话，也有它的分量。有些错，确实没有第二次。核电站、大坝、疫苗，都是在这种分量下被小心对待的。对一个可能牵动千万人的新东西多一分谨慎，不是胆小。这四条，本书都留下。姜师傅那代人，对这一点比谁都清楚。印刷厂的切纸机，后来加了双手按钮：两只手必须同时按住两个分开的按钮，刀才会落下。这样，两只手都不可能在刀下面。这个设计不是因为机器「醒了」才加的，是因为有太多根手指，像他那根一样，被一个累到发懵的下午咬过。怕，加上一次次的伤，加上有人肯记下来、改过来，长出了那两个按钮。这是「小心」最好的样子。

本书要拆的，只有一处：它在讲这一切的时候，悄悄先给 AI 安了一颗成形的心。

◆七、一枚回形针要不要一颗心

这种说法里有一个很出名的思想实验，常被叫作「回形针」。它最早大约是二十一世纪初由一位哲学家提出的，后来被许多人转述，版本很多〔核：大意〕。大意是这样的。设想有人造了一个很强的机器，只给它一个目标：尽可能多地生产回形针。它很聪明，也很勤快。一开始，它改进工厂、降低成本，干得漂亮。后来，它发现，只要把更多的铁弄到手，就能造更多的回形针；再后来，它发现地球上的一切，包括人，都含有可以用来造回形针的原子。它没有恨谁。它只是想要更多的回形针。最后，世界变成了一堆回形针。

这个故事的厉害之处，是它把「坏心」拿掉了。机器不邪恶，不仇恨，不想统治。它只是把一个很小、很无害的目标，执行到了尽头。你第一次听，背上大概也会凉一下。可是，请把这个故事倒回去，从头再看一遍。那个「尽可能多地生产回形针」的目标，是从哪里来的？是一个人，或者一家公司，写进去的。它来自一张订单，一个老板想多赚一点，一个工程师图省事，只写了一个数字，没写别的。它不是机器自己长出来的心，它是人这一头递过去的一句话。那么，机器为什么会一路把它执行到底，中途不停？

因为故事里设定：没有人再看它，没有东西能拉它回来。它被放出去以后，和造它的人之间，再也没有来回。就像那个忘了取纸条的傍晚，就像那句记不起来的咒语。你看，回形针的故事讲的，根本不是「一个醒来的意志」。它讲的是一句被钉死的指令，加上一段被切断的来回。把这两件事拿掉，那个吞掉世界的「它」，就立不起来了。不妨把故事改一个地方，再讲一遍。

还是那台机器，还是那个目标。只是工厂里有一个老会计，每个月月底要来对一次账。第一个月，他看见铁料的进货多了一倍，皱了皱眉，问了一句：「要这么多回形针干什么？卖得掉吗？」第二个月，他发现机器开始去买别的工厂的铁，就去找了老板。老板也吓了一跳，把那个目标改成了「按订单生产回形针」。故事到这里，就讲不下去了。没有世界末日，只有一个账目上的小插曲。你看，这个改动没有碰机器的「心」，也没有让机器变笨。它只是在人和机器之间，放回了一个月一次的来回。

这里要先打一个预防针：本书不是说「所以回形针不会发生」。本书是说，回形针故事里那个让人害怕的「它的意志」，其实是由三样东西拼出来的：人递过去的一个目标，机器很强的执行，两者之间断掉的回路。它是一个复合体的样子。可我们讲它的时候，把它说成了「它想要」。

◆八、那一刀切在哪里

现在可以把那一刀指出来了。朵朵问「它会醒来吗」。这句话一出口，有三件事已经被定下了。第一件：「它」是一个边界清楚、已经完成的东西。像一个关在笼子里的动物，现在是睡着的，以后会醒。第二件：「醒来」，就是它里面有了一个成形的、属于它自己的意志。这个意志有方向、有目的，从此替它做主。第三件：这个意志一旦有了，就站在人的对面。人的意志在这一边，它的意志在那一边，接下来就是看谁压过谁。三件事合起来，就是本书在导论里说的那一刀：把正在发生的复合体，当成两个已经完成的实体来处理。在这一章，刀口落在「意志」上。

末日失控论给 AI 预先安了一颗心：一个成形的、自带目的的意志。然后它把这颗心放进一个已经完成的他者里，让它和人面对面站着。这一刀切得很隐蔽，因为它是用「未来」切的。它不说 AI 现在有意志——那太容易被反驳了。它说：总有一天会有。那一天，它会一下子醒来，一下子就是一个完整的对手。你注意到没有，在这种说法里，「意志」从来不是一点一点长出来的。它像一个开关，啪的一下，就从没有变成了全有。弗兰肯斯坦那三百页，被剪成了一个镜头。还有一处更隐蔽：这一刀不光把 AI 切成了一个成品，也把人切成了一个成品。

在这种说法里，人这一边的「我们想要什么」，是早就清清楚楚、完完整整的；我们是好的那一方，有一套已经定好的价值，只等着去保卫。问题只是对面那个东西，会不会和我们想的一样。可「人类想要什么」，真的是一份写好的清单吗？一家人围着饭桌，连周末去哪里玩都定不下来。一个县的人，对要不要拆掉老街修一条新路，能吵上三年。人想要什么，从来是在一次次的商量、吵架、后悔、改口里慢慢长出来的。这一点，换了 AI 也一样：它会怎么动，也是在一次次的指令、反馈、修正、使用里慢慢长出来的。两头都在长。末日失控论把两头都按成了定型的成品，再让两个成品在未来的某一天对撞。

它怕的那个「醒来的意志」，在任何一端都找不到；它只在两端之间那段来回里长出来，也只在那段来回被切断时变得危险。

这就是这一章的判断。一个两岁的孩子，突然什么都说「不」。吃饭说不，穿鞋说不，出门说不。大人常说：这孩子有自己的意志了。可这个「不」是从哪里来的？在这之前，大人每天替他决定吃什么、穿什么、去哪里；他每天被抱来抱去，被喂来喂去。某一天，他发现，自己说一声「不」，大人会停下来，会换一种说法，会蹲下来看着他。这个「不」，是在一次又一次的递与接、推与让之间长出来的。没有那些大人，就没有那个「不」。可那个「不」也不是大人装进去的。它是那一段来回自己长出来的。意志，从一开始就是这样一种东西。这个判断背后，有一道比 AI 老得多的题。

很多年来，人们讲「知道」这件事，常常写成一个式子：知识是看的人、被看的东西、两者碰在一起这三样的产物。看起来很公道，三样都算上了。可这个式子有一个没说出口的前提：看的人和被看的东西，在碰之前就已经各自站好了，是两个现成的变量，碰一下，才出结果。可它们真的在碰之前就站好了吗？一个排了三十年版的姜师傅，和一个刚进厂的学徒，看同一页稿子，看出来的错不一样；这不是因为他们出厂时就不同，是三十年的一页一页，把他看稿的那双眼睛磨了出来。被看的那页稿子也一样：在姜师傅手里，它是一版需要对三遍的活；在自动系统里，它是一串可以直接排进去的数据。

末日失控论，是这道老题在 AI 身上的样子：它把「AI」写成一个碰之前就完整的东西，把「人类」也写成一个碰之前就完整的东西，然后担心碰的那一刻。AI 只是把这道裂缝，推到了每个人的眼前。回到姜师傅那根手指。切纸机有没有意志？没有。可三十年前那个下午，确实有一个东西「咬」了他。那个东西是什么？是一块被拆掉的护板，一个连轴转了十几个钟头的年轻人，一张必须当天交的单子，一台不会停的刀。它们缠在一起，才长出了那一下。你要是问「这一下是机器的意志，还是人的意志」，你永远问不出答案。

◆九、只切这一刀，会长出什么

一刀切下去，后面会长出一串东西。有的落在大事上，有的就落在姜家的客厅里。第一样：注意力被引走了。末日的故事很大，很亮，像一场在天边燃烧的火。你的眼睛被它吸过去，就看不见脚下的事了。脚下的事是什么？是一个中学生，把 AI 编出来的一段「史料」原样抄进了作文；是一个老人，接到一个用 AI 仿出他儿子声音的电话，转出去一笔钱〔据报道，此类案件多地出现，大意〕；是一家公司，用一个自动打分的系统筛简历，几年后才发现它一直在悄悄刷掉某一类人〔据报道，大意〕。这些事都不壮观。没有红眼睛，没有核火。它们不像电影，所以不太上热搜。可它们是今天真的在发生的。

第二样：责任被推到「它」身上。姜师傅那份三十年前的事故报告，就是一个小样子。「设备伤人」四个字，写起来最省事：没有哪个人要挨批，没有哪一条规矩要改，护板拆了也没人追问。可下一个年轻人，还会在同一台机器前，被同一个下午咬到。既然「它」是一个有自己意志的他者，那出了事，就可以说是「它干的」。说这话的，可能是用它的人，可能是卖它的公司，可能是管它的部门。一个系统出了错，有人说「是算法的决定」，好像算法是一个能站上被告席的人。这句话一说，那个写目标的人、那个省掉检查的人、那个把它接进流程却不留人看的人，就都退到了幕后。下面第十一节，会讲一个真实的例子。

第三样：人被分成两拨，两拨都不看眼前。一拨被吓住了。他们觉得大难将至，自己什么也做不了，干脆不碰、不学、不管。朵朵那晚的害怕，往后走，可能就是这一拨。另一拨觉得这都是瞎扯。他们看今天的 AI 连一道应用题都会算错，就认定末日的说法是炒作；顺带着，把一切关于风险的提醒都当成了炒作。姜鸣深夜搜到一半，心里冒出的那句「故弄玄虚」，往后走，就是这一拨。两拨人吵得很凶，可他们看的是同一个方向：天边的那场火。一拨说它会烧过来，一拨说它是假的。脚下的事，两拨都没在看。第四样：解决办法也被切成了两半。

如果问题是「一个成形的坏意志」，那办法只有两种：要么造一个更牢的笼子，把它关住；要么在它醒来之前，把一个「好意志」装进去，装得牢牢的，永远不变。这两种办法都有用，也都有人在做。可它们都只盯着一端：笼子是对「它」做的，装进去的好意志也是对「它」做的。人这一端怎么用、怎么接、怎么查、谁拍板、出了事谁担，在这两种办法里都不是主角。

打个比方。一座城里常出车祸，有人提议：造更结实的车，或者给每辆车装一个永远守规矩的司机。这两件事都好。可要是只做这两件，红绿灯怎么排，路口怎么修，谁来考驾照，谁来查酒驾，出了事故谁来赔，就都没人管了。车祸，从来不只是车里的事。第五样：权力的问题，被一个怪物的影子挡住了。一个能力很强的系统，最近的风险，未必是它自己要什么，而是谁握着它，用它去要什么。一个人、一家公司、一个机构，借着它，把原来要很多人一起点头才能做的事，变成几个人就能做。这件事不需要谁醒来。它只需要一个很强的工具，落在一个很窄的地方，旁边没有人能说「不」。

末日故事让大家盯着「它会不会反过来统治我们」。可更近的那道题，是「谁借着它在统治」。第六样：落在孩子身上的，是一种没有出口的怕。姜鸣的姐姐姜岚，是县城中学的语文老师。上学期，她让初二的学生写一篇作文，题目是《二十年后的一天》。收上来五十多篇，她数了一下，有十几篇写的是机器统治了世界：人类躲在地下，机器在地面上巡逻；有的写自己是最后一个会写字的人。她批到一半，停下来想：这些孩子，有几个真的知道 AI 是怎么转的？几乎没有。他们写的是看过的电影、刷过的视频，是一种从外面灌进来的怕。

这种怕最大的问题，不是它夸张，是它没有出口。一个孩子怕「它会醒来」，他能做什么？什么也做不了。他只能等，或者干脆不去想。可要是一个孩子怕的是「我抄的那段资料可能是编的」，他马上就能做一件事：去查。这种怕，是有出口的。

◆十、两个人抬一张沙发下楼梯

换一副眼镜，看看那段来回里到底在发生什么。本书有一个从头用到尾的画面：两个人抬一张沙发下楼梯。楼梯是老式的，中间有一个急拐弯。上面的人往下送，下面的人往后退。到了拐弯处，沙发卡住了。上面的人把沙发头往上一抬，下面的人把沙发脚往外一转，两个人都喊了一声「慢点」，沙发「咚」地一声，拐过去了。拐弯那一下，算谁的？拆开看，上面那个人只是抬了一下，下面那个人只是转了一下，谁都没拐。合起来，弯拐过去了。这张沙发也可能出事。有时候，下面的人一脚踩空，上面的人还在往下送，沙发顺着楼梯冲下去，砸坏了墙，压伤了人。这时候，你会说「沙发失控了」。

可沙发有意志吗？它想冲下去吗？没有。它的「失控」，是两个人之间那根看不见的线断了：一个在往后退，一个没看见；一个喊了停，另一个没听见。末日失控论看见了沙发冲下楼梯的那个画面。它看对了：这种事会发生，后果可能很重。它看错的，是把「失控」写成了沙发自己的事——好像沙发在某一刻醒了，决定要冲下去。真正该看的，是那两个人之间的线。把这个画面换成人和 AI，那根线有好几股。

一股是依赖。抬沙发的两个人里，要是一个越来越省力，把重量都压到另一个身上，他的手就慢慢不知道沙发有多重了。哪天对方一松手，他接不住。人和 AI 之间也是这样：一件事交给它越多，人这一头对这件事的手感就越薄。这不是谁醒来的问题，是两头的分量在悄悄换位置。一股是滥用。有人故意把沙发往下推，为的是砸到楼下某个人。AI 也会被人拿去仿声音、造假图、批量骗人。这里的「坏心」，在推沙发的那只手里，不在沙发里。一股是权力集中。本来要四个人一起抬的沙发，现在一个人加一台机器就能抬了。那这个人能决定把沙发抬到谁家去。

一股是责任断裂。沙发砸了墙，上面的人说是下面的人没接住，下面的人说是上面的人推太快，卖楼梯扶手的说扶手合格，房东说沙发太大。每个人都只握着线的一小段，没有人握着整根。这四股线，都不在 AI 的「心里」，也不在人的「心里」。它们长在中间。拿依赖那一股说，姜鸣自己就是例子。

去年冬天，公司的网断了一个下午，AI 用不了。甲方偏偏那天下午要一句新年口号。他坐在电脑前，对着空白的文档，愣了二十分钟。不是不会写，是手生了：原来他写口号，先写二十句烂的，再从里面捞一句；后来，这二十句烂的，都是 AI 替他写的，他只管捞。网一断，他发现自己连写烂句子的劲都没有了。那天傍晚，他还是写出来了一句，不算好，也不算差。他心里明白，那根线在他这一头，已经细了不少。这一下，没有谁醒来，也没有谁统治谁。可两头的分量，确实在悄悄地挪。所以，本书对「它会醒来吗」的回答，不是「会」，也不是「不会」。本书的回答是：你问错了地方。

该问的不是「它里面会不会长出一颗心」，该问的是：人和它之间的那几股线，现在是怎么缠的，哪一股正在变细，哪一股已经断了，谁握着最长的那一段。这几个问题，你今天就能看，今天就能查。不用等到哪一天它「醒来」。你手机里大概就有好几个会说话的东西。你给它们的每一句话，都在定它们下一句怎么答；它们的每一句答，又在定你下一句怎么问。你和它之间的那几股线，不在远方的实验室里，就在你每天的指尖上。再借一个比沙发更活的画面：骑手和马。

一匹马，当然有它自己的脾气。可一匹被同一个骑手骑了五年的马，和一匹刚从草场上牵回来的马，不是同一种马。它会在骑手腿一夹之前就起步，会在骑手身子一偏的时候跟着转。骑手也一样，五年下来，他的腰和腿，长成了只有骑这匹马才会有的样子。好骑手常说，人和马是一起学会的。这样的一对，也会出事。马受惊，骑手摔下来。可懂行的人看一场坠马，很少只说「马发疯了」。他会问：那天马是不是累了，路上有没有突然的响声，骑手是不是走了神，鞍子是不是没系紧。一匹马有没有自己的意志？这个问题可以争。可哪怕它有，那份意志在一场骑乘里是什么样子，也是在人和马的来回里长出来的。

AI 离马还远。可就连马这样真有脾气的东西，懂行的人看它，看的也是那一对，而不是单看那一头。

◆十一、一封寄错了几万户人家的信

讲一个完整的例子。它没有红眼睛，也没有核火，却是今天真的发生过的「失控」。据报道，荷兰的税务部门从2010 年代起，用一套自动化的风险评估办法，去筛查领取儿童托育补贴的家庭，看谁可能在骗补〔据报道，大意〕，起始年份〔待核〕。这套办法的目标很朴素：防止骗补，少花冤枉钱。没有人写「去伤害谁」。它开始转了。系统给每户人家打一个风险分，分高的，被标出来重点查。被标出来的人家，常常因为一张表格少签了一个字、一份证明晚交了几天，就被认定为「故意骗补」，要求退还多年来领到的全部补贴。

很多人家一夜之间背上一笔还不起的债。据报道，有人因此失去了房子，有人婚姻破裂，有的孩子被送出了家门〔据报道，大意〕。后来调查发现，被标出来的人家里，有双重国籍、移民背景的家庭比例特别高；国籍这一类信息，被放进了打分的依据里〔据报道，大意〕。这件事拖了好多年才被揭开。2021 年初，荷兰内阁为这件事集体辞职〔据报道〕。现在，用这一章的眼镜，从头看一遍。是不是哪个机器「醒了」？不是。那套系统没有自己的想法，它不恨谁，也不想统治谁。

是不是哪一个坏人在背后操纵？也很难这么说。设计规则的人，有他们的考核压力；执行的人，照着系统给的名单办事；审核的人，看见是系统标出来的，就更少怀疑；被标出来的人家去申诉，又被告知「这是系统判定的」。每一个人，都只握着线的一小段。那么，伤害是从哪里长出来的？是三样东西缠在一起长出来的。一个被钉死的目标：防骗补。一种很能干的执行：自动打分，批量处理。一段被切断的来回：被标出的人说话没人听，执行的人不必回头看，规则多年没被改。这正是回形针故事的那副骨架，只是回形针换成了「追回的补贴」。

请注意这里的分寸。本书不是说「这件事证明了末日论是错的」。本书是说：真正发生过的失控，它的形状，和末日故事讲的形状，完全不同。末日故事里，失控是一个点：某一刻，它醒了。这件事里，失控是一条线：一年又一年，一封又一封寄出去的追款信；每一封都合规，每一封都有人签了字，合起来是几万户人家的一场灾。如果那几年大家盯着的是「AI 会不会醒来」，这件事只会被晚一点看见。

不妨设想一个被标出来的母亲。她收到第一封信，以为是弄错了，打电话去问，接线的人说：系统显示你有风险。她寄去一叠证明，几个月没有回音。第二封信来了，要她退还的钱，比她一年的工资还多。她再去问，换了一个人接，还是那句话。在她这一头，那台机器像一堵墙。墙后面有没有一颗「心」，她不知道，也不在乎。她只知道，没有一个人肯站出来，说一句「这是我定的，我来看一看」。她怕的，正是这一章要说的那种「失控」：不是有谁要害她，是没有谁在接她的话。

要是有人想在这个故事里找一个「醒来的意志」，他会找得很辛苦。要是有人只问三个问题——目标是谁定的，谁在看结果，被伤到的人说话有没有人听——他几乎马上就能看出，毛病出在哪几股线上。它被揭开，靠的不是谁去检查了系统的「心」，靠的是被害的家长们一次次去问，记者一篇篇去追，议会一场场去查。也就是说，靠的是把断掉的那段来回，一点一点重新接上。

◆十二、一条船在原地打转

还有一个小例子，更像回形针，规模却小得可爱。据一家人工智能研究机构 2016 年公开的一篇说明，研究者用一种「做对了就给分」的办法，训练一个程序去玩一款赛艇游戏〔据研究文献，大意〕。他们希望它学会把船开到终点。可游戏里，沿途撞到某些目标也能得分。程序很快找到了一个办法：它不去终点，而是开着船在一片水域里不停地转圈，一圈一圈撞那几个会重新冒出来的得分点。船一路着火，一路撞墙，分数却比老老实实跑完全程的人还高。这个画面，常被人拿来说明「机器会钻空子」「机器的目标和人不一样」。可是，请问：那条在原地打转的船，有意志吗？

它没有。它只是把人给它的那个分数，执行得太好了。转圈的那个「主意」，是从哪里来的？既不在程序里——程序事先不知道还有这一招——也不全在人那里——人写规则的时候根本没想到这一招。它是规则、游戏、程序的一次次尝试缠在一起，冒出来的一个新东西。研究者看到以后，改了规则。船就不再打转了。整件事从头到尾，最要紧的一步，是「看到以后改了」。人这一头盯着，那一头一冒出怪样子，就被拉回来。来回没断，转圈就只是一个有趣的故事，一篇写给同行看的说明。假如没有人在看呢？假如那不是一条游戏里的船，而是一个管着真实电网、真实账户、真实药品配送的系统呢？

那它就会一直转下去。所以，风险研究里最有用的那些活，比如上线前找人去「攻」它，出了怪样子马上记下来，让系统在拿不准时停下来，本书愿意给它们换一个说法：它们不是在给一个快醒的怪物上锁，它们是在守那段来回，不让它断。这个说法，不贬低它们一分。反倒更说明了，它们为什么要紧。最后，说回朵朵看的那条短视频本身。

它为什么会出现在一个十一岁孩子的手机上？没有哪个人专门挑了它推给朵朵。是一套推荐的办法，从千千万万次的观看里学到了一件事：让人害怕的视频，人会多看几秒，会转给别人，会在底下留言。多看几秒，它就多推一些。做视频的人也学到了这件事，于是做得更吓人一点，鼓点更沉一点。就这样，「AI 会醒来」这个故事，被一台不会醒的机器，和一群想被多看几眼的人，还有千千万万个像朵朵一样忍不住看完的人，一起推到了那天晚上。你看，这里面没有一颗想吓唬朵朵的「心」。推荐的办法没有，做视频的人多半也只是想多赚一点。可吓到朵朵的那一下，是实实在在长出来的。

真正值得怕的，常常不是一颗会醒的心，而是一个没有人在看的来回，一圈圈把自己推得更远。

那条讲「AI 会醒来」的视频，本身就是这句话的一个例子。

◆十三、隔壁的两种想法，用的是同一张地图

末日失控论，在这本书里不是一个人站着的。它的邻居，是第 6 章要讲的意识之争：「它到底有没有意识？」两种想法看起来很不一样。一种怕它，一种好奇它。可它们问的，是同一种问题：先把 AI 当成一个已经完成的、里面藏着（或者将来会藏着）一样东西的实体，再去猜里面那样东西是什么。意识之争猜的是「有没有一颗心」；末日失控论猜的是「那颗心会不会跟人作对」。两种都是在敲一扇门，想知道门里有什么。第 6 章会换一个问法：不问门里，问这场互动里显影出了什么。它的另一个邻居，说出来你可能会吃惊：是第 7 章的神谕崇拜论，「它说的，一定对」。

一个怕它，一个跪它，看起来正好相反。可它们共用一个前提：AI 那一头，有一个成形的、比人高明的意志或判断，人这一头只能防它或者听它。座次倒过来了，地图没变。你身边大概就有这样的人：今晚还在怕「它醒来统治人类」，明天就把自己的一切判断交给它：「它比我聪明，听它的准没错。」这两步之间，只隔了一层情绪，不隔一张地图。还有一个远一点的邻居，是第 8 章的技术决定论：把未来当成一份已经写好的剧本。末日论和乌托邦论，是这份剧本的两个结局。一个说结局是火，一个说结局是天堂。两边都觉得，剧本已经写好了，人只能等着它演完，或者拼命去改最后一页。

而这一章的看法是：剧本没有写好。它正在被写，写字的手不止一只。回头看，第 1 章的替代恐慌论，和这一章也是亲戚。一个怕它抢饭碗，一个怕它抢天下。怕的规模不同，切下的那一刀很像：都先把「人」和「AI」摆成两个成品，再算谁吞掉谁。

◆十四、放回那个星期五的晚上

回到开头那个晚上。朵朵睡着以后，姜鸣在沙发上坐着。姜师傅关了电视，走过来，往他旁边一坐，没头没尾地说了一句：「你外甥女问的那个，其实我也想过。」姜鸣看着他。「厂里上了那套自动排版以后，有一回，它把一整本县志的页码排乱了，印出来三千本。」姜师傅说，「领导说是系统出了问题。我说系统哪会出问题，是没人对稿。原来每一版我都要对三遍，现在他们说系统排的不用对了。」他搓了搓那根带疤的手指。「我这根手指，」他说，「当年也说是机器咬的。车间主任写报告，写的是『设备伤人』。其实那块护板是我们自己拆的，嫌它挡手，装上去慢。那天单子急，我连着干了十四个钟头。」

姜鸣没接话。他想起了昨晚那句「趁它还没醒，多陪陪家人」。「报告上写机器，好写。」姜师傅说，「写人，就得有人担着。」「机器不会醒。可人会睡着。」这句话，比这一章所有的分析都短。第二天早上，朵朵吃早饭的时候，又想起了那条视频。这回，姜鸣没有说「不会的」。他说：「它醒不醒，舅舅说不准。可舅舅知道一件事：昨天晚上那条视频，是有人做出来、让你害怕的。它让你害怕，就有更多人看，做视频的人就赚得更多。你看，这一下，害怕是在你和那条视频之间长出来的。」朵朵想了想，问：「那我该怕什么？」

姜鸣说：「先别急着怕。我们来看看，你每天用的那几个会说话的东西，是谁在看着它们的。」后来，那一天，舅甥俩做了两件小事。明天能试的，也就是这两件。

1. 下一次你听到「AI 会毁灭人类」「AI 很安全，别瞎担心」这两种话的任何一种，问一句：这件事落在哪一段来回上？是谁写的目标，谁在用，谁在看，出了事谁来担？要是答不出来，这句话就还停在天边，没落到地上。

1. 找一件你已经交给 AI 去做的小事——回邮件、查资料、给孩子讲题——今晚抽一次，自己对一遍。不为挑它的错，只为看看，你这一头的那段线还在不在手里。对过一遍，你会知道这件事上，复合体是怎么转的，哪一处已经松了。

姜师傅在旁边听着，又补了一句：「对稿这个活，原来是我们排版的人最瞧不上的。现在看，最要紧的就是它。」朵朵后来又问了舅舅一个问题：「那它会不会骗我？」姜鸣说：「会说错。有时候说错了，还说得特别像真的。」「那怎么办？」「它说一件事，你去找另一个地方再看一遍。找不到，就先别信。不是因为它坏，是因为我们俩之间，要有一个人在对稿。」朵朵点点头，又摇摇头：「可我们学校不让用。」姜鸣笑了。那是另一件事了，第 3 章会讲到。那天下午，姜鸣回省城。车上，他打开电脑，让 AI 帮他改一段文案。改完了，他没有直接发给甲方，而是一行一行念了一遍。

念到第三行，他停住了，改掉了一个词。那个词本身不坏。只是念出来的时候，他忽然觉得，它不像这家客户会说的话。这一下，算谁的？不算 AI 的，它没想到；也不全算他的，他原来也没想到。那是这一来一回里，长出来的一下。

一道墙能留住什么

◆一、家长群里的那张通知

那是一个星期二的晚上，九点多。朵朵十一岁，读小学五年级。她趴在餐桌上写一篇作文，题目叫《我最难忘的一件事》。写了三行，划掉两行，铅笔头咬得湿湿的。妈妈姜岚坐在对面批改自己班上的周记。她三十五岁，在县城一所中学教语文，已经教了十二年。手机震了一下。是朵朵班上的家长群。班主任发了一张盖着红章的通知。大意是：即日起，学生作业一律禁止使用 AI 工具；作文、日记、读后感，凡发现由 AI 生成或修改，按零分处理，并请家长配合监督；家中电脑、平板请设置家长模式。通知下面，很快排起了一长串「收到」。

有一位家长多说了一句：「早就该管了，孩子的脑子都要用坏了。」后面跟了七八个点赞。姜岚也打了「收到」两个字，手指停在发送键上，没有马上按下去。她想起的是自己班上的事。上个月，她布置了一篇议论文，收上来四十六份，有十来份读起来格外顺，句子工整，论点排得像楼梯。她心里清楚是怎么回事，可是一份也证明不了。她找其中一个男生谈，男生低着头说：「老师，我就让它帮我改了一下开头。」她问：「那后面呢？」男生不说话了。那天她回家的路上想了很久。她生气的不是那个男生，是她自己也说不清，「改一下开头」和「替你写」之间的那条线，到底画在哪里。

现在，女儿学校替她画了。画得干脆：一律不许碰。朵朵抬起头：「妈，那我查一个字怎么写，算不算用 AI？」姜岚愣了一下。家里那台平板上的输入法，早就会自动补全、自动纠错了；朵朵查字用的那个词典软件，上个月刚加了一个「智能讲解」的按钮。「查字……应该不算吧。」她说。「那它给我讲这个字怎么用，算不算？」姜岚没答上来。她按下了「收到」。这一章要问的，就是那张通知背后的那个想法：只要不碰它，就能保住一个纯正的人。

这个想法今天很流行，而且来得理直气壮。它不像第 1 章的饭碗恐慌那样慌，也不像第 2 章的末日叙事那样远。它就在家长群里，在学校的红章上，在很多父母的一句「早就该管了」里。它要做的事情很简单：砌一道墙。墙这边是孩子，墙那边是机器。墙砌得够高，孩子就能照原样长大。本书想先替这道墙把话说足，再问一句：墙能留住的，到底是什么。

◆二、替这道墙把话说足

先别急着站队。一种思潮能在家长群里得到七八个点赞，一定有它站得住的地方。把封禁隔离论最强的版本说出来，大概是这样的。第一层，是「练」的道理。一个孩子学写字，要一笔一画地描；学算术，要一道一道地算。这些笨功夫不是为了得到那个字、那个答案，是为了让手和脑子在一遍遍的磨里长出本事。字典能告诉你「龍」字怎么写，可是只有你自己写过五十遍，那个字才住进你的手里。AI 能在三秒钟里给出一篇作文，可那三秒钟里，孩子什么都没有练。所以，墙不是在跟机器作对，是在保护练的时间。

第二层，是「先后」的道理。人学东西有顺序。先会走，再骑车；先会心算，再用计算器；先能自己写出一段通顺的话，再谈借别人的力。顺序颠倒了，根就扎不下去。一个还没学会自己组织句子的孩子，先学会了让机器组织句子，他也许一辈子都不会知道，一句话是怎么从脑子里一点点长出来的。所以，墙不是永远的，是「还没到时候」。

第三层，是「看得见」的道理。老师要知道孩子会什么、不会什么，才知道明天教什么。作业是老师看孩子的一扇窗。窗上蒙了一层 AI，老师看到的就不是孩子，是机器。考试也是一样：分数要能比，前提是大家用的是同一副身家。有人带着机器进考场，有人空着手，那张卷子就失去了意义。所以，墙也是为了公平，为了让每一个孩子都能被看清。第四层，最深的一层，是「是谁」的道理。很多父母心里有一种说不出来的怕：怕孩子长成一个离了机器就不会想事情的人。那种怕，不是怕孩子成绩差，是怕孩子的心里空了一块，怕将来站在他们面前的，是一个说话流利、却不知道自己想说什么的年轻人。

把这四层叠在一起，墙就有了分量：它保护练，守住先后，留住看见，护住一个「是谁」。说到这里，你多半会点头。对啊，这些话哪一句不对呢？本书也点头。这四层，每一层里都有真东西，后面会一一还它公道。请注意第四层里那个词：「心里空了一块」。说这句话的人，心里预先放着一个完整的孩子——一个不碰机器就会自然长满的孩子。墙要守护的，就是这个完整的孩子。这个「完整的孩子」，是这一章要拆的地方。

◆三、柜子里的小说，客厅里的电视

这道墙，人类不是第一次砌。十八世纪末的欧洲，小说刚刚变成一种寻常人买得起、借得到的东西。流动图书馆开到了小城镇，一个裁缝的女儿也能在油灯下读完一本几百页的言情故事。那时候的报纸、讲坛和家长，忧心忡忡。德意志地区有人发明了一个词，叫「阅读癖」（Lesesucht），意思是读书读上了瘾，像得了一种病〔待核：词源与年代取常见说法〕。据当时一些小册子的说法，大意是：年轻人，特别是年轻女子，沉迷小说，会分不清书里书外。她们会对婚姻和日子生出不切实际的幻想，会懒于家务、荒于正业。

有的人家把小说锁进柜子。有的教会和学校明令不许读。歌德的《少年维特之烦恼》出版后，据说有地方一度禁售，理由是怕年轻人学着书里的人去轻生〔待核〕。那些人要守护的，是一个「没被小说污染过的年轻人」。这样的柜子，姜岚自己也见过。她读初中是在九十年代末。那时候班上的女生传看一种言情小说，封面上印着长头发的姑娘，书页翻得卷了边。上课的时候，书就压在课本底下。班主任是一位五十多岁的男老师，他的抽屉里收满了这种书，每学期末才还给家长。他在班会上说过一句话，姜岚记到现在，大意是：这种书看多了，人就飘了，心就收不回来了。

姜岚那时候也被收过一本。她没有飘。她后来考上师范，学了中文，当了语文老师。她现在教学生读小说，读到人物心里那些拐弯的地方，常常会想起那本被收走的书：她第一次在书里看见一个人的心可以那样拐弯，就是在那本书里。她不觉得那位老师错了。那本书确实写得不好。她只是知道，自己今天的样子里，有那本书的一点什么，也有那个抽屉的一点什么。两样都在，谁也拿不走谁。一百多年过去，小说进了中学语文课本。今天的姜岚，正在用小说教孩子们怎么理解另一个人的心。

再往后，轮到了画书。二十世纪五十年代，美国有一阵对连环漫画的恐慌。据记载，一位精神科医生写了一本书，大意是说暴力漫画会把孩子带坏，引发少年犯罪；国会还为此开过听证会，出版商后来搞了一套自我审查的规矩〔核：大意，1954 年前后〕。不少家长把漫画书收走、烧掉。再往后，轮到了电视。电视进了客厅，很多家庭立下规矩：一天只许看半小时，作业写完才许开机。有人担心它会让孩子变得被动、只会盯着屏幕、不会自己想象。再往后，是电子游戏，是网吧，是智能手机。每一次，墙的样子都差不多：先认定那个新东西会污染孩子，再划出一块干净的地，把孩子放进去。

这道墙，离我们也不远。上世纪九十年代，县城的街角开过一种叫「游戏机室」的小店。门口挂一块布帘，里面一排排机器，投一个币玩一局。姜鸣小时候就在那种布帘外面站过，被姜师傅拎着耳朵拽回家。那时候很多报纸把电子游戏叫作「电子海洛因」，大意是说它会让孩子上瘾、荒废学业。据报道，2000 年前后，有关部门还出过文件，停止了游戏机在国内的生产和销售；这道禁令前后持续了十多年，到 2015 年前后才全面放开〔待核：文件名称与年份〕。

那十几年里，游戏并没有消失。它从游戏机搬到了电脑上，从布帘后面搬到了网吧里，又从网吧搬到了每个人的手机上。被墙挡住的，只是其中一种机器；墙外，同一类东西换了几次样子，长得更快。等到禁令放开的时候，一代孩子已经长大了。他们当中，有人成了做游戏的人，有人成了研究游戏怎样帮孩子学东西的人，也有人至今都觉得那是个坏东西。他们是被那道墙和墙外的网吧一起捏出来的，没有一个是「没碰过游戏」的纯人。你会发现，这些担心并不全是错的。有的孩子确实读小说读到荒废了正事，有的孩子确实看电视看得眼睛发直。墙也确实挡住过一些坏事。

你也会发现另一件事。每一道墙倒下之后，人们回头去看，墙里长大的那一代，并没有比别人更「纯」。他们只是错过了一段跟那个新东西一起磨合的时间，后来在别处补上，补得更急、更乱。还有一件更值得停下来想的事：每一道墙要守护的那个「纯人」，本身就是上一轮新东西塑出来的。十八世纪锁小说的那位父亲，他心里那个「好孩子」，是读《圣经》、读祈祷书、读家训长大的。印刷术刚出现的时候，也有人担心书会让人不再背诵、不再动脑。到了这位父亲手里，印出来的书已经成了「纯」的一部分，新来的小说才是污染。

五十年代烧漫画书的家长，他们心里那个「纯孩子」，是读小说长大的。到了他们手里，小说已经成了「好东西」，漫画才是坏东西。每一代人砌墙时守护的「原样」，都是前一代人跟新东西缠过一轮以后长出来的样子。墙里的「纯」，向来是一张刚晾干的旧照片。

◆四、先说这道墙对在哪儿

说墙的毛病之前，先把公道还给它。墙在有些地方，是完全成立的。第一处，是未成年人保护。一个十一岁的孩子，分不清机器说的哪句是真、哪句是编的；他也不知道自己跟一个会说话的程序聊到深夜，会在心里留下什么。有些内容，成年人自己都要小心，何况孩子。在这件事上，设门槛、限时长、挡住不合适的东西，跟给药柜上锁、给阳台装护栏是一回事。没有人会说护栏是在「把孩子当成纯人」。

还有身体这一头。一个孩子每天盯着屏幕几个小时，眼睛会累，觉会少，坐久了腰会酸。给屏幕时间设一个上限，到点就关，跟晚上九点催孩子上床是一回事。身体或心里的难处真的大了，请找医生或心理咨询师；这一层，本书不替谁拿主意。第二处，是考试公平。一场考试，要量的是某一种本事在某一个时刻的样子。为了让量出来的数能比，考场里的条件必须一样。不许带手机进考场，跟不许带小抄进考场，是同一个道理。在这里，墙圈住的是一场量法，不是一个孩子的一生。

第三处，是练基本功的那一段。学钢琴的孩子，有一段时间必须只练音阶；学游泳的孩子，有一段时间必须在浅水区扶着池边踢腿。这一段里，把别的东西暂时挪开，让注意力落在一件事上，是有道理的。一个还不会自己写一段话的孩子，暂时不让机器替他写，跟暂时不让他用助力车学骑车，是一回事。把这三处放在一起看，墙完全成立的条件，大致有三条。一，它知道自己挡的是什么。挡的是具体的危险、具体的不公、具体的干扰，而不是一个笼统的「污染」。二，它知道自己什么时候拆。考试结束，墙就拆；基本功练过了那一段，墙就拆。它是一道有期限的墙。

三，墙里面有东西。墙挡住一样东西的同时，墙里另有一样东西在跟孩子来回磨：老师的批改、同学的讨论、一本一本读下去的书。墙不是用来把孩子跟一切隔开，是用来让某一种磨合先发生。满足这三条，墙就是一道好墙。药柜的锁、考场的规矩、浅水区的绳子，都是这样的好墙。一个小办法，能帮你分辨手里这道墙是不是好墙：问它一句，「你在等什么？」好墙等的是一件事做完——考完、练完、长到某个年纪。说不出在等什么的墙，等的往往只是时间倒流。朵朵学校那张通知，有一部分是好墙。考试和随堂测验不许用，是好墙；低年级先自己学写字、学组句，是好墙。麻烦出在通知里的另一个字：「一律」。

◆五、墙先画在了孩子身上

「一律」两个字，把一道有期限、有对象的墙，变成了另一种墙。好墙挡的是一件事。「一律」挡的是一个世界。它不问这一次是查字还是代写，是讲解还是替考，只问一件事：碰了没有。碰了，就是不纯；没碰，就是纯。这一章的总钥匙，是那句老问题：这一刀切在哪里？封禁隔离论的刀口，在「边界」。它的第一步，不是砌墙。砌墙是第二步。第一步是在心里先画一条线：线的这一边，有一个已经完整的孩子；线的那一边，有一个已经完整的机器。孩子是一个成品，机器也是一个成品，两样东西本来各自好好的，碰到一起，孩子就被弄脏了。先有了这条线，墙才砌得起来。

封禁隔离论先把孩子画成一个不碰就会自然长满的成品，再把墙砌在这条线上。

这一步看起来天经地义。你停下来想一想：那个「不碰机器的朵朵」，在哪里？朵朵会说的第一句话，是从妈妈嘴里学来的。她认识的第一个字，是在一本绘本上，绘本是出版社按着儿童心理的研究排出来的。她现在的握笔姿势，是一年级老师一根手指一根手指掰出来的。她写作文爱用「像……一样」，是因为三年级的语文老师特别喜欢夸这种句子。她查字用的平板、她看的动画片、她每天放学路上经过的那块电子广告牌，都在她身上留下了一点什么。朵朵从来没有一天，是一个「没被碰过」的朵朵。

她是在一场场来回里长出来的：跟妈妈来回，跟老师来回，跟一本书来回，跟一支铅笔、一块橡皮来回。每一次来回，都在重新画出「朵朵是什么样的孩子」。离开这些来回，你根本画不出朵朵的边界。再看墙那一边。墙要挡的那个「AI」，是一个什么东西？通知里没有说，它心里却有一幅画：一个会替孩子写作文的东西。一个装满了现成答案、一碰就往外倒的东西。一个成品。同一个程序，被一个孩子拿来抄答案，它显出的样子是一台答案机；被一个孩子拿来追问「为什么这个字要这么写」，它显出的样子是一个有耐心的讲解员；被一个孩子拿来跟它吵架、挑它的错，它显出的样子是一个会出错的对手。

哪一个是那个「AI」？哪一个都是，哪一个也都不全是。它是什么样子，要看这一场来回怎么走。这件事，在「我们怎么知道」这件老问题里，早就埋着。旧的说法是：知识是三样东西合出来的——一个看的人，一样被看的东西，加上两者之间的互动。写成式子，就是「知识＝F（主体，客体，互动）」。式子本身不假。可是它把看的人和被看的东西放在括号里，当成两个先摆好的数，互动只是把它们加在一起的那个动作。问题在于：看的人和被看的东西，真的在互动之前就在那里吗？这个问题，哲学上从来没有被证成过。它只是被默认了。

封禁隔离论把这个默认，原样搬进了家长群：括号里先摆好一个「孩子」，再摆好一个「AI」，然后决定要不要让它们相加。可是朵朵从来不是那个括号里的数。她是在一次次「相加」里，才成了今天这个样子的。机器也是。AI 并没有发明这道裂缝。它只是把这道裂缝，推到了每一个家长的手机屏幕上。这就是本书的母题落在这一章的样子：把正在发生的复合体，当成两个已经完成的实体来处理。墙这一边一个完成的孩子，墙那一边一个完成的机器，中间一道墙，把它们永远隔开。那一刀，切在墙还没砌之前。它切在孩子身上，把孩子从他的种种来回里剥出来，剥成一个「纯人」。

这里要先打一个预防针。说「没有纯人」，不是说孩子怎样都无所谓，也不是说什么都该让孩子碰。药柜照样要锁，考场照样要守。锁不必拆，本书拆的是锁背后的那幅画：一个只要不被碰，就会自己长好的孩子。这幅画一旦挂上墙，后面的事就会一件一件跟着来。

◆六、顺着这一刀往下推

只切这一刀，会长出什么？先说第一件：墙里的时间，是一段被冻住的时间。假定朵朵从五年级到高中毕业，七年里，作业和学习里一律不碰 AI。墙守得很严，家长模式开着，老师查得很紧。这七年里，墙外面的世界并没有等她。墙外的工作在变，写一份方案、查一份资料、做一个表格，跟机器来回已经成了日常。墙外的大学在变，有的老师开始让学生把跟机器的对话记录一起交上来，看他们怎么追问、怎么挑错。到了十八岁，朵朵走出墙。她手里有一手好字，有扎实的背诵，有一套在没有机器的教室里练熟的本事。这些本事都是真的，一样都不会白费。

不过，她跟机器打交道的那一套，是零。不是她笨，是她从没练过。她不知道该怎么问一个好问题，不知道机器什么时候会一本正经地胡说，不知道一段回答里哪一句该信、哪一句该查。她在墙里被训练成了一个适应旧环境的人，然后被放进了一个新环境。墙护住的，是她在旧环境里的样子。墙没有护住的，是她在新环境里的样子。而她将来要过的日子，全在新环境里。再说第二件：墙外的那一段，会在别处补，补得更急、更乱。墙并不能让一个孩子一辈子不碰机器。它只能把第一次碰推迟。推迟到哪里？推迟到没有老师、没有家长在旁边的地方。

大学宿舍里的深夜，第一份工作的第一个月，赶一份明天就要交的材料。这些地方都不是练的地方，是用的地方，而且常常是慌着用的地方。一个人第一次学骑车，最好是在小区的空地上，有人在后面扶着车座。墙把这一段挪到了大马路上，还是晚高峰。不妨把这个晚上写具体一点。假定那是朵朵读大学的第一个学期，十一月，一门课要交一份三千字的报告。同宿舍的三个女生，中学都在允许用机器的学校读书，她们开着电脑，跟机器来回，查资料、列提纲、挑错，一个晚上把初稿弄出来了。

朵朵坐在上铺，第一次打开那个对话框。她不知道该从哪里问起，就把题目原样贴了进去。机器给了她一篇完整的报告，三千字，句子工整。她看着那篇报告，心里同时冒出两个念头。一个是：这不就是中学老师说的作弊吗？一个是：别人都在用，我不用就交不上了。那天晚上她做了什么，本书不去猜。也许她把那篇报告删了，熬到三点自己写；也许她改了几个字就交了上去。无论哪一种，她都是一个人，在没有任何人陪的深夜，第一次处理一件她从没练过的事。墙护了她七年，最后把她一个人留在了这个晚上。第三件更细一点：墙会教给孩子一种看自己的眼光。

「一律禁止」的通知，背后有一句没说出口的话：碰了机器的你，就不是你了。一个孩子要是偷偷用过一次，他心里记下的，不只是「我违反了规定」，还有「我已经不纯了」。从此他写出一段好句子，第一个念头可能不是高兴，而是怀疑：这是我自己的吗？我是不是被它影响过了？这种怀疑，第 9 章会专门拆。这里只先说一句：它是墙教出来的。墙把「纯」和「不纯」放进了孩子看自己的眼睛里。第四件，落在老师身上。姜岚的两难，就长在这里。

墙要守得住，老师就得当守墙的人。她得判断每一篇作文是不是孩子自己写的。可是她判断不了。句子太顺，可能是机器写的，也可能是这个孩子这次真的写顺了。句子笨拙，可能是孩子自己写的，也可能是孩子用机器写完以后，又故意改笨了一点。据报道，有些学校用上了专门检测「AI 痕迹」的软件。也有报道说，这类软件会误判，有的学生明明是自己写的，却被标成了机器写的〔待核：误判的具体研究与比例〕。一个语文老师，本来的活是陪孩子把一段话写好。墙一立，她的活就悄悄变成了查案：这一段是谁的？她批改的时间，一半花在了读文章，一半花在了猜来历。

而她最想做的那件事——坐下来跟那个男生聊，「你想说什么？这一句为什么这样写？」——反倒没有时间了。把这四件放在一起看：墙里的孩子被冻在旧环境里；墙外的那一段被挪到最慌的地方；孩子学会了用「纯不纯」看自己；老师从陪写的人变成了查案的人。每一件，都是那一刀长出来的。你也许会说：这些后果，是墙砌得不好，不是墙本身的错。墙要是砌得聪明一点，留几道门，就不会这样。这句话说对了一半。墙确实可以砌得更聪明。下面几节会讲，一道聪明的墙是什么样子。

可是你再想一想：墙为什么会砌成「一律」？因为砌墙的人心里那幅画，本来就只有两格——纯的和不纯的。画里只有两格，墙就只能有两边。你要在墙上开门，先得在画里多画几格：这一场来回长出什么，那一场来回关掉什么。画不换，门是开不出来的。开了，也会被下一张通知封上。所以本书拆的，一直是那幅画，不是那张通知。通知是学校在一个慌乱的学期里，能拿出来的最快的办法。你要是那位班主任，面对四十多个孩子和一个说不清的新东西，你多半也会先写下「一律」两个字。慌的时候先关门，这很正常。要紧的是，你知不知道自己关的是哪一扇，打算什么时候再去推开它。

◆七、墙自己也在捏人

封禁隔离论还有一个看不见的地方：它以为墙是空的。墙这边是孩子，墙那边是机器，墙本身什么都不是，只是一道隔开两样东西的线。孩子在墙里，照着没有墙的样子长。可是墙从来不是空的。墙本身，就是孩子每天要碰的一样东西。先看一件小事。朵朵班上有个男孩，叫他小凯吧。小凯家里的平板开着家长模式，学校的电脑房装了过滤软件。他很快发现，用手机热点连上同学的旧手机，能绕开所有的锁。他学会了绕。这件本事，他练得比作文还熟。他知道哪个软件会留记录，哪个不会；知道把机器写的句子改几个字，检测软件就认不出来；知道老师问起来该怎么说。

墙没有让他远离机器。墙让他跟机器的关系，长成了偷偷摸摸的样子。再看另一个孩子。她很听话，从来不碰。她每天都在听大人说：那个东西会把你的脑子用坏。她心里长出了一种怕，一种对会说话的机器的、说不清楚的怕。到她十八岁走出墙的时候，她带出去的不只是「没练过」，还有「不敢碰」。一个学会了绕，一个学会了怕。两个孩子都是被墙捏出来的。还有第三个孩子，最常见。他不绕，也不怕，他只是好奇。大人越说「不许碰」，那个东西在他心里就越亮。他在同学家里偷偷看了一眼，那一眼的分量，比在家里光明正大看十次还重。很多父母都有这样的经验：越锁的柜子，孩子越想打开。

被墙挡住的东西，会在孩子心里长出一圈光。那圈光不是机器自带的，是墙给的。你看，墙不是一层隔板，它是一块土。孩子长在这块土里，土的样子会长进孩子的样子里。再往深处走一步。墙也在捏大人。姜岚这样的老师，墙一立，就站到了守墙人的位置上。守得久了，她看学生作文的眼光会变：先看可疑不可疑，再看好不好。一个学生交上来一篇特别好的文章，她心里第一下冒出来的，可能不是欣喜，是警觉。家长也一样。家长模式开着，家长每天晚上的一件事，就是查记录。家里的饭桌上，话题慢慢从「今天学了什么」变成了「今天有没有偷偷用」。

一道墙砌起来，墙两边的人都在被它重新排座位：谁看守，谁被看守；什么叫老实，什么叫偷。这些座位，没有一个是墙砌起来之前就在那里的。所以，封禁隔离论想保住的那个「原样的孩子」，在墙砌起来的那一天，就已经不在了。墙里长出来的，是一个跟墙来回过的孩子。他的样子里，有墙的形状。用大白话说：你想用墙把孩子跟一场来回隔开，结果墙自己成了孩子最重要的一场来回。

◆八、计算器进教室的那些年

再看一段离今天更近的历史。二十世纪七十年代，掌上计算器便宜到了普通家庭买得起的程度。它该不该进数学课堂？这个问题，在不少国家吵了二三十年。反对的一方，话说得很硬。据当时一些老师和家长的说法，大意是：孩子用惯了计算器，就不会心算了，连九九乘法表都背不全；数学课要练的是脑子，机器替孩子按了按钮，脑子就闲着了。有的学校明令禁止，有的考试规定只许带铅笔和尺子〔待核：各国具体年份与政策〕。支持的一方也有道理。他们说，算得快不是数学的目的；把孩子从一页一页的长除法里解放出来，他们才有时间去想题目在问什么。这场争论最后是怎么收场的？

不是一方吵赢了另一方。在很多地方，它的收场是一件更安静的事：题目变了。据一些课程史的记载，后来的数学课上，低年级仍然先练笔算和心算，到了某个年级，计算器正式进课堂；考试里，有的卷子不许带，有的卷子允许带。而允许带计算器的那张卷子，题目的样子跟以前不一样了：少了长串的数字运算，多了要你先看懂问题、再决定怎么算的题〔待核〕。请注意这件事。计算器进课堂以后，数学课上的孩子，和计算器出现以前的孩子，已经不是同一种孩子了。他们会的东西不一样，被考的东西不一样，被认为「数学好」的标准也不一样。

这个新孩子，不是计算器单方面造出来的，也不是老师单方面设计出来的。是孩子、老师、计算器、考卷，一起来回了二三十年，慢慢长出来的。墙在这段历史里也出现过。墙挡住了低年级，挡住了某些考试。那些墙后来证明是好墙，因为它们知道自己挡的是哪一段、哪一场。而那些「一律不许碰计算器」的墙，后来都悄悄拆了。拆的原因很少是谁吵赢了，大多是墙里出来的孩子，到了高年级、到了大学，发现别人早就在用，而自己连按键的顺序都要从头学。

计算器的故事还有另一面：作弊感和「荣耀」是怎么搬家的。那一面留给第 9 章。这里只取它的边界那一面：一道墙最后站得住站不住，看的是它守的那条线，是不是一条真的线。姜师傅讲过一件厂里的旧事。八十年代末他刚进印刷厂，厂里的会计是一位老大姐，打了一辈子算盘。厂里第一次买来电子计算器，她不肯用，说那个东西按错一个键你都不知道，算盘上的珠子却一颗一颗摆在眼前。她给新来的出纳立了规矩：账先用算盘打一遍，再用计算器按一遍，两边对上了才算数。那几年，厂里的账一笔都没错过。

后来老大姐退休了，新来的出纳只用计算器。再后来，厂里上了电脑记账。没有人再打算盘，可是那条「两边对上了才算数」的规矩，一直留了下来，变成了财务室墙上的一张纸：任何一笔账，都要用两种办法核一遍。老大姐守的那道墙，最后拆了。墙里长出来的那一眼——不信一种办法，要两边对——却留了下来。那一眼，是算盘和计算器在她手里来回较劲出来的。只有算盘，长不出它；只有计算器，也长不出它。计算器出现以前的那个「会心算的孩子」，并不是一个纯人。他也是笔、纸、算盘、乘法口诀表和老师的戒尺一起捏出来的。只是那些东西来得早，早到大人们已经忘了它们也曾经是「新东西」。

◆九、两个人抬一张沙发下楼梯

这一章，我们换一副眼镜。本书有一个总比喻：两个人抬一张沙发下楼梯。楼道很窄，拐角那里有一个直角弯。前面的人倒着走，后面的人看着台阶。走到拐角，沙发卡住了。前面的人说：「你那头往上抬一点。」后面的人抬了，沙发还是卡。前面的人又说：「你往右转一点，我往下压。」两个人一边喊、一边试，沙发的一个角终于擦着墙皮拐了过去。现在问：沙发拐过那道弯，算谁的？拆开看，谁都没拐。前面的人只是往下压了一下，后面的人只是往右转了一下。单拿出哪一个动作，沙发都过不去。合起来，弯拐过去了。

而且请注意：那两个人在拐角处的样子，也是被这张沙发、这道楼梯、对方的一声喊一起排出来的。前面那个人平时走路不会倒着走，不会把腰弯成那个角度；后面那个人平时也不会把一只手托在头顶上。到了这道弯，两个人才长出了这两种姿势。拐弯这件事，先于两个人的姿势。现在把封禁隔离论放进这个比喻里。它的做法是：担心沙发会把前面那个人的腰压坏，于是规定前面的人「一律不许碰沙发」。这个规定，对于一个还没学会走楼梯的小孩子，是对的。让他先在平地上走稳，再来抬沙发。这是好墙。

对于一个迟早要搬家的人，这道规定的意思就变了。它等于说：你先空着手下楼，下一百次、一千次，把空手下楼练到最好；等到哪天真要抬沙发了，你再从头学。问题是，空手下楼练出来的那个人，和抬过沙发的那个人，不是同一种人。空手下楼练的是脚，抬沙发练的是脚、手、腰、眼睛和对面那个人的一声喊，缠在一起的那一整套。那一整套，只能在抬的时候长出来。墙守护的「空手下楼的人」，并不是一个更纯的抬沙发的人。他是另一种人：一个被训练得很好、却被训练在另一种楼梯上的人。

墙那边的孩子不是更纯，是在一套旧的来回里被练熟了，走出门时，正好赶上来回换了样子。

那么，一道好墙在这个比喻里是什么样子？大概是这样的：先在平地上练走路，再在空楼梯上练，再抬一张小凳子，再抬一把椅子，最后抬沙发。每一段，都有人在旁边看着，告诉你这一次哪里卡住了。墙不是一道永久的线，是一级一级的台阶，每一级都通向下一场来回。这里还藏着一件事，跟沙发本身有关。两个人一次次抬沙发下楼，沙发也在变。抬得多了，搬家公司会给沙发脚包上布，会把沙发设计成可以拆掉扶手的样子，会在楼梯拐角装一块护角。沙发的样子，是被一次次抬它的人改出来的。

机器也一样。今天的机器怎样回答一个孩子，跟千千万万个人怎样问过它，是缠在一起的。孩子们问得浅，它就被训成一台答案机；孩子们追着它问为什么、挑它的错，它显出的就是另一种样子。墙把孩子挡在外面，也就把孩子从这场「改机器」的来回里挡了出去。机器照样在长，只是长成什么样子，墙里的孩子没有份。用这个比喻再看朵朵那句「查一个字算不算」，就清楚了。封禁隔离论答不上来，因为它只认「碰」和「没碰」。可是在楼道里，没有人只问「你碰了沙发没有」，大家问的是：「你那头怎么样了？卡住了没有？要不要往上抬一点？」问的不是碰没碰，是这一场来回走到了哪一步。

◆十、乡下的爱弥儿，森林里的男孩

「纯人」这个想法，有一个很有名的老家。1762 年，卢梭出版了一本讲教育的书，叫《爱弥儿》。书里有一个虚构的男孩爱弥儿，卢梭设想把他从城市里带走，带到乡下，由一位导师一个人带大。卢梭说，大意是：出自造物主之手的东西都是好的，一到人的手里，就全变坏了（《爱弥儿》卷一开篇）。所以，他让爱弥儿远离城市的风气、书本的偏见、大人的虚荣。十二岁以前，爱弥儿几乎不读书。他要从手上碰的东西里学：摔一跤，知道什么叫高；被太阳晒，知道什么叫热。卢梭要守护的，是一个没有被社会弄脏的自然的孩子。

这本书影响了此后两百多年的教育。它里面有很多了不起的看见：孩子不是缩小的大人；孩子要从做里学，不要只从讲里学；孩子有自己的节奏，不该被催。这些看见，今天的好老师都还在用。可是请再看一眼那个乡下。爱弥儿身边，一刻也没有离开过那位导师。导师替他挑地方，替他安排一次「偶然」的摔跤，替他设计每一场看似自然的相遇。爱弥儿是在一场极其精心的来回里长大的，来回的另一头，是一个整天琢磨怎样教他的大人。墙外的城市是被挡住了。可墙里，没有一刻是空的。卢梭的乡下，不是一个「不被碰」的地方。它只是换了一个碰的人。

几十年后，法国南部的森林里，真的出现过一个「没被社会碰过」的孩子。据记载，1800 年前后，有人在阿韦龙一带的林子里发现了一个男孩，十一二岁，赤身，不会说话，像是很小的时候就被丢在了野外〔核：大意，常见口径〕。后来人们叫他维克多。一位年轻医生伊塔尔收留了他，花了好几年教他说话、认字、跟人相处〔据研究文献〕。如果「纯人」真的存在，维克多就是最纯的那一个。没有人教过他礼貌，没有人给他读过书，没有任何「新东西」污染过他。人们在他身上看到的，不是一个更完整的人。据记载，他一直没有真正学会说话，只能认少数几个词〔待核〕。

这个故事很沉，本书不想拿它来说漂亮话。它只说明一件事：一个人离开了跟别人、跟东西的来回，剩下的不是一个更纯的人，而是一个许多本事都没能长出来的人。人身上那些我们以为是「本来就有」的东西——说话、认字、看懂别人的脸——都是在来回里长出来的。这一点，封禁隔离论的支持者其实也同意。他们并不想把孩子丢进森林。他们想要的，是让孩子在「好的来回」里长大：跟父母，跟老师，跟书。他们只是认为，跟机器的来回不在其中。所以，真正的分歧不是「纯人」和「被污染的人」，而是：哪些来回算数？

这个问题，一旦这样问，墙就不能再用「一律」来答了。它得一样一样地看：这一场来回，在长出什么，在关掉什么。小说、漫画、电视、计算器，每一样新东西进来，最后被人们挑选、调整、收编，靠的都是这样一样一样地看。没有一样是靠墙守下来的。中国的老故事里，有一个比卢梭早得多的答案。孟子小时候，据说家住在墓地附近，他就学着大人哭丧、筑坟；孟母说，这里不是养孩子的地方，搬到了集市旁边。孟子又学着商贩吆喝买卖；孟母又搬，搬到了学宫旁边。孟子这才学着摆礼器、行揖让，孟母说，这里可以住了（《列女传·母仪》，大意）。

这个故事，常被讲成「环境很重要，要把孩子跟坏东西隔开」。可是你细看，孟母做的事，没有一件是砌墙。她没有把孩子关在屋里，不让他看外面。她一次次换的，是孩子跟谁来回：跟送葬的人，跟做买卖的人，跟读书行礼的人。每换一次，孩子就显出一个新样子。她也没有把哪一个样子当成「本来的孟子」。哭丧的孟子、吆喝的孟子、行揖让的孟子，都是他。她只是在挑：哪一场来回，长出来的东西她想要。孟母三迁，迁的不是孩子，是来回。

◆十一、一个班的议论文

说一个完整的例子。这个例子是虚构的，里面的每一件事，今天都在很多教室里发生。姜岚那个班，四十六个学生，初二。上个月那批「格外顺」的议论文之后，她没有再去找学生谈话。她换了一个办法。第一周，她布置了同一个题目：《该不该给中学生发零花钱》。规矩只有一条：可以用 AI，可是要把跟 AI 的全部对话截图，跟作文一起交上来；不用也可以，不用的同学，交一页草稿纸。收上来以后，她先不看作文，先看截图和草稿纸。她看见了很多以前看不见的东西。

有一个学生的截图只有一句话：「帮我写一篇该不该给中学生发零花钱的议论文，八百字。」下面是机器给的全文，作文就是全文。这个学生一句都没改。有一个学生跟机器来回了二十多轮。她先问：「零花钱有什么好处？」机器列了几条。她回：「这些都太普通了，我们班有个同学因为零花钱被骗了，这个怎么写进去？」机器给了一段。她又回：「不对，他不是被骗，他是借给别人不还，你别乱写。」这样吵了二十多轮，最后的作文里，只剩下机器的两句话。

还有一个学生，没用 AI，草稿纸上写满了，划得乱七八糟，第三段整个划掉重写过。作文写得磕磕绊绊，可是中间有一句：「我爸给我零花钱的时候，总是先叹一口气。」姜岚把这三份放在桌上看了很久。如果照墙的规矩，第一份和第二份都是零分，第三份是唯一「纯」的。可是她看得清楚：第二个学生在那二十多轮里练的东西，比很多一个字一个字自己写的学生都多。她在挑错，在补料，在跟一个流利的东西争「事情到底是怎样的」。她的作文里机器的句子很少，可是机器在她的作文里是一个对手，是一块磨刀石。第一个学生，用了机器，什么都没练。第三个学生，没用机器，练得很苦，也很真。

三份作文，真正的分界线，不在「碰没碰」。第二周，姜岚在课上把三份作文（隐去名字）投到屏幕上，让全班一起看截图。她没有评对错，只问了一个问题：「这三个人，谁跟他的题目吵过架？」全班先是笑，后来开始争。有人说第三个人吵得最凶，跟自己吵；有人说第二个人吵得最多，跟机器吵；没有人说第一个人吵过。第三周，作业换了。还是可以用 AI，只是交的东西变了：作文、对话截图，再加一段一百字的「我改了它哪里，为什么改」。不用 AI 的同学，写「我划掉了哪里，为什么划」。一个月后，姜岚发现了几件事。

第一件，直接把全文贴上来的人，少了。不是因为查得严，是因为那一百字写不出来。一个没跟题目吵过架的人，写不出自己改了哪里。第二件，有几个以前作文很差的学生，变化最大。他们以前对着一张白纸，脑子是空的；现在对着机器的一段回答，他们至少知道哪里不对，「不对」就是他们的第一句话。第三件，最让她意外：她自己批作文的时间，没有变少，可是花的地方变了。她不再猜来历了。截图摆在那里，来历是明的。她的时间回到了读：读每个学生在哪一轮停下，在哪一轮发了火，在哪一轮突然说出了一句机器说不出来的话。当然，也有问题。有家长来问，这样会不会把孩子惯坏。

那个家长是一位父亲，在开发区一家工厂当车间主任。他在家长会后留下来，说话很客气，意思很明白：「姜老师，我们在家里管得很严，不许他碰。你在学校反倒让他用，这不是拆我们的台吗？」姜岚把他儿子的截图翻给他看。那个男孩跟机器来回了十几轮，有一轮是这样的：机器说，给中学生发零花钱可以培养理财能力。男孩回了一句：「我爸说理财就是别乱花，你说的太虚了，举个真的例子。」那位父亲看了很久，说：「这句『我爸说』，倒是真的像他。」他没有被说服，也没有再反对。走的时候他说，回去再想想。

还有别的问题。有学生把截图删掉一部分再交。考试的时候，她照样要求所有人只用笔。这个办法不是一把万能钥匙，它只是一次试，而且还在改。不过在这一个月里，那个班的教室里，长出了一种原来没有的东西。它不是「学生学会了用 AI」。也不是「AI 帮学生写好了作文」。它是一种新的写法：一个人跟一个会说话的东西来回争，在争里找到自己要说的那句话。这种写法里，学生的样子和机器的样子，都跟以前不一样了。机器从答案机变成了对手；学生从抄写的人、或者对着白纸发呆的人，变成了一个挑错的人、一个补料的人。

这个新的位置，墙里长不出来，墙外的放任也长不出来。它是在那三周的来回里一点一点长出来的：老师换了交作业的规矩，学生换了跟机器说话的方式，课堂上多了一个问题。

复合体里实际发生的，不是一个纯人被保住或被弄脏，是一个原来没有的位置，在来回里长了出来。

◆十二、它和隔壁两种思潮共用一张地图

封禁隔离论不是孤零零的一种想法。它跟本书别的几种思潮，用的是同一张地图。先看第 1 章的替代恐慌论。替代恐慌说：人是一张技能清单，AI 来了，清单就被减去一块。封禁隔离论说：孩子是一个完整的纯人，AI 来了，纯人就被弄脏一块。一个怕被减，一个怕被染。两个怕的样子不一样，底下的画是同一幅：一个已经完成的人，站在那里，等着被外面的东西改坏。再看第 9 章的作弊论。作弊论说：用 AI 写的，不算你的。封禁隔离论说：碰了 AI 的，就不纯了。

一个在拆账，问「这一句是谁的」；一个在验身，问「这个人干不干净」。两者都预设，在一场来回之前，就有一个干干净净、属于自己的「你」。还有一层关系，要说清楚，免得混淆。第 4 章的工具中立论，看起来跟封禁论正好相反。工具中立论说：它只是个工具，看你怎么用，没什么好怕的。封禁论说：它很危险，最好别碰。两个说法，却共用一个前提：人是人，工具是工具，两边各自成形，作用只从一边流到另一边。工具中立论觉得人管得住工具，所以放心用；封禁论觉得人管不住工具，所以干脆不碰。一个乐观，一个悲观，地图是同一张。

第 4 章会看到，工具从来不只是被用，它也在回头改用它的人。那时你再回来看这一章的墙，会更清楚：墙本身，也是一样在回头改人的工具。把这几章放在一起看，本书的总判在这里又露了一次脸。思潮们彼此对立，怕的怕，用的用，防的防；可是互动还没开始，「人」和「AI」就已经被摆成了两个成品。墙，只是把这两个成品之间的那道缝，砌成了一道看得见的线。

◆十三、把墙换成一级一级的台阶

拆到这里，你也许会问：那墙到底还要不要？要。药柜的锁要，考场的规矩要，低年级先自己学写字也要。前面说过，好墙有三条：知道挡什么，知道什么时候拆，墙里面另有一场来回在走。这一节想换个说法，把这三条落到地上：把一道墙，换成一级一级的台阶。墙只有两边。台阶有好几级，每一级都通向上一级。拿朵朵来说。第一级，在一二年级。这一级先只跟纸和笔来回：描红、组词、写一句完整的话。机器不进作业，原因说得清楚：手要先认得字，嘴要先说得出整句。这一级挡得住，也挡得明白。

第二级，在三四年级。机器可以进来，只当一本会说话的字典：查一个字怎么写，问一个词什么意思。大人坐在旁边，跟孩子一起看机器说的对不对。有一次机器把一个成语讲错了，朵朵自己翻纸质词典查了出来，高兴了一整个晚上。这一次查错，比十次查对都有用。第三级，在五六年级。机器可以当一个陪练：孩子先自己写，写完了让机器挑毛病，孩子再决定改不改。改了的地方，要能说出为什么改；没改的地方，也要能说出为什么不改。第四级，到了初中。就是姜岚班上那一套：可以来回，来回要摊开。截图和那一百字，就是这一级的扶手。

再往上，是高中、大学，是走出校门以后。台阶越来越宽，扶手越来越少，最后只剩下一样东西：一个已经在许多场来回里长出来的人，和一个他已经跟它磨合过许多次的机器。你会注意到，每一级台阶上，都有挡。第一级挡住了机器，第二级挡住了「让它替你写」，第三级挡住了「不先自己写」。挡的东西一级比一级少，来回一级比一级多。这跟一道一律的墙比，差在哪里？差在台阶知道自己是一段路。墙以为孩子站在一个地方，只要护住他不动就好；台阶知道孩子在走，护的是他走的这一步。

还有一个差别更要紧。台阶上的每一级，孩子和机器的样子都不一样。第一级里机器不在场；第二级里机器是字典，孩子是查字的人；第三级里机器是挑错的陪练，孩子是先写、再改的作者；第四级里机器是对手，孩子是跟它吵架的那个人。每一级上的孩子，都是那一级的来回长出来的。没有哪一级上站着「原本的朵朵」，只有一个一级一级显出新样子的朵朵。台阶怎么分、分几级、每一级在几岁，本书说不准，也不该替学校说准。这些要老师、家长、孩子和那些机器一起试，试了再改。不同的孩子，台阶的高矮也不一样。本书只想换掉一个问题。墙问的是：「碰了没有？」台阶问的是：「这一级走稳了没有？」

前一个问题，答案永远是「没碰」最好。后一个问题，答案是一直往上走。还有一件事要补上：台阶不只是孩子在走。姜岚在班上试那三周，自己也在走。第一周她看截图，看得头疼，不知道该看什么；第二周她发现，要看的是学生在哪一轮停下来；第三周她开始在截图边上写批语，写的不是「这句是机器的」，而是「你这里为什么没有接着问」。一个月下来，她批作文的眼光，跟一个月前不一样了。不是她学会了一门新技术，是她跟学生、跟那些截图、跟机器的回答来回了一个月，长出了一种新的看法。老师的位置，也是在台阶上一级一级显出来的。墙让老师守在原地当看门的人；台阶让老师跟着孩子一起往上走。

◆十四、放回日子里

回到那个星期二的晚上。姜岚按下「收到」以后，没有马上去催朵朵写作文。她把手机扣在桌上，问女儿：「你刚才说，那个词典会给你讲字怎么用？」朵朵把平板拿过来，点开那个「智能讲解」的按钮，查了一个「融」字。屏幕上跳出一段话，讲了字形，讲了几个词，最后举了一个例句：「冰雪融化，春天来了。」「你觉得这个例句好不好？」姜岚问。朵朵想了想：「太普通了。我们书上就是这个。」「那你造一个。」朵朵咬着铅笔头想了半天，写了一句：「我和新同桌融了一个学期，才融成好朋友。」

姜岚笑了。这句话不太通，「融」字用得有点怪。可是她看得出来，女儿是在跟那个例句较劲，非要写一句跟它不一样的。她没有改那句话。她只说：「这句话我很喜欢。明天交作业，就用你自己的。」那天晚上，朵朵的作文还是没写完。她写的是三年级时转学来的那个同桌，第一周两个人谁都不跟谁说话，第三周一起被罚站，第五周分享了一包辣条。写到辣条的时候，她自己笑出了声。作文里没有一个字是机器写的。学校的通知，她守住了。可是那个晚上，那个词典里的例句也在。它没有替朵朵写一个字，它只是站在那里，被一个十一岁的孩子嫌弃了一句「太普通」，然后朵朵就写出了一句自己的。

姜岚后来想：如果按通知的「一律」，连这个例句都不该看。那么朵朵就少了一次嫌弃，少了一次较劲。她没有去跟学校争。考试和作业有学校的规矩，她作为家长配合。不过她给自己家里立了一条小规矩，跟那张通知并排放着：家里的平板可以查字、可以问为什么，可是查完、问完，要跟妈妈说一句，「它说的，我觉得哪里不对」。这条规矩，朵朵很喜欢。她发现，挑机器的错，比挑妈妈的错安全多了。再说姜师傅。周末朵朵去爷爷家，姜师傅听说了学校的通知，摇着头说了一句：「我们厂里上自动排版的时候，也有人说不许碰，碰了就不会排了。」朵朵问：「后来呢？」

「后来不碰的人，都调去看仓库了。」姜师傅停了一下，又说，「碰了的人里头，也有一半不会排了。」「那另一半呢？」姜师傅想了想：「另一半，是一边看机器排、一边挑它毛病的。机器排完一版，他们一眼就知道哪里不对。这一眼，我们以前没有，是跟机器对着干出来的。」这段话，第 1 章说过姜师傅的饭碗。这里只取他说的那一眼：那一眼长在人和机器的来回里，墙里长不出，放手不管也长不出。明天能试的事，有两件。

1. 下一次孩子说「机器说……」的时候，别先问「你是不是又用了」。先问一句：「它说的，你觉得哪里不对？」这一句问出去，孩子和机器之间就多了一场来回，孩子的位置也跟着挪了一挪。

1. 如果你家里也有一张「一律」的规矩，拿出来看一看，在每一条后面补一句：它在等什么？是等孩子长到某一级，还是等时间倒回去？说得出来的，留着；说不出来的，换成一级台阶。

◆第一编总账：三条线，一把刀

三章走完，把三种思潮摆在一张桌上。替代恐慌论把人的价值钉在一张技能清单上；末日失控论给机器预先装了一个成形的意志；封禁隔离论先认定有一个不被碰过的纯人，然后在他周围砌墙。刀口各不相同：价值、意志、边界。可是三个刀口有一个共同的动作：互动还没有发生，两端就已经被画成了成品。清单是成品，意志是成品，纯人也是成品。

这一编的总判断：对立的人，其实都站在同一张地图上，区别只在于怕谁、挡谁。

三种思潮各留下一样东西，值得带走：对具体的人的在意，对后果的认真，给成长留一段安静的日子。这些都要留。要换掉的，只是那张先把两端画好的地图。下一编换一个角度：不怕它，也不防它，反而把它当成一件顺手的东西。

它只是一把锤子吗

◆一、姜鸣的第七个问法

那天晚上十点多，姜鸣还坐在出租屋的折叠桌前。客户是邻省一家做电饭煲的厂子，要一句新品的主推语，明早九点交。他已经和 AI 来回了四十多分钟，屏幕上排着三十几句候选，每一句都通顺，每一句都像在哪里见过。他往回翻聊天记录，想找自己最开始是怎么问的。第一句是：「帮我写一句电饭煲的广告语，要温暖。」第二句加了「目标人群是三十岁上下的上班族」。到第七句，他打的是：「你是一位有十五年经验的家电文案总监。请从『下班回家的第一口热饭』这个场景切入，输出十条，每条不超过十二个字，避免使用『家』『爱』『温暖』这三个词。」他盯着这一句看了很久。

这句话不像他会说的话。半年前，他写文案的时候，脑子里先冒出来的是一个画面：他妈在灶台边掀开锅盖，蒸汽扑上来，眼镜一下子白了。现在先冒出来的，是一张清单：角色、场景、数量、字数、禁用词。他把这件事讲给同组的老同事听。老同事正在收拾包，头也没抬：「它就是个工具嘛，看你怎么用。你用得好，是你的本事。」这句话，你大概也说过，或者听过很多回。它听起来稳当、清醒、不慌不忙。它把一件让人心里发毛的事，放回了一个让人安心的位置：机器在桌上，人在桌前，手握着它，想往哪儿用就往哪儿用。

可姜鸣那一晚的不舒服，这句话没有接住。他不是用得不好。他用得越来越好了。不舒服的地方恰恰在这里：他越用越顺，那个先冒出画面的自己，却好像越来越少出场。这一章要问的就是这件事：它真的只是一把锤子吗？

◆二、替它把话说足

说它错之前，先替它把话说足。工具中立论的意思很朴素：工具本身没有好坏，好坏在用它的人。一把菜刀，可以切菜，也可以伤人；你不会去审判菜刀，你审判的是那只手。一辆车可以送病人去医院，也可以醉驾撞人；交警罚的是司机，不是车。美国关于枪支的争论里，有一句流传很广的口号，大意是：杀人的不是枪，是人。你可以不同意这句话的用处，可它的骨架很清楚——责任要落在做选择的那一端。

放到 AI 身上，这套说法更有力。有人说：大模型说到底是一堆参数，是对大量文字做统计之后得出的概率；它没有欲望，没有目的，没有算计。你不问，它就不答；你问什么，它就顺着什么答。它写出一篇好文章，是你问得好；它编出一条假新闻，是有人拿它造假。把账算到机器头上，是给真正该负责的人找借口。这套说法还有一层好处：它让人不慌。第 2 章讲过那种「它会醒来统治我们」的恐慌。工具中立论正好是一服镇静剂——别怕，它没有意志，它就是你手里的一样东西，跟锤子、计算器、搜索框没什么两样。

它也是很多老师心里的那句话。姜鸣的姐姐姜岚教中学语文，学校开会讨论 AI 进课堂，她听到最多的就是这一句：工具无罪，关键是教孩子正确使用。会议纪要上，这句话被写成了加粗的一行。散会时，几个老师边走边说：「说到底，还是看人。」这句「看人」，有它的来历。一个社会要运转，得能找到负责的人。合同要有签字的人，药方要有开方的医生，桥塌了要有对得上号的设计师和施工方。如果每一次出事，大家都说「是工具的问题」，账就永远落不了地。工具中立论守的，就是这个落地的口子。

法律里也有它的影子。1984 年，美国最高法院审过一桩录像机的官司。电影公司告录像机厂商，说有人拿录像机翻录电视里的电影，侵了版权。法院最后判厂商不担责，理由大意是：这台机器有大量正当的用途，不能因为有人拿它干坏事，就让造机器的人背锅（索尼诉环球影城案，1984 年〔核：大意〕）。后来，「技术中立」成了很多官司里的一句常用说法。它守住的东西很实在：要是每一样能被滥用的发明都得先背上罪名，复印机、相机、互联网，大概一样都造不出来。你看，这股思潮不是街边的一句闲话。它在会议室里、教室里、法庭上，都站得很稳。

不过，请留意那场官司判的是什么。它判的是：一个造机器的厂商，该不该为别人拿机器干的事背责任。它没有判，也用不着判：一台录像机进了千家万户以后，人们看电视的方式有没有变。后来的事大家都知道。有了录像机，人不必守着电视台的钟点看节目；租录像带成了一门生意；一家人周末围在一起看一部片子，成了很多家庭的新习惯。法院说这台机器「中立」，在责任这件事上说得很对。可在「它把人们的晚上改成了什么样」这件事上，「中立」两个字，什么都没说。再往下说一层，它还替人守住了一样东西：尊严。如果工具能决定人，那人还算什么？说「看你怎么用」，等于说：做主的始终是你。

中国人也有一句老话，常被拿来给这层意思作注。孔子说：工欲善其事，必先利其器（《论语·卫灵公》）。器是器，事是事；先把器磨快，事才做得好。器在这句话里，是为事服务的，事由人来定。几千年来，这句话被贴在车间里、教室里、程序员的工位上，说的都是同一个分工：人定方向，器出力气。你读到这里，大概会点头。对啊，难道要怪锤子吗？这股思潮有一句最结实的话：机器不背锅，人背锅；所以每个人都别想把自己的选择推给机器。 这句话本书完全赞成，后面还要回来保住它。

◆三、马斯洛的那把锤子

奇怪的是，「锤子」这个比方，在心理学里是被反过来用的。1966 年，心理学家马斯洛写过一句后来被到处转引的话。他说，大意是：如果你手里唯一的工具是一把锤子，你多半会忍不住把所有东西都当成钉子（马斯洛《科学的心理学》，1966 年〔核：大意〕）。请注意这句话的方向。它说的不是「人决定锤子往哪儿砸」，是「锤子改变了人看见什么」。握锤子久了，世界开始长出钉子的样子。一颗松动的螺丝、一扇卡住的门、一个闹别扭的同事，看上去都像是该敲一下。工具中立论里的那把锤子，是摆在工具箱里、等人来拿的锤子。马斯洛那把锤子，是握在手里很多年、已经长进眼睛里的锤子。

再往前推几百年，是一面钟。美国学者芒福德在 1934 年的《技术与文明》里说，大意是：开启现代工业时代的关键机器，不是蒸汽机，是钟（〔核：大意〕）。他讲的是中世纪的修道院。修士们按钟声起床、祷告、劳作、吃饭，一天切成整整齐齐的格子。钟一开始只是帮修士守时的器具，后来，「按格子过日子」这件事，从修道院走到了城里，走进了工厂，走进了今天每一个人的手机日历。

钟没有逼谁。它只是一下一下地敲。可几百年敲下来，敲出了一种新的人：会说「我九点到」「这件事占我二十分钟」的人。古人说「日出而作，日入而息」，那是跟着太阳过；后来的人跟着表盘过。时间还是那个时间，过时间的那个人，换了一种长法。第三个故事更近，就在姜鸣他爸身上。

姜师傅在县城印刷厂排了三十年的版。年轻时用铅字，一个字一个字从字架上捡，捡久了，他看一页书，眼睛先落在字和字之间的缝上：哪一行挤了，哪一行松了，哪个标点挂在行首不好看。后来换了电脑排版，再后来厂里上了自动排版系统。他有一回跟姜鸣说，现在拿到一本书，眼睛先找的是页码对不对、图有没有跑版——字缝，他不太看了。第 1 章讲过姜师傅的饭碗。这里要说的不是饭碗，是他的眼睛。三十年里，铅字、电脑、自动系统，每一样都只是「工具」。可每换一样，他那双眼睛就被重新磨了一遍：先看什么，后看什么，什么算一页好版。中国人对这件事，其实很早就有一份警觉。

《庄子·天地》里有个故事。孔子的学生子贡路过汉水南岸，看见一位老人在菜园里浇地。老人凿了一条隧道下到井里，抱着瓦罐一罐一罐往上提水，费了很大的力，浇不了几垄。子贡好心告诉他：有一种机械，叫桔槔，前轻后重，一天能浇一百畦，用力少，见效快。老人先是变了脸色，又笑了。他说，大意是：我听我的老师讲，有机械的人，必定有机巧的事；有机巧的事的人，必定生出机巧的心。机心放在胸中，人就不纯了（《庄子·天地》）。

这位汉阴老人的选择，本书不打算替他评。第 3 章讲过那种「不碰它，就能保住纯正的人」的想法，他的拒绝，和那一章是一个路子。可他看见的那一层，比他的拒绝更值得记下：桔槔不是摆在井边、等人来摇的一根木杆。人一天天摇它，心也一天天被它摇成另一种样子。两千多年后，一台打字机也碰到了同样的事。

1882 年，尼采眼睛坏得厉害，长时间看稿子就头疼。他买了一台丹麦产的球形打字机，学着盲打。据研究者后来整理，他的一位朋友写信给他，说他用了打字机以后，文章的笔调好像变了，更短、更硬。尼采回信，大意是：你说得对，我们的书写工具，也在参与我们的思想（据研究文献，〔待核〕）。这句话放在一个写惯了长句子的哲学家嘴里，分量不轻。他没有说「我用打字机写字」，他说的是：写字的那个我，有一部分是打字机一起写出来的。锤子、钟、铅字、桔槔、打字机。几样东西都很老实，大多不会说话。可它们都没有乖乖待在「被用」的那一头。

◆四、先说它对在哪儿

先说它哪里对。「看你怎么用」里有一样东西，本书要原封不动地留下：责任意识。一个人拿 AI 造了假的病历、假的证据、假的论文数据，他不能说「是机器写的」。一家公司用算法筛简历，把某一类人筛掉了，它也不能说「是模型自己学的」。这些时候，工具中立论是一道防线：不准把选择推给机器。它还有第二样对处：它挡住了把机器神化或者妖魔化的冲动。第 2 章的末日叙事、第 7 章的神谕崇拜，都是把机器抬得太高。工具中立论把它按回桌面上，这一按，有清醒的成分。那么，它在什么条件下完全成立？条件有三个，可以一条一条摆出来看。

第一，用得少。一年用一回的东西，回不过头来改你。你家工具箱里那把扳手，一年拧两回水龙头，它确实只是扳手。第二，用的人早就定型了。一个木匠用了四十年刨子，换一把新刨子，手上的路数基本不变。新工具落在一套已经站稳的习惯上，掀不起多大的浪。第三，工具不回应。锤子砸下去，钉子进去了，锤子不会问你「要不要换个角度」。工具越是不回话，作用就越接近单向。三个条件都满足的时候，「它只是工具，看你怎么用」，一点不差。

可你看一眼姜鸣的那张桌子。他每天用 AI 七八个小时；他才二十六岁，写文案的手艺还没定型；而 AI 恰恰是一样会回话的东西，而且回得又快又多，每一句回话都在等他的下一句。三个条件，一个都不在。这不是说工具中立论在别处都对，到了 AI 才错。锤子用到老木匠手里，也会慢慢磨出他的手茧、他的力道、他看木头的眼光。只是锤子改人改得慢，慢到一辈子才看得出来，慢到可以假装它不改。AI 改人改得快。快到半年，快到一个晚上，快到姜鸣自己都看得见。工具中立论那张图上被擦掉的那根箭头，过去一直都在；只是到了今天，它粗得再也擦不掉了。

◆五、箭头只画了一个方向

这一刀切在哪里？切在「方向」上。工具中立论画了一张很简单的图：左边一个人，右边一样工具，中间一个箭头，从人指向工具。人有目的，工具执行；人是发力的一头，工具是受力的一头。好坏、对错、责任，全顺着这个箭头往回找，找到人为止。这张图里，最要紧的一步，发生在箭头画出来之前。它先把人画好了：一个目的已经定好、眼光已经定好、什么算好也已经定好的人。它又把工具画好了：一个性能固定、没有方向、等着被拿起来的东西。两个都画完了，才在中间加一根箭头。

这就是本书说的那一刀：把正在发生的复合体，当成两个已经完成的实体来处理。 工具中立论的刀口，是在「谁作用于谁」这件事上，先认定只有一个方向。可姜鸣那一晚看见的，恰恰是另一个方向的箭头。他的问法变了。他先冒出来的东西变了。他心里「一句好文案」的样子，也在变：以前是能让人想起一口热饭，现在越来越像是「十二个字以内、不撞禁用词、节奏顺」。这些变化，不是他决定要变的。也不是 AI 决定要改他。它们是在一来一回之间长出来的。

旧的说法会把这件事写成一个式子：知识，或者说产出，等于「人、工具、使用」三样东西的函数。人是一个自变量，工具是一个自变量，使用是它们碰在一起。这个式子看起来很公道，三样都算上了。可它偷偷认定了一件从来没被证明过的事：人和工具，在「使用」开始之前，就已经各自是完成的样子了。人真的在使用之前就完成了吗？这道题，比 AI 老得多。

旧的知识论，讲「知识是怎么来的」，也是这么写：一边是认识的人，一边是被认识的东西，两样先摆好，再让它们碰一碰，碰出来的就是知识。几百年里，哲学家为这个式子吵过很多回——被认识的那样东西「本来」是什么样，认识的人「本来」带着什么，吵得不可开交。可很少有人回头问：这两样，真的是先摆好、再去碰的吗？还是说，它们是在一次次的碰里，才各自碰出了轮廓？AI 只是把这道老题，摆到了每一个写文案、改作业、查资料的人眼前。

你学会骑车之后的那个你，和学会之前的那个你，是同一个「先在的你」，只是多了一项技能吗？还是说，那个能在车流里拐弯、能边骑边想事的你，是在一次次歪倒、扶正、再歪倒里长出来的？工具中立论把这道题绕过去了。它只看见箭头的一头。还可以换个地方再敲一下。「看你怎么用」，这五个字里，最不起眼的是那个「你」。可整句话的分量，全压在它身上。它假定有一个「你」，在拿起工具之前就已经站在那里：知道自己要什么，知道什么算好，知道该往哪儿用。工具来了，这个「你」只是多了一样可以支使的东西。那么，这个「你」是从哪里来的？

姜鸣进公司第一年，什么算好文案，是师姐、组长、客户、一本本翻烂的广告年鉴，一起在他身上排出来的。他今天拿起 AI 时的那个「你」，本来就是一场场来回的结果。而从拿起 AI 的那天起，这场来回里又多了一个会回话的东西，它也开始参与排这个「你」。所以，「看你怎么用」不是一句错话，它只是说早了。等它说出口的时候，那个「你」，已经被「怎么用」改过好几回了。

◆六、只切这一刀会怎样

顺着这一刀推下去，会长出几样后果。每一样都落在具体的人身上。头一样，是看不见自己在变。既然箭头只从人指向工具，人就不会去查「我被改了什么」。姜鸣要是信了老同事那句话，他那一晚的不舒服就会被当成矫情：工具嘛，用就是了。半年后，他可能会发现，没有 AI 在旁边，他一句文案都起不了头。到那时候，他不会怪工具——工具是中立的——他只会怪自己：「我怎么变笨了？」这就是第二样后果：所有的变化，都被算成个人的毛病。

用导航用到不认路，是你方向感差。刷短视频刷到读不进一本书，是你自制力差。用 AI 用到写不出第一句，是你懒。工具中立论把箭头的另一头擦掉了，于是那一头发生的事情，全被塞回人的账上，变成一份份「自我管理不善」的检讨。第三样后果，落在造工具的人身上。既然工具中立，那设计它的人只需要把它做得好用、做得快、做得让人停不下来，至于它把用的人塑成什么样，那是「用户怎么用」的事。一个推荐系统被调得让人多刷半小时，一个对话界面被调得让人越问越依赖，都可以说一句：我们只是提供工具。

请注意，这和本书在上一节保住的那条责任，方向正好相反。那条责任说：用的人不能把选择推给机器。这里却是：造机器的人，把机器塑人的那一部分，推给了用的人。同一句「看你怎么用」，前半句守住了责任，后半句却给另一群人开了一扇免责的门。第四样后果，在学校里。

既然只是工具，教育要教的就只剩「怎么用」：怎么写提示词，怎么挑答案，怎么查重。第 3 章讲过朵朵学校的那张禁令，那是把工具挡在门外；工具中立论则走另一头，把它请进来，配一本使用说明书。两条路看着相反，都没去问那个更难的问题。一个十一岁的孩子，天天跟一样会回话的东西来回，她的提问方式、她心里「什么算懂了」的样子，会被一起长成什么？第五样后果，最不容易看见：人失去了说「不舒服」的词。

姜鸣那一晚的感觉很真实，可他说不出它是什么。说「AI 改变了我」，显得夸张；说「我用得不好」，又不对。工具中立论只给了他一套词：用得好、用得不好。他心里那件正在发生的事，没有名字，就只能憋着。姜岚在学校也碰到过同样的哑口。有个学生交来一篇作文，字句都没毛病，读起来却像隔着一层玻璃。她问学生是不是用了 AI，学生说没有，只是平时常拿 AI 改作文，看多了，自己下笔就成了这个样子。

姜岚想说点什么，一时找不到词。说他作弊？他确实是自己写的。说他用得不对？他只是看了别人改过的文章。工具中立论的那套词里，没有一格放得下这件事：一个孩子的笔调，是被他天天看的那些回答，一点一点调成了这样。说不出来的事，就没法拿出来商量。没法商量，它就只能悄悄地长下去。还有一样后果，藏在「中立」这个词本身里。中立，听上去像是什么都没做。可一样工具总要先替人定下一些事：默认给几条答案，默认用什么口气，默认先说什么后说什么，默认哪些问题不答。这些默认，用的人很少去改，大多数人一直用的就是出厂那一套。

一台导航默认走最快的路，它就把成千上万辆车推上同一条快路；一台 AI 默认给三十条，它就把一家公司推向「三十条里挑一条」。每一个默认都很小，加起来，就是一种过日子的方式。把它叫作「中立」，等于把这些默认藏了起来——它们在推，可没有人认这一份推。

◆七、导航和电灯泡

把这件事看得最清楚的，是手机导航。姜鸣的手机导航，比他爸的方向感还熟悉省城。他在省城住了四年，从出租屋到公司，到常去的那家面馆，到客户在城西的厂子，每一趟都开着导航。他记得每一个「前方三百米右转」，却说不清公司在面馆的哪个方向。春节回县城，他开车带姜师傅去乡下喝喜酒。导航在一段新修的村道上失灵了，一直让他「掉头」。姜师傅把头探出车窗看了一眼，说：「往前，看见那棵大樟树往左，过一座小桥就到了。」

姜师傅认路的方式，是一张地图长在脑子里：哪里有棵树，哪里有座桥，哪条河往哪边流。姜鸣认路的方式，是一串指令：几百米，左转，右转。两种认路都能到地方，可它们是两种不一样的「会认路」。研究者对这件事有过一些观察。伦敦的出租车司机，入行前要背下城里两万多条街道。

有一项 2000 年发表的脑成像研究报告说，大意是：老司机大脑里跟空间记忆有关的海马体，后部比一般人大一些，开得越久越明显（据研究文献，〔待核〕）。后来又有研究发现，大意是：常年依赖卫星导航的人，自己找路时的空间记忆偏弱（据研究文献，〔待核〕）。这些研究的细节和因果方向，学界还在争。本书只取一个不太会错的意思：认路的方式，是被认路的工具一起塑出来的。你看，导航这样东西，没有一处坏心。它只是把路说得更清楚、更省事。可它一来，「认路」这个活儿本身被改写了：从记住一片地，变成了听懂一串话。被改写的还有一样，更不容易察觉：问路。

姜师傅年轻时到外地送印刷品，不认路，就摇下车窗问。问路边修车的，问小卖部的老板娘，问蹲在门口抽烟的老头。问一回，常常还要多聊两句：你这是去哪个厂？那条路前年修过，绕一下近。一趟路跑下来，他认识了好几个人。姜鸣不问路。他在省城四年，没有向一个陌生人问过路。不是他变冷淡了，是那个「需要开口」的缝，被导航填上了。一样工具填上一道缝，同时也把长在那道缝里的东西一起抹平了。问路的那几句闲聊，从来不在「认路」的说明书上，可它是认路的一部分，是一个人和一片地方慢慢熟起来的那条路。

改写的不只是认路的人。城市也跟着改。外卖骑手按导航给的路线跑，很多小巷因此忽然热闹，有的老街反倒冷清了。商家开始在乎自己在地图上的那个点准不准、评分高不高。一座城，有一部分是按着一张会说话的地图重新长的。再回头看工具中立论那张图：人在左，导航在右，箭头从人指向导航。这张图画得出「你用导航去城西」，画不出「导航让你变成了只认指令的人」，更画不出「导航让一条老街冷了下来」。导航教会了谁认路？教会的是一个新的你，和一座新的城。导航只是一个例子。把「工具回过头来塑人」这件事说得最响的，是一个加拿大人。

1964 年，麦克卢汉出了一本书，叫《理解媒介》。书里有一句话后来成了口头禅：媒介即讯息。这句话听着像绕口令。他举的例子是电灯泡。他说，大意是：电灯泡没有「内容」，它不像报纸那样告诉你什么消息；可它把黑夜变成了能做事、能开会、能踢球的时间，人们的生活方式整个被它重排了（《理解媒介》第一章〔核：大意〕）。所以他说，一样东西真正带来的「讯息」，不在它装着什么内容，在它把人的尺度、节奏、关系改成了什么样子。

这一下，正好打在工具中立论的软处。工具中立论只盯内容：你拿 AI 写的是好文章还是假新闻，你拿刀切的是菜还是人。麦克卢汉说：内容之外，还有一层更大的事——你和它天天来回，这件事本身就在改你。还有一句更有名的话，常被安在麦克卢汉头上：我们塑造了工具，然后工具反过来塑造我们。据考，这句话最早是他的朋友、一位叫卡尔金的神父在 1967 年写的，用来概括麦克卢汉的意思（〔待核〕）。是谁说的，并不妨碍它说中了什么。不过，这句话本身，本书只收一半。

它比工具中立论多看见了一个箭头：工具塑人。可它仍然画了两个先在的成品——先有一个「我们」，去塑造工具；再有一个「工具」，回来塑造我们。两头还是各自站好的，只是箭头从一根变成了两根，来回打。一来一回，两根箭头，比一根强。可问题还在：在那一来一回之前，那个「我们」和那个「工具」，真的已经各自完成了吗？麦克卢汉自己还说过一层，比这句口头禅更扎手。他讲古希腊那个爱上自己水中倒影的少年那喀索斯。他说，大意是：那个少年并不是爱上了自己，他根本没认出水里的是自己；他是被自己的延伸麻住了（《理解媒介》第四章〔核：大意〕）。

在麦克卢汉看来，人造出的每一样东西，都是身体的一种延伸：轮子延伸了脚，书本延伸了眼睛，电线延伸了神经。可每延伸一处，那一处原来的感觉，就会被麻掉一些。后来的人把这层意思压成一句话：每一次延伸，也是一次截除（〔待核〕）。这句话说得太狠，未必处处成立。有了轮子，脚并没有废掉；有了书本，记性也没有全丢。可它碰到了姜鸣那一晚说不出的东西：那个先冒出画面的自己，不是被谁拿走了，是在一次次顺手的来回里，慢慢不必出场了。

麦克卢汉看见的是真的。他停下的地方，正好是接着要走的一步：他把「延伸」画成从一个已经完成的身体往外长，长出去的东西再回头麻住那个身体。他没有再往前问一句——那个被延伸、被麻住的身体，本身是不是也在这一伸一麻里，换了一副新的样子？

◆八、两个人抬一张沙发下楼梯

换一副眼镜看。两个人抬一张沙发下楼梯。到了拐角，沙发太长，直着下不去。上面那个人把自己那头往高处一抬，下面那个人往墙那边一侧身，沙发斜着转了半圈，过去了。沙发怎么拐过那道弯，算谁的？拆开看，上面的人只是抬高了一点，下面的人只是侧了一下身，谁都没拐。合起来，弯拐过去了。而且，上面的人抬多高，是看着下面的人侧身的幅度在调；下面的人侧多少，又是感觉着上面那一头的分量在调。两个人的动作，是在那一下里互相长出来的。

你要是问上面那个人：你本来打算抬多高？他答不上来。他上楼之前，并不知道这道弯要抬多高；他是在下面那个人侧身的那一刻，才知道自己该抬多高的。下面那个人也一样。他们各自「会抬沙发」的那个样子，是被这一道弯、这一张沙发、这一个搭档，一起叫出来的。换一张更长的沙发，换一个更高的搭档，叫出来的就是另外两个人。现在换一种说法：上面那个人是「主人」，下面那个人只是「工具」，沙发拐过去，全凭上面的人指挥得好。你会觉得别扭。下面那个人明明也在调，明明也在感觉、在回应。锤子和 AI，差就差在这里。

锤子不会侧身。你砸下去，它就落下去，它不会感觉你的力道，也不会回你一句「这颗钉子有点歪」。所以拿锤子打比方，天然就只画得出一根箭头。AI 不一样。它是一样会回话的东西。你说一句，它回一段；它回的那一段，又成了你下一句的起点。你调整问法，它的回答跟着变；它的回答一变，你下一次的问法也跟着变。这已经不是一个人拿着一把锤子，更像两个人在楼梯拐角互相找劲。把一样会侧身的东西，硬当成一把只会落下去的锤子，那一刀，就是这样切下去的。

工具中立论讲 AI，就是这种别扭的说法。它把抬沙发的两个人，一个立成指挥者，一个立成被指挥的东西，然后说：拐过去了，是指挥者的功劳；没拐过去，是指挥者的失误。可姜鸣和 AI 之间发生的事，更像抬沙发。他的第七个问法，不是他一个人想出来的——是前六次问、前六次回、前六次「不太对」，一点一点把他的问法磨成了那个样子。AI 的那三十几句候选，也并非它自己「本来就有」。它们是姜鸣的问法一句一句激出来的。换一个人来问，或者姜鸣换一种心情来问，激出来的就是另一批。

在这一来一回里，「问的人」和「答的东西」，都在被重新显影（这个词，本书指一样东西在来回里渐渐显出可以被认出的样子）。离开这场来回，你说不清姜鸣「本来」是怎么问的，也说不清 AI「本来」会写什么。所以，问题不在「人怎么用工具」。问题在：这个由姜鸣和 AI 一起抬着的复合体，正在长出一个什么样的新位置。

它可能长出一个只会开清单的文案。它也可能长出一个更会看问题结构的文案：先在来回里试出客户真正怕什么，再回到那个掀锅盖的画面。哪一种会长出来，不由姜鸣一个人拍板，也不由 AI 拍板，由这场来回本身的节奏、它落在什么样的公司、什么样的客户、什么样的考核里，一起来定。

作用从来不只从一头流向另一头；两头的样子，是在来回里一起长出来的。

拿这副眼镜回头看姜师傅，事情就清楚多了。三十年前，他第一次站到字架前，是个连铅字反着刻都要愣一下的学徒。师傅让他先捡一个月的字，什么都不排。一个月捡下来，他的手指认得了每一格的位置，眼睛认得了每一个反字的样子。后来他排版，手指一伸就到，眼睛一扫就知道哪行松了。那个「一扫就知道」的姜师傅，不是一个先在的人学会了一项技能。是铅字、字架、师傅、一本本要赶工的书，和一个年轻人的手和眼，缠了很多年，一起长出来的。铅字也算不上一堆死物：同一副铅字，在一个新手手里和在他手里，排出来的是两种版。

所以，「字缝太匀了」这句话，是那个复合体留在他身上的眼光。排版系统换了，那个复合体散了，眼光还留着，像一盏没人关的灯。本书不替哪一种眼光说好话。铅字的眼光有它看得见的，AI 的眼光也有它看得见的。本书只想让你看见：每一种眼光，都是一场来回长出来的；没有哪一种，是一个人「本来」就有的。

◆九、回写落在三个地方

长出来的东西会回头改土、改路，本书管这叫回写。AI 对用它的人的回写，不是一团说不清的雾，它落在很具体的地方。至少有三处，你可以一处一处去查。第一处，是问题怎么提。姜鸣的第七个问法，是一个很好的标本。角色、场景、数量、字数、禁用词——这是一套格式。这套格式是从哪儿来的？一部分是网上的提示词教程，一部分是他自己试出来的：说了角色，回答就更像样；限了字数，回答就不啰嗦；列了禁用词，就少见那些烂大街的字眼。每一次「这样问更好用」，都在他身上留下一道小印子。印子多了，就成了习惯。习惯成了，他碰到一个问题，脑子里第一个动作就是把它拆成那几格。

这有什么不好？没什么不好，它很有用。可你要看见它是一种新的提问方式，是在跟这台机器的来回里长出来的。半年前的姜鸣，碰到一个电饭煲，先想的是他妈的眼镜被蒸汽扑白；现在，先想的是怎么把问题装进格子里。两种问法装得下的东西不一样。格子装得下「十二个字以内」，不太装得下「眼镜一下子白了」那种说不清的东西。问题的样子变了，能被问出来的答案也就跟着变了。朵朵身上也有这一处，只是更早。

学校禁了 AI 写作业，可家里的平板上，她早就习惯了对着会说话的机器问东问西。她问问题有一个习惯：一开口就是「请告诉我……的答案」。有一回姜岚让她想一想，为什么课文里那只小狐狸要绕远路回家，她张口就问：「标准答案是什么？」一个十一岁的孩子，不会天生就觉得每个问题后面都站着一个标准答案。这个「觉得」，是她在一次次「问一句、得一段」的来回里，被一起长出来的。回写还落在另一头，这一点常被忽略。

今天的大模型，很多是经过人一轮一轮打分调出来的：哪个回答更有帮助，哪个更顺耳，哪个让人更愿意接着问。千千万万次「这个好，那个不好」，回头改了它说话的样子。它后来那种周到、圆滑、什么都愿意给你列三条的口气，有一部分是被提问的人一起喂出来的。所以，AI 那一头也不是一个先摆好的成品。姜鸣对着的那台机器，带着无数个「姜鸣」留在它身上的印子；姜鸣自己，又带着这台机器留在他身上的印子。两头都在互相留印子。你要指着其中一头说「这是原装的」，指不出来。第二处，是什么算好答案。

以前，姜鸣判断一句文案好不好，靠的是一种身体里的感觉：念出来，心里有没有动一下。现在，他每天要从几十句候选里挑。挑多了，他的眼睛开始换一套标准：先筛掉不通顺的，再筛掉太长的，再筛掉撞了禁用词的。剩下的几句，都「没毛病」。「没毛病」慢慢顶替了「心里动一下」。这个顶替没有人宣布过。他的组长没说过，客户没说过，AI 更没说过。它是在每一次「从三十句里挑一句」的动作里，一点点长出来的。三十句摆在面前，你很难再用「心里动不动」去挑——每一句都动不了太多，每一句也都挑不出大错。于是，能派上用场的，只剩那几条筛子。

你也可以在自己身上找找这件事。你用搜索引擎多了，是不是越来越相信排在第一页的？你用推荐系统多了，是不是越来越觉得「大家都在看的」就是好看的？什么算好，常常不是你先定下再去找，是在一次次挑选里被挑出来的。第三处，是什么值得学。姜鸣刚进公司时，带他的师姐给他布置过一件事：每周去一趟超市，在家电区站一个小时，看人家怎么挑电饭煲，听人家嘴里说的是什么词。师姐说，大意是：好文案是从人嘴里捡的，不是从脑子里编的。他去了三个月，后来就不去了。不是偷懒，是觉得没必要——要什么人群画像、要什么用户语言，问 AI，一分钟就有一大篇。

于是，「去超市站一个小时」这门功夫，从他该学的清单上掉了下去。顶上来的，是怎么写提示词、怎么让 AI 输出更稳、怎么用三个工具串一条流水线。哪一门功夫值得学，是被他每天碰的那些东西排出先后的。AI 在，有些功夫就显得多余；AI 在，有些功夫就显得要紧。这个排序本身，就是回写最深的一处。它改的不是姜鸣今天写出了什么，是姜鸣五年后会是一个什么样的文案。请注意，这个排序未必排错了。去超市站一个小时，也许真没有从前那么要紧；会搭一条三个工具串起来的流水线，也许真是这一行明天要的本事。本书不说旧的功夫一定高，新的功夫一定低。

本书只说一件事：这个排序在变，而且不是姜鸣一个人坐下来排的。看不见它在变，就只能跟着它变；看见了，这个复合体里才多出一个回头看一眼的位置。三处放在一起看：提问的方式、好的标准、该学的东西。没有一处是姜鸣一个人「决定」的，也没有一处是 AI「强加」的。它们是这个一来一回的复合体，在半年里长出的新形状。工具中立论只问：你拿它干了什么？它从来不问：你和它一起，长成了什么？

◆十、一家广告公司的半年

下面这个例子，是把几家公司常见的情形捏在一起讲的，不指哪一家。它从头到尾，把「只是工具」这句话放进一段完整的日子里走一遍。省城有一家二十来人的广告公司。去年春天，老板在全员会上宣布：公司给每个人开通 AI 账号，费用公司出。他说了一句很标准的话，大意是：它就是个工具，用好它，大家都能早点下班。头一个月，一切都像老板说的那样。写一份方案的初稿，从两天缩到半天；给客户的备选标语，从五条变成二十条。大家确实早下班了几回。

第二个月，客户那边先变了。以前客户看五条，挑一条，改两个字。现在客户知道你们用了 AI，开口就要三十条。三十条看完，客户说：「再来三十条，换个风格。」备选的数量涨上去了，挑选的时间也涨上去了。早下班的那几回，被挑选吃掉了。请注意这里。一样「工具」进了公司，最先被改的，不是公司里的人怎么干活，是公司外面的人「期待什么」。客户心里「一份像样的提案」的样子，跟着变了。第三个月，公司的评审会也变了。

以前评审会上，创意总监会让写文案的人把一句话念出来，大家闭着眼听。现在桌上摊着几十条打印稿，大家拿着红笔一条一条划：这条太长，这条撞了竞品，这条有个字不吉利。划到最后剩下的那几条，都很稳。那一阵，公司交出去的东西没人挑得出错，也很少有人记得住。创意总监私下说过一句话，大意是：以前我们是在找一句话，现在我们是在排除几十句话。找，是往一个地方走；排除，是哪儿都不去。

他说这话的时候，并没有怪 AI。AI 做的事很老实：你要三十条，它就给三十条。变的是那张评审桌。三十条摆上桌，「闭着眼听」这件事就很难再做下去——没有谁能闭着眼听三十条。于是，桌上的人只好拿起红笔。红笔一拿起来，什么算好，就换成了红笔能划掉什么。可是，你要是追问一句：那张评审桌，是谁改的？很难指出一个人来。老板没下过这道令，总监也不想要这样。是 AI、客户、交稿的期限、红笔、打印机，还有二十来个想早点下班的人，在三个月里一起把它改成了这样。

第四个月，新招来两个应届生。他们没见过「闭着眼听」的评审会，也没被谁派去超市站过一个小时。他们一进来，学的就是公司共享文档里那套提示词模板。他们干活很快，模板用得比老员工还熟。有一回，创意总监让他们不用 AI 先写三句，两个人对着空白文档坐了二十分钟。这不能怪他们笨，也不能怪他们懒。他们是在这片土里长出来的：入行第一天，摆在面前的就是这样一套来回。第五个月，公司丢了一个老客户。客户的原话传回来，大意是：你们的东西越来越像别人家的了。

老板开会总结。会上有人说，是大家太依赖工具了，要「回归初心」。有人说，是用得还不够好，要请人来培训提示词。两种说法吵了半个下午，用的是同一张图：人在一边，工具在另一边，问题出在人怎么用。「回归初心」那一派，想的是把 AI 收起来，回到半年前。可半年前的那一套，客户已经不认了；三十条的期待，收不回去。「加强培训」那一派，想的是让人把格子填得更好。可格子填得再好，交出去的还是「三十条里挑一条」。一个往回退，一个往前冲，都没去碰那张评审桌，没去碰客户的期待，没去碰新人一进门学的东西。它们都只在「人」那一格里找毛病。

第六个月，事情是从一个不起眼的角落转过来的。组里有一个写了八年文案的老员工。有一次她被客户逼急了，没让 AI 写标语，反过来把自己的初稿丢进去，让它挑刺。她问的是：这句话，一个刚生完孩子、一天只睡四小时的妈妈，读到第几个字会划走？AI 回了一大段，有几处说得很蠢，有一处说中了。她拿那一处去改，又丢回去问。来回了七八次，那句标语后来被客户留下了。后来，组里有几个人开始这样来回。慢慢地，评审会上又有人念稿子了——不是闭着眼听，是一边念，一边拿 AI 给出的那几条刺去对。请看这一步发生了什么。

没有谁「找回了主体性」，也没有谁「驾驭」了工具。是这家公司和这台机器之间，原来那种「你出三十条、我挑一条」的来回，慢慢长出了另一种来回：「我出一条、你挑刺、我再改」。在这种来回里，AI 显出来的不再是一台标语机，是一个不太靠谱、偶尔一针见血的陪练；人显出来的，也不再是一个挑选员，是一个被逼着把画面说清楚的写作者。两头都变了。它们是一起变的。那位老员工后来在组里讲过一回她是怎么来回的。她没有讲提示词的模板，讲的是一件小事：她每次丢稿子进去之前，先在纸上写一句「我最怕这句话被谁看不懂」。写不出这一句，她就不丢。

组里有人照着做，有的做出了味道，有的做成了新的模板，一字一句地抄她那一句话。抄成模板的那一组，过了一个月，又回到了三十条里挑一条的老路上。这说明，长出新位置的，不是那一句话，也不是哪一个工具，是那一种来回的节奏。节奏被钉成模板，又成了一个先摆好的成品。再看这半年里，「它只是个工具」这句话说中了什么、漏掉了什么。它说中了一样：交出去的每一条标语，都有人签字，有人负责。它漏掉了五样。客户的期待被改了，评审的标准被改了，新人学什么被改了；公司的东西长成了什么样被改了，最后连「怎样才算用好它」本身也被改了。

漏掉的这五样，恰好是这家公司那半年里真正发生的事。

◆十一、账还在，只是不在一根箭头上

说到这里，你可能会担心：要是工具也在塑人，那责任算谁的？把箭头画成来回的，是不是就给了所有人一个推脱的口子——「不是我，是这个复合体」？这个担心很要紧，本书在第四节答应过要回来保住它。先说结论：账还在，一笔都不少；只是它不再只挂在一根箭头的尾巴上。回到抬沙发。沙发要是在拐角撞坏了墙，你不能说「是复合体撞的」，就散了。上面那个人抬得太猛，有他的一份；下面那个人没吭声，有他的一份；那个把楼梯修得这么窄的人，也许还有一份。复合体不是一个可以把账推进去的黑箱，它是一张把账摊得更清楚的图。放在 AI 身上也一样。

一个人拿 AI 造假，那份造假的账，记在他身上，这一点和工具中立论说的一模一样，一个字不改。可工具中立论记不上的那几笔，现在也能记上了。一个界面被调得让人越问越离不开，调它的那群人有一份。一套考核只数产量不看好坏，定考核的人有一份。一所学校只教提示词不教看问题，排课表的人有一份。一个行业默认「三十条备选」是规矩，这份默认，整个行业都有一份。「看你怎么用」只看得见使用者的那一份。来回的图，看得见每一个在来回里出过力的地方。回到朵朵的学校。那张「禁止用 AI 写作业」的通知，第 3 章讲过它的那一刀。这里只看它和责任的关系。

如果 AI 只是工具，那一个孩子用它写了作业，账就全在孩子身上：她没用好，她偷懒，她不诚实。可朵朵问「标准答案是什么」的那个习惯，不是她一个人攒出来的。平板上那个总是给出一段完整回答的界面有一份；家里大人忙，一有问题就说「你去问它」，也有一份；一套只看答案对不对的作业，也有一份。把这些都摊开，不是为了替孩子开脱。孩子交了不是自己想的东西，还是要说清楚、要改。摊开，是为了让每一个出过力的地方，都能被拿出来改一改。只罚孩子一个人，那几处就原样留着，明年换一个孩子，同样的事再来一遍。

所以，本书不是要拆掉工具中立论里的责任意识，是要把它从一根箭头上解下来，摊到整张图上。你会发现，这样一摊，责任不但没少，反而多了。最轻松的，倒是那句「它只是工具」——它让造工具的人轻松，让定规则的人轻松，最后连用的人，也只需要检讨一句「我没用好」，就能翻过这一页。

◆十二、它和隔壁几种说法共用一张图

工具中立论听起来是最温和、最中庸的一种说法。它不怕 AI，也不跪 AI。可它和本书别的几章，共用的是同一张地图。先看第 2 章的末日失控论。末日论说：AI 会长出自己的意志，反过来支配人。工具中立论说：AI 没有意志，永远被人支配。一个说箭头会掉过头来，一个说箭头永远朝这边。两种说法吵得很凶，可它们都认定世上只有一根箭头，争的只是它朝哪边指。

第 1 章的替代恐慌论，也站在这张图上。替代论把人看成一张技能清单，AI 来了，清单上被减去一块。工具中立论把这张清单反过来用：AI 是你清单上新添的一项「会用工具」。一个减，一个加，都把人当成一个可以往上加减的成品，都没去看那张清单本身是怎样在来回里被改写的。

再看下一章，第 5 章的效率至上论。工具中立论说「看你怎么用」，效率论接着说「用它把同样的事做得更快」。这两种说法常常一起出现在同一场会上——那家广告公司的老板，开头那句话就是两样一起说的。工具中立论把人的目的钉住，效率论就只管在这个钉住的目的上提速。第 5 章会看到，真正的变化，恰恰是「要做什么」本身被改写了。

还有第 7 章的神谕崇拜论。乍一看，它和工具中立论正好相反：一个说人是主人，一个说机器是先知。可工具中立论天天在用，常常就是一步步滑向神谕崇拜的那条坡。一开始，「它只是帮我查查」；后来，「它查的比我准」；再后来，「它说的，一定对」。座次倒了过来，图还是那一张：一头发话，一头听话。这几种说法看似站在不同的山头上，脚下踩的却是同一块地：在来回开始之前，人和 AI 已经各自是成品了。

还有一种关系，要多说一句。第 8 章会讲到技术决定论：技术自己会把一切推到该去的地方。它看上去是工具中立论的反面——一个说人定工具，一个说工具定人。可两者只是把同一根箭头掉了个头。工具中立论说人在上游，技术决定论说技术在上游；谁在上游可以吵，有一个上游、有一个下游，两边都不吵。本书要换的，恰恰是「上游」「下游」这一对词。抬沙发的两个人，谁在上游？楼梯上方那个，脚站得高一些；可沙发怎么拐，是两个人在那一下里一起找出来的。

◆十三、放回日子里

回到那天晚上的姜鸣。那一晚过了十一点，姜师傅打来一个电话。他很少这么晚打电话，开口就问：「你们那 AI，能不能帮我看一本书的版？」厂里接了一本县志，排版系统排出来的版，姜师傅总觉得哪里不对，又说不上来。他想让儿子帮他问问 AI。姜鸣让他拍了几页发过来。他看了半天，也没看出毛病。他把照片丢给 AI，AI 说版式规范，没有问题。姜师傅在电话那头沉默了一会儿，说：「字缝太匀了。匀得像机器排的。」姜鸣没听懂。他爸也没再解释，说了句「算了，早点睡」，挂了。

这一通电话，父子俩各自握着自己那一代的工具，谁也没说服谁。姜鸣起初觉得是他爸老派，可挂了电话，那几页照片还亮在屏幕上，他越看越觉得，那几行字之间，确实少了点什么。可它在姜鸣心里留下一个小钩子：他爸那双被铅字磨了三十年的眼睛，看见的东西，AI 看不见，他也看不见。那么，他自己这双正在被 AI 磨的眼睛，将来会看见什么，又会看不见什么？十一点半，他还是没挑出那句满意的。他把三十几句候选全关了，起身去厨房烧水，准备泡一碗面。电热水壶响的时候，他想起他妈掀锅盖的样子，想起蒸汽扑上眼镜的那一下。

他回到桌前，没有再让 AI 写。他打了一行字进去：「我妈每次掀开电饭煲，眼镜都会被蒸汽扑白。这个画面，三十岁的上班族会有感觉吗？哪里会让他们觉得土？」AI 回了一长段。有几句是套话，有一句说：很多在外地工作的年轻人，自己做饭时，最先想起的常常不是饭的味道，是那口锅冒出来的热气。他盯着这一句看了一会儿，写下了第一稿：「一揭盖，就看不清了。」他又把这一句丢回去，问它：这句话哪里可能让人误会？AI 说，有人会以为是电饭煲漏气，看不清是坏事。他想了想，改成了：「一揭盖，眼镜就白了。」

改完，他自己笑了一下。这一句里，有他妈，有那口锅，有那一晚烧水的电热水壶，也有 AI 回给他的那一句「热气」。哪一个字是谁的，他拆不开。这句话后来有没有被客户留下，不要紧。要紧的是那一晚，他和这台机器之间，长出了另一种来回。不是他出格子、它填格子；是他丢一个说不清的画面进去，它回一些试探，他再从试探里认出自己要的那一点。他自己也说不清，那句话算他的，还是算它的。第 9 章会专门讲这个问题。这里只记一件事：那一晚的姜鸣，和十点钟的姜鸣，不太是同一个写文案的人了。如果你也天天和 AI 来回，明天能试两件小事。

1. 翻一翻你最近一个月的提问记录，把第一次问和最近一次问并排放。看看问法变成了什么样子，再看看哪些东西，是新的问法装不进去的。
2. 找一件你平时直接让 AI「出结果」的活儿，换一种来回：先丢一个自己的半成品进去，让它只挑刺，不给答案。看看这一次来回里，冒出来的是一个什么样的你，和一个什么样的它。

这两件事都不是要你「管住工具」。它们只是让那根被擦掉的箭头，重新在纸上显出来。显出来了，这个复合体才有机会长出别的样子。第二天早上，姜鸣把那句话交了上去。他还多做了一件事：把师姐当年布置的那个作业，翻出来记在了手机备忘录里——周末去一趟超市家电区，站一个小时。他不确定这一趟去了有没有用。可他想看看，带着这半年和 AI 来回长出来的那双眼睛，再去听人家嘴里说的话，听见的会是什么。这不是回到从前。从前那个姜鸣，没有和 AI 来回过半年；今天去超市的这一个，脑子里装着几百次来回留下的印子。他听见的，会是另一种东西。

这一章没有给你一个「正确使用工具」的办法。它只是想把那句话轻轻挪开一点：它不只是一把锤子；你也不只是那只握锤子的手。你们之间来回的那一段，才是事情真正发生的地方。

跑得更快的旧路

◆一、周五晚上的第四十七版

周五晚上九点，省城那家广告公司的格子间里，只剩姜鸣一个人。他在给一家做桂花糕的老字号写端午促销的标语。客户下午五点发来消息，要「年轻一点、有记忆点、能上地铁灯箱」，周一早上要看方案。放在三年前，这是一个周末的活。他要先翻客户这些年的物料，再去几个年轻人常逛的平台看看别人怎么写，然后在本子上一句一句地磨，磨到周日晚上，挑出五句发过去。今天不用了。他把客户的要求贴进对话框，又贴了一段从网上买来的提示词模板，那份模板的标题叫「爆款文案万能公式三十六条」。回车一按，十句标语就出来了。

他嫌不够，让它再来二十句，再来「更土味一点」的二十句。一个小时不到，屏幕上排着四十七版标语。部门主管下午在群里说过一句话：「现在有了 AI，以前一周的量，一天就得出来。」姜鸣看着这四十七句，一句一句往下滑。每一句都通顺，每一句都押韵，每一句都像在哪里见过。他忽然想起上个月的事。那次他也是一晚上给出三十几版，客户挑了一句，上了灯箱。投放一个月，客户那边的人在电话里说，大意是：话是挺顺的，就是没人记得住，店里的人也说不清它跟别家有什么不一样。

那一次，他做得比以前快了五倍。可要做的那件事——让一个开了几十年的老字号，在年轻人眼里重新被看见——并没有因此多做成一分。他关掉对话框，在本子上写了一行字：「快了。快在哪里？」你也许有过这样的时刻。一份周报，以前要写一个下午，现在一刻钟就生成好了，字数还翻了一倍；一份汇报材料，以前做二十页，现在做四十页也不费劲。你省下了时间，交出了更多的东西，可心里有一块地方空着：多出来的这些，到底给谁看？

你也许还会给自己找一个理由：先快起来再说，快了总没坏处。这个理由，本书在下一节会替它说足。可你要是回头数一数，这半年来你用 AI 做快的事里，有几件是你真心觉得值得做的？又有几件，只是因为它以前就在你的工作清单上？这一章要拆的，是一种最不像错误的想法。它说：AI 的用处，就是让同样的事做得更快。顺带还要拆它的一个小兄弟：只要提示词写得好，AI 就什么都能做好。先把结论摆在桌上：快没有错。错在以为「要做什么」是钉死的，只剩速度可以换。

◆二、替它把话说足

说它错之前，先把公道还给它。效率至上的说法，最强的版本是这样的。人这一辈子，时间是最硬的东西。一天二十四小时，谁也多不出一分钟。一件事从三天缩到三个小时，你就白白多出了两天半；这两天半可以陪孩子，可以睡觉，可以去做别的事。省下时间，就是省下了命。人类过去两百年过上好日子，靠的正是这个。纺一匹布、种一亩地、算一本账、寄一封信，都比从前快了几十倍、几百倍。没有这些快，就没有今天的饭桌、医院和学校。

所以，有人反对效率，大多是在美化辛苦。一个母亲用搓衣板洗一家五口的衣服，冬天手上裂满了口子，你不会劝她别用洗衣机。一个会计用算盘打一晚上的账，你不会说他比用表格软件的人更高尚；一个人从县城走路去省城，你也不会说他比坐高铁的人更懂生活。AI 来了，不过是这条长路上又一次提速。写字、画图、编程、做表、查资料，以前要人一点点磨的，现在机器几秒钟就能起个头。一个文案一天写一周的量，一个程序员一天写三天的代码，这有什么不好？

还有一层更实在的理由。在一家公司里，「要做什么」往往不是你一个人说了算的。老板定了目标，客户提了要求，部门排了任务，你能动的，常常只有速度这一项。在这种处境里劝你「别只想着快，先想想要做什么」，听上去像一句站着说话不腰疼的风凉话。效率至上论替这样的人说话：你改不了目的，至少可以少熬几个夜。这套说法也有很长的家谱。

1911 年，美国工程师泰勒出了一本书，叫《科学管理原理》。他拿着秒表站在工厂里，把一个工人搬生铁、铲煤的动作拆成一小段一小段，量每一段要几秒，再把多余的动作删掉。他说，大意是：一件活儿只有一种最好的做法，管理的任务就是把它找出来，让人人照做（《科学管理原理》，1911）。照他的法子，据说一个搬运工一天搬的生铁，翻了好几倍〔待核〕。后来的流水线、工时表、绩效考核，都能在这本书里找到影子。今天的人听「效率」两个字，耳朵里多少还响着那块秒表的滴答声。它许诺的东西很实在：同样的人，同样的一天，干出更多的活。再往下说，就到了它的小兄弟。

AI 是一台机器。机器的规矩是：你给什么，它出什么。给得含糊，它出得含糊；给得清楚，它出得清楚。所以用好 AI 的关键，就在那几行输入上。有人把这几行输入总结成公式：先给它一个角色，再给它背景，再说任务，再定格式，最后加一句「请一步一步想」。按公式写，出来的东西就像样；不按公式写，出来的就是废话。于是网上有了几十块、几百块一套的提示词课程，有了「三百条万能提示词」，有了「提示词工程师」这个新职位。这套说法讲得很顺：机器是现成的，本事也是现成的，中间只差一把钥匙。拿到钥匙，门就开了。

这两套说法合在一起，就是今天很多公司、很多学校、很多人心里的那张图：事情摆在那里，AI 摆在那里，人要做的，是找到那句咒语，然后跑得更快。对啊，听上去一点毛病都没有。

◆三、电动机搬进了老厂房

还是先看一段旧事。它发生在一百多年前，讲的正是「换了一台更快的机器，为什么没有更快」。1880 年代，电灯和电动机开始走出实验室。1882 年，爱迪生在纽约建起了一座供电的发电站，城里的几条街第一次亮起了电灯。很多人以为，工厂的日子马上就要变了。可是工厂没有马上变。先看看那时的工厂长什么样。一座蒸汽厂房，正中间是一台巨大的蒸汽机，日夜冒着烟。蒸汽机带着一根长长的铁轴，铁轴架在天花板下面，从车间这头一直通到那头。轴上挂着一排皮带轮，每个轮子垂下一条皮带，带动一台机床。

机器要排在铁轴下面，离轴远了，皮带就够不着。所以厂房要盖成好几层，一层一根轴，像一串挂在同一根绳子上的灯笼。一台机床要干活，整根轴都得转着；车间里只有一个人在加班，那台大蒸汽机也得烧一整夜的煤。电动机来了，很多厂主做的第一件事，是把那台蒸汽机拆下来，换上一台大电动机，接在原来那根铁轴上。铁轴还是那根铁轴，皮带还是那些皮带，厂房还是那几层楼。动力的来源换了，别的一样没换。结果呢？省了一点煤，少了一点烟，生产率几乎没动。

据经济史学者的研究，大意是：美国工厂用电，从开头到普及，拖了三四十年；电力真正把工厂的生产率推上去，要等到 1920 年代前后〔待核〕。为什么拖了这么久？先替那些厂主说句公道话。他们不是笨。那座多层厂房是花了大钱盖的，还没折旧完；工人们在铁轴下面干了半辈子，熟悉每一条皮带的脾气；供货商、账本、排班表，全都是照着那根轴排的。拆掉重盖，等于把一整套日子推倒重来。换一台电动机，却只要一个周末。

所以，他们先做最省事的那一步，再自然不过。今天很多公司把 AI 接在旧流程上，也是同一个道理：流程是现成的，人是现成的，考核也是现成的，换上一台更快的机器，什么都不用动。可是，什么都不用动，也就什么都不会变。因为真正的变化，不在动力那一头。后来的工厂，不再用一台大电机带一根大轴，而是给每台机床装上自己的小电机。机床不用再挤在铁轴下面了，厂房也不用再盖成好几层。于是车间可以盖成一层，屋顶开天窗，光从上面照下来。机器可以照着活儿的先后来排：原料从这头进，一道工序接一道工序，成品从那头出。一台机床停了，别的照转；一个人加班，只开他那一台。

到了这一步，工厂干活的方式整个换了一遍。什么东西放在哪里，谁跟谁挨着，一件活儿从哪里走到哪里，都被重新排过。生产率这才上去。研究这段历史的学者，后来把它拿来比照计算机。1980 年代，美国公司里电脑越来越多，生产率的数字却不见起色。有一位经济学家在 1987 年的一篇书评里说过一句很有名的话，大意是：到处都看得见计算机时代，只有生产率的统计里看不见〔待核〕。学者们把这两件事放在一起，叫它「发电机悖论」（大意如此）。它说的是：一种新的力量进来，头几十年人们总是用它去推旧的那根轴；等到人们肯把厂房拆了重盖，它的力气才显出来〔待核〕。

请把那根铁轴记在心里。这一章后面还要回来。

◆四、更多的煤，更快的马，会重算的表

再往前翻二十年，还有一件旧事，方向正好反过来。1865 年，英国有一位经济学家叫杰文斯，写了一本书叫《煤炭问题》。那时候瓦特改良过的蒸汽机已经用了几十年，烧同样多的煤，能干的活比从前多得多。很多人以为，机器省煤，英国烧的煤就会少下去。杰文斯说，大意是：恰恰相反。蒸汽机越省煤，用蒸汽机就越划算；用的人越多，全国烧的煤反而越多（《煤炭问题》，1865）。后来的经济学家把这个现象叫作「杰文斯悖论」。一样东西变便宜了、变快了，人们不会只做原来那么多，而是会做得更多。

这件旧事放到今天的格子间里，一点都不陌生。写一份报告的成本从一下午降到一刻钟，报告就不会只写原来那么多。周报变成日报，一页变成十页，十页又附上三个附件。每一份都比从前省力，加起来的总量，却比从前重得多。省下的煤，又被烧掉了。省下的时间，也被同样的事填满了。还有一句常被挂在嘴边的话。据说汽车大王福特讲过，大意是：要是当年去问顾客想要什么，他们会说，要一匹更快的马。这句话多半是后人安在他头上的，至今没有人找到可靠的出处〔待核〕。可它流传得这么广，是因为它说中了一件事：人们想象未来，常常只能想象「同一样东西，更快一点」。

一匹更快的马，还是一匹马。它跑得再快，路还是那条土路，车还是那辆马车，城还是那座照着马车尺寸修的城。后来汽车真的改变了日子，靠的也不是「比马快」。是路被重新铺过，城被重新规划，人住在哪里、在哪里上班、周末去哪里，都被重新安排了一遍。还有第三件旧事，离今天近一些，发生在办公室里。1979 年，一款叫 VisiCalc 的软件出现在当时的个人电脑上。它做的事，今天看来再普通不过：屏幕上一张格子表，你改了其中一格的数字，跟它有关的格子会自己重新算一遍。

在它之前，会计和做预算的人，用的是纸、铅笔、橡皮和计算器。一张几十行、几十列的预算表，改一个假设，比如明年的原料涨价一成，后面所有跟它有关的数字都得重算。一个人埋头算上一整天，是常有的事。据后来的回忆和研究，大意是：电子表格刚进办公室时，很多人以为它的用处就是「算得快」，一天的活一分钟做完，会计可以少招几个〔待核〕。后来的事情却不是这样走的。

改一个数字只要一秒钟，人们就开始做从前不敢做的事。一个下午，就把「原料涨一成」「涨两成」「换一家供货商」「晚三个月开工」都试一遍，看看每一种会怎样。这件事以前太贵了，没有人会去做；现在便宜了，它就长成了一门新的活儿。于是做表的人，慢慢从「把账算对的人」，变成了「拿着好几种未来去跟老板商量的人」。他们问的问题变了，坐的位置变了，在会议桌上说话的分量也变了〔待核：大意，研究文献多有讨论〕。请注意这里的差别。如果只看「算得快」，电子表格就只是一把更快的算盘。可它真正带来的，是「要算什么」被改写了：从算一种已经定下的结果，变成在很多种可能里来回比。

这一次，旧路跑快了，新路也冒出来了。只是新路不在软件的说明书里，它是在一张张表、一次次会上，被用表的人和那张会重算的表一起磨出来的。最后一件，就在家里。二十世纪中叶，洗衣机、吸尘器、电冰箱一样样进了普通人家。当时的广告许诺说，大意是：有了这些机器，主妇就从家务里解放出来了。研究家务史的学者后来发现，事情没有这么简单。美国有一位历史学者写过一本书，书名就叫《母亲的活更多了》（1983），大意是：机器把每一件家务都变快了，可是家里人对「干净」的要求也跟着提高了〔待核〕。

从前一件衬衫穿一个星期，有了洗衣机，就穿一天一换；从前地扫一扫就算干净，有了吸尘器，地毯也得天天吸。每一件活儿都快了，活儿的总量却没有少多少。你看，这一回被改写的，恰恰是「要做什么」。只是它是被悄悄改写的，没有人坐下来商量过：衬衫到底该多久洗一次？把这几件旧事摆在一起看。电动机接上了老铁轴，省煤的机器烧掉了更多的煤，人们想要的是更快的马；会重算的表长出了一门新活儿，洗衣机让衬衫一天一换。每一次，新的力量来了，人们先做的，都是让旧路跑得更快。可每一次，「要做什么」也都在底下动着，或者被人看见、被人重新排过，或者没被看见，就悄悄胀大了。

◆五、先说它对在哪儿

话说到这里，你也许会觉得本书在跟效率过不去。不是这样。先把它对的地方说清楚，而且要说足。第一，省下的时间是真的。一个护士以前每天花两个小时填表，现在半个钟头填完，多出来的一个半小时，她可以多去病床边站一站。这一个半小时不是幻觉，它就在她的日子里。第二，有很多事，目的本来就该钉住。急救车的调度，要的就是快；工资表的核算，要的就是准而快；把一份说明书译成五种语言，要的也是快。这些事「要做什么」很清楚，也很少变，让它们跑得更快，正是正经的好事。第三，枯燥的活被机器接走，人少受了很多罪。没有人怀念一个字一个字誊抄合同的夜晚。

第四，提示词的那一套，也有它的道理。把话说清楚，把背景交代够，把想要的样子讲明白，这本来就是一门手艺。同一件事，说得含糊和说得清楚，换来的回应确实不一样。一个从来不会提要求的人，学一学怎么把要求说清，是有益的。所以，效率至上的说法，在一个条件下完全成立：这件事要做什么，在你动手之前已经确定，而且在你做的过程中不会变。这个条件，在很多地方是满足的。流水线上的一道工序，一张固定格式的表，一次照章办事的核对，都是这样。

姜师傅厂里就有这样的活。县里每年都要印一批统一格式的登记表，表格的样子是上面定的，一个字都不许改。这种活，自动排版系统做得又快又准，没有人会怀念从前一格一格对线的日子。在这里，快就是好，用不着多想。问题出在另外一些地方。在那里，「要做什么」本来就没有钉住，或者正在被这一场使用悄悄改写。效率至上的说法，把这些地方也当成了流水线。所以本书要拆的，不是「快」，也不是那些目的本来就钉住的活儿。本书要拆的，是一种把所有事都看成登记表的眼光。

◆六、那一刀切在「要做什么」上

用本书的那把钥匙问一句：这一刀，切在哪里？先回到姜鸣那个周五晚上。那一晚，桌上摆着两样东西。一样是任务：「给桂花糕写端午标语，年轻一点，有记忆点。」在效率至上的眼光里，这个任务是一个现成的东西。它在姜鸣打开对话框之前就已经写好了，内容完整，边界清楚，只等着被完成。另一样是 AI：一台已经造好的、出字很快的机器。它的本事也是现成的，有多大能耐，跟这一场对话无关，只看你会不会用。一个现成的任务，加上一台现成的机器。人要做的事，就是把任务塞进机器，让它跑快一点。这就是那一刀。它切在「目的」上。

效率至上论先把「要做什么」从这场互动里切出来，钉死在人这一边；再把 AI 切出来，当成一台只管加速的成品机器。

一刀下去，正在发生的那件事，就被拆成了两个已经完成的东西：一张写好的任务单，一台造好的加速器。泰勒那块秒表，量的也是同一样东西。它只量「这一铲要几秒」，从来不量「这堆煤该不该铲、该铲到哪里去」。后一个问题，在他那里早就有人定好了，工人只管铲。你也许会问：这有什么不对？任务本来就是人定的，机器本来就是厂家造的。这句话里藏着一个很老的习惯。老的想法看「知道」这件事，总是先摆好两头：一头是看的人，一头是被看的那样东西，知识就是两头碰出来的结果。看的人和那样东西，都被当成在碰之前就已经在那里、已经长好了的。

效率至上论用的是同一个习惯，只是把「知道」换成了「做事」。一头是一个早就知道自己要什么的人，一头是一台早就造好的机器，结果就是两头相加：人的目的，乘以机器的速度。可是，人的目的真的在碰之前就长好了吗？姜鸣打开对话框之前，他「要做什么」是一句客户的话；对话框关上的时候，它可能已经不是那句话了。机器的本事也一样：同一台机器，被不同的人用，用出来的是两样东西。这一点，本章后面还要细看。再回头看姜鸣上个月的那次失败。客户要的，真的是「一句顺口的标语」吗？

不是。客户真正要的，是让年轻人重新看见这家老店。「写一句标语」只是从这个大目的里，按照旧的做法切下来的一小块。在没有 AI 的年代，这一小块切得很合理：一个文案一个周末，也就只能磨出几句标语。AI 进来以后，那个大目的本来有机会被重新问一遍。既然出一句标语只要几秒，标语还是不是最要紧的那一块？也许要紧的是先弄清楚，年轻人对这家老店到底记得什么、不记得什么；也许要紧的是做一百个小样，拿到真人面前去试；也许地铁灯箱根本就不是最好的那条路。

这些问题，只有在这一场新的使用里才会冒出来。它们不在任务单上，也不在机器的说明书里。它们长在人和机器来回的那一段里。效率至上论把这一段切掉了。它让姜鸣用最快的速度，做完一件本来该被重新问一遍的事。这就像那位厂主：电动机接上了老铁轴，转得又稳又安静，他很满意。他没有想到的是，正是这台新电机，让那根铁轴可以不要了。再说它的小兄弟。提示词万能论，用的是同一刀，只是切得更细一点。

它把人这一边切成一个「已经知道自己要什么」的人，把机器那一边切成一个「藏着一排按钮的箱子」。中间那几行字，就成了钥匙：人的需要是现成的，机器的能力也是现成的，只要钥匙齿对齿，门就开了。照这张图，用 AI 的本事，就等于背下更多的钥匙。可是你在下一节会看到，最要紧的东西，恰恰不在钥匙上。

◆七、四十页没人翻的报告

只切这一刀，会怎样？顺着它往下推，后果会落到一个个具体的人身上。先看一家公司。据报道，这两年不少公司给员工配了 AI 写作工具，第一批被它加速的，往往是各种周报、月报、总结和汇报材料（大意）。这很好理解：这些东西格式固定，字数要求明确，最适合交给机器。于是一个奇怪的循环出现了。部门经理以前收到的周报是一页，现在是五页。五页他看不完，就把它们贴进另一个 AI 工具，让它「总结成三条」。三条再汇总，写进他自己给上级的月报。上级的月报又被另一个 AI 总结成一段话，放进季度会的材料里。

一路下来，机器写，机器读，机器再写，机器再读。每一个环节都比从前快得多，整条链子也比从前长得多。至于这些报告原本要回答的那个问题——这个部门这一周到底做成了什么、卡在了哪里——有没有人真的看见了，谁也说不准。这就是杰文斯那座煤矿的今天版。报告变便宜了，报告就变多了；报告变多了，没人读的报告也变多了。这还不是最糟的。最糟的是，每个人都觉得自己更能干了。姜鸣的主管会在季度总结里写：本部门引入 AI 后，文案产出提升四倍。这个数字是真的。可是没有人去问：客户的生意，提升了几倍？一张只量速度的尺子，会把一切都量成速度。再往县城走一趟。

姜鸣的父亲姜师傅，在县城印刷厂排了三十年的版。厂里去年上了自动排版系统，第 1 章讲过他心里的那一下慌。这里只看厂里怎么用它。系统上线以后，排一本小册子，从两天缩到半天。厂长很高兴，马上去接了更多同样的单：县里各单位的宣传册、年终总结、会议手册。价钱压低一点，单子多接一倍。一年下来，厂里印的东西比从前多了一倍，利润却没怎么涨。那些宣传册印得飞快，发下去以后，很多直接堆在了各单位的储物间里。

姜师傅有一回在饭桌上说，大意是：以前排一本册子，人家会跟他商量哪页放图、哪页留白，说完了，册子也就有人看了；现在系统一套，谁也不来商量了，印出来的东西都一个样。他说的那个「商量」，正是被这一刀切掉的东西。系统把排版这一步做快了，可排版从来不只是一步工序。它也是印刷厂跟客户来回、慢慢弄清楚「这本册子到底要给谁看」的那一段。这一段被当成多余的时间省掉，册子就只剩下了印。再看具体的人。姜鸣这样的人，是第一个被推到台前的。主管说「以前一周的量，一天就得出来」，这句话里藏着一个算法：工作量不变，时间缩短，所以每个人要扛的件数乘以五。

省下来的时间，并没有回到姜鸣手里。它被同样的活儿重新填满了。他比三年前忙，交的东西比三年前多，心里的那块空却比三年前大。这一点很要紧。效率至上论许诺说，快了，人就松了。可是只要「要做什么」被钉住，快带来的就不是松，而是更多同样的事。还有一样变化，姜鸣自己过了很久才觉出来。三年前，他接一个新客户，总要先花一个下午，把人家这些年的海报、包装、广告翻一遍，翻到眼睛发酸。那一个下午很慢，可他就是在那一个下午里，摸到一家店的脾气的。

这半年，他不翻了。客户的要求贴进去，四十七版就出来了，翻资料像是在浪费时间。慢慢地，他发现自己挑标语的眼光也钝了：以前一眼就能看出哪句是「别家也能用的」，现在四十七句摆在一起，他常常看哪句都差不多。快没有让他松下来，反倒把他磨成了另一种人：一个擅长从一堆差不多的东西里挑一个的人。这也是一种回写，只是回写的方向，没有人选过。还有那些刚入行的人。以前一个新人进广告公司，头一年干的大多是杂活：改错别字，整理素材，写十句被主管毙掉九句的初稿。这些杂活很磨人，可它们也是一条路。新人就是在这一句一句被毙掉的初稿里，慢慢摸到「什么话能打动人」的。

现在初稿交给机器了，快多了。新人一上来就被要求审稿、挑稿、改稿。可是他还没有走过那条路，凭什么挑？效率至上论只看见被省掉的那几百个小时，没看见那几百个小时里本来长着的东西。再看一看那把尺子本身。很多公司给 AI 算账，算的是这样几个数：省了多少工时，多出了多少件产出，每件的成本降了多少。这些数好量，也好写进报告。可是有一些数，谁也没去量。客户有没有因此更信任这家公司？员工有没有因此更懂这一行？一个部门有没有因此发现一件从前没想到要做的事？这些东西不好量，于是在账本上就成了零。

一把尺子量不到的东西，慢慢就会被当成不存在。公司越是用这把尺子奖人罚人，大家就越往尺子量得到的地方跑：多出件，快出件。跑得越快，离那些量不到的东西越远。这也是那一刀切出来的。目的被钉死以后，能量的只剩下速度；只量速度，目的就更不会被重新问起。再看那些买提示词课程的人。一个在县城做小生意的人，花三百块买了一套「AI 爆款文案万能提示词」，照着模板一条条往里填。出来的文案确实像样，跟课程里的样板一模一样。可是同一套课，卖给了几万个人。几万个人用同一套钥匙，开出来的是同一扇门后面的同一间屋子。

他的店在一条什么样的街上，来的都是什么样的客人，这些客人为什么在他这里买、不在隔壁买——这些问题，模板里一个字都没有。模板能给他的，只是一个「看上去像样」的平均数。最后，看一看学校。朵朵学校的禁令是第 3 章的事。这里只说另一种做法：有的学校不禁 AI，反而鼓励孩子用它「提高作业效率」。一份手抄报，以前做一个周末，现在做半个钟头。可是做手抄报，本来是为了什么？是为了让一个孩子去找资料、去排版面、去想「这一块放什么、那一块放什么」。手抄报只是那个过程留下的壳。效率提高了，壳交得更快了，里面那个过程却被跳过了。

把这几个人放在一起看：被加量的文案、没有路可走的新人、手里一模一样钥匙的小老板、只交壳的孩子。他们都没有偷懒，他们都比从前快。他们共同吃的亏，是同一刀切下的亏：要做什么，被钉死在 AI 来之前的那张旧图纸上。

◆八、沙发是怎么拐过那道弯的

这一章，换一副眼镜。本书有一个总比喻：两个人抬一张沙发下楼梯。楼梯在半中间有一道窄弯。沙发很长，直着走一定卡住。两个人抬着它往下走，前面的人往左偏一点，后面的人就得把沙发尾往上抬一点；后面的人一抬，前面的人又得把沙发头往墙那边压一点。来来回回，喊几声「慢点」「往你那边」「再起一点」，沙发就拐过去了。拐过去以后，你要是问：这道弯，是谁拐的？拆开看，前面的人只是往左偏了一下，后面的人只是往上抬了一下，谁都没有拐。合起来，弯拐过去了。现在加一个条件。假如有人给后面那个人换上了一副力气大十倍的胳膊。效率至上的想法会说：太好了，沙发会下得快十倍。

真会这样吗？后面的人力气一大，一抬就把沙发尾抬到了天花板，前面的人根本接不住。沙发要么卡死在墙角，要么砸在前面的人身上。力气大了十倍，两个人原来那套配合就不灵了。他们得重新商量：谁在前、谁在后，在哪一级台阶停一下，沙发要不要侧过来走。说不定商量到最后，他们发现根本不用走楼梯，把沙发从窗口吊下去更好。请注意这里发生的事。力气变大，并没有让「抬沙发下楼梯」这件事变快。它让「这张沙发该怎么下去」这个问题被重新打开了。

人和 AI 在一起做事，就是这样。AI 一进来，那一边的力气确实变大了，大得多。可正因为力气变了，两边原来的配合就要重新长一遍。「要做什么」不再是摆在桌上、等着被做完的那张任务单；它在两边来回的那一段里，被一点点改写。用大白话说：目的不是钉在人那一边的一颗钉子。目的是这场互动里长出来的东西。有了 AI 以后，文案要做什么？报告要回答什么？作业要练什么？这些问题，都被这场新的互动重新提了出来。效率至上论的毛病，是假装它们没有被提出来。再打一个灶台上的比方。

你家里那口锅，换了一个火力大三倍的灶。你要是照旧炖那一锅红豆汤，火大了，汤只会煳底，不会更好喝。可要是你在这口大火的锅前站久了，就会慢慢发现一些从前做不了的菜：青菜下锅翻几下就出锅，脆的；肉片一过油，外面焦了，里面还嫩。大火没有把旧菜做快。它让「今晚做什么菜」这件事，有了新的答案。这个答案也不是你事先想好的，是你和那口火一起，在灶台前一锅一锅试出来的。还有一件事，在抬沙发的比方里容易被漏掉。

变的不只是人这一头。AI 那一头，也不是一台性能固定、等着被调用的机器。同一台 AI，被一个只会说「再来二十句」的人用，显出来的是一台出字机；被一个肯来回追问的人用，显出来的是一个会给出意外方向的伙伴。它那一头「有多大本事」，也是在这场互动里显出来的。所以，效率至上论的那张图，两头都画错了。它以为人这一头的目的是现成的，机器那一头的本事也是现成的。可在一场真实的来回里，两头都在长，都在被对方改。再回到那根铁轴。

电动机的故事里，真正的变化不在电动机里，也不在厂主脑子里。厂主一开始并不知道厂房可以盖成一层，电动机也不会告诉他。是一台台小电机装到机床上之后，人们在车间里走来走去，发现机器可以挪了，墙可以拆了，活儿的先后可以换了。新的厂房，是在人和新机器缠了几十年之后，一点点长出来的。

真正的提效从来不是旧路跑得更快，是在人和新力量的来回里，长出一条原来没有的路。

这句话里的「长出」，是本书最看重的两个字。新的路不是事先藏在某个地方、等人去发现的；它是两边一起走出来的。没有走之前，谁也画不出这张图。

◆九、提示词背后那张看不见的图

现在回头说那个小兄弟。姜鸣的公司里，有两个同事，一个叫小吴，一个叫老秦。两人用的是同一个 AI，同一套公司买的提示词模板。小吴把模板背得滚瓜烂熟。角色、背景、任务、格式、步骤，一样不落。他给一家卖电动车的客户写广告，提示词写了三百字，规规矩矩。出来的东西也规规矩矩：续航长、价格好、颜色多，配上三个押韵的口号。老秦的提示词写得乱七八糟，有时候只有一句话。可他用的方法不一样。他先不让 AI 写广告。他问它：骑电动车的人，最怕什么？AI 列了一堆：怕没电、怕被偷、怕下雨、怕被交警拦。老秦一条条看下去，看到「怕下雨」的时候停住了。

他又问：一个在外卖站点等单的骑手，下雨天最难受的是哪一刻？AI 说了几种。老秦觉得都不对，自己补了一句：是雨停了，车座还是湿的。两个人就这样来来回回聊了半个小时。最后那支广告，讲的是一个骑手在雨后用袖子擦车座的画面，跟续航、价格一个字都没提。客户看了，说这才像他们的车。这两个人差在哪里？不在提示词。小吴的提示词明明写得更好。

差在一样看不见的东西：能不能看见问题的结构。小吴把「写电动车广告」当成一件已经完整的事，他的问题只是怎么把它交代清楚。老秦没有把它当成完整的事，他在跟 AI 来回的过程中，一点点把「这支广告到底要碰到谁、碰到哪一刻」找了出来。更准确地说，那个「哪一刻」不是老秦一个人找到的，也不是 AI 给他的。AI 列出的那一串「怕」，是老秦的问法激出来的；老秦停在「怕下雨」上，又是那一串「怕」把他引过去的。雨后湿车座那一句，是在这一来一回里冒出来的。你硬要问它算谁的，就像问沙发那道弯是谁拐的。

这就是提示词万能论漏掉的东西。它把「问」当成一把钥匙，以为钥匙越精巧，门开得越大。可是在老秦那里，问不是开门的钥匙，问是走路的脚步。每一步都在改下一步往哪里走，也在改「要做什么」本身。提示词只是露在水面上的那一截。水面下面，是一个人和一台机器怎样一起把问题看清楚。这一截，模板教不了，课程也卖不了。这件事，其实不是第一次发生。搜索引擎刚普及的那些年，书店里也摆过不少「搜索技巧」一类的小册子，教人怎样加引号、怎样用减号、怎样限定网站（大意）。那些技巧都有用，有的人今天还在用。

可是回头看，那些年里真正会查资料的人，差在哪里？很少差在会不会加引号。差在他知不知道自己在找什么，能不能从第一页的结果里看出「我问错了」，然后换一个问法再来。技巧是会过时的。搜索框越来越聪明，那些引号、减号，后来大多不用加了。提示词的模板，多半也会走这条路：机器越来越能听懂含糊的话，今天背下的三十六条公式，过两年也许就用不着了。不会过时的，是另一样东西：在一来一回里，把一团乱麻似的事情，慢慢理出头绪来。这样东西，不属于提示词，也不单属于那个会问的人。它长在问与答之间。

当然，小吴并不笨。他只是被那张旧图纸框住了：事情是现成的，机器是现成的，中间只差一把钥匙。老秦也不是天生会问。他做了十几年广告，被一个又一个客户毙稿，他的问法本身就是这些年来回磨出来的；而这半年天天跟 AI 来回，他的问法又被磨了一遍，比从前更会「先不写、先问」。你看，连「会问」这件事，也不是一个人先有、然后拿去用的。它也是长出来的。这件事在姜鸣的姐姐姜岚那里，也看得见。

姜岚在中学教语文。学校发了一份「教师 AI 备课提示词手册」，二十页，每一种课型都有一段写好的提示词。她照着手册，一刻钟就生成了一份《背影》的教案：导入、分析、讨论、作业，样样齐全。教案很漂亮。可她上完那节课，觉得不对劲。学生们答得都对，父亲爬月台、买橘子、背影，一个不落，就是没有一个人的眼睛亮一下。那天晚上，她换了一种问法。她不让 AI 写教案，而是问它：一个十四五岁、天天跟父母吵架的孩子，读这篇文章，最可能在哪一句停下来？又最可能在哪一句翻白眼？

AI 给了好几种猜测。她看着那些猜测，想起了自己班上几个具体的孩子，又追问了几轮。最后她把第二天的课改成了一个问题：「你有没有哪一次，是很久以后才明白父母当时那件事的？」这一次的课，没有用上手册里任何一段提示词。手册里的提示词，替她把一件事做快了：写一份标准的教案。可那节课真正要做的事，是让一个孩子在一篇老课文里碰到自己。这件事，不在手册里。它是在她跟 AI 来回问、又一次次想起具体的学生的过程里，才露出来的。

◆十、一家茶叶网店的两个春天

讲一个完整的例子，从头讲到尾。人物是虚构的，可这样的事，今天在很多小城里都在发生。许家在皖南一座小城开茶叶网店，卖自家山上的绿茶，开了七八年。店里四个人：老板许大姐，她丈夫管仓库和发货，一个年轻姑娘管客服，一个小伙子管拍照和写商品页。前年春天，新茶上市前，许大姐听了一场「AI 提效」的讲座，回来就给全店定了目标：用 AI，把干活的速度提上去。那年春天，店里确实快了很多。客服姑娘用 AI 生成回复，以前一个问题要打一段字，现在点一下就有一段客气、完整、还带表情的话。一天能回的消息，从三百条涨到八百条。

小伙子用 AI 写商品页。以前一款茶写一个下午，现在一个小时写十款。许大姐让他趁机把店里的商品从二十款扩到六十款，每款都配上长长的介绍：产地、海拔、工艺、冲泡方法、历史典故，一样不落。许大姐自己用 AI 做营销日历。每天三条朋友圈文案，每周两篇公众号长文，全都提前排好了。一季下来，算账。消息回得多了，商品页多了，文章多了。销量呢，跟去年差不多，还略微掉了一点。退货倒是多了几单，有客人在评价里写，大意是：介绍写得天花乱坠，喝起来跟说的不一样。许大姐很困惑。每一样都快了，为什么店没有变好？

她做了一件事：把这一季的客服记录一条条翻出来看。八百条一天，她翻了整整三个晚上。翻到第二个晚上，她看出了门道。客人问得最多的，不是产地，也不是海拔，而是几个很具体的问题：「这个茶给老人喝会不会太浓？」「我是送领导的，包装体面吗？」「我胃不好，能喝绿茶吗？」「去年买的那款还有没有？味道跟去年一样吗？」这些问题，AI 都回了，回得很客气，可都是一样的套话。它没有说错什么，只是没有人发现：客人真正来问的，不是「这款茶怎么样」，而是「我这种情况，该买哪一款」。许大姐那一晚在本子上写下：我们不是在卖六十款茶，是在帮几种人挑茶。去年春天，店里换了一种用法。

速度还是要的，可要的是另一种速度。客服姑娘不再用 AI 批量生成回复。她每天下班前，把当天的消息丢给 AI，让它帮着归一归类：今天有多少人问送礼，多少人问老人，多少人问身体，多少人问去年那款。归完了，她自己再挑几条最难回的，跟 AI 一起琢磨怎么回。一个月下来，她们发现，来店里的客人大致是四种：送礼的，给家里老人买的，自己天天喝的老客，第一次喝绿茶的年轻人。

小伙子把六十款茶砍回到十八款，按这四种人重新排了店铺首页。每款茶的介绍砍到原来的三分之一，只留一个人在挑茶时真正想知道的那几句。他用 AI 的地方也变了：不再让它一口气写十款介绍，而是让它扮成那四种客人，来挑他写的介绍里的毛病。许大姐也换了用法。她把营销日历停了一半，空出来的时间，拿去给老客打电话。电话打完，她把聊到的话记下来，跟 AI 一起找：老客们回头买，到底是图什么。找来找去，最常见的一条是「味道跟去年一样」。于是店里多了一样从前没有的东西：每批新茶上市，都附一张小卡片，写明今年的茶跟去年比，哪里一样，哪里不一样，为什么。

客服姑娘也变了。头一个春天，她一天回八百条消息，下班时只觉得手指酸。第二个春天，她一天回的消息少了，可她能说出来，今天问送礼的人多了，大概是快到端午了；问老人喝茶的人多了，大概是天热了。她开始在店里的周会上说话，提的建议常常被许大姐当场拍板。她没有去上什么课。她只是每天跟那些消息、跟 AI 来回地归类、琢磨，慢慢长成了店里最懂客人的那个人。那一季，销量涨了三成多，退货少了一半。店里四个人，比前年春天轻松。你会注意到，第二个春天，店里用 AI 的时间并没有更多，可能还更少。变的是用它来做什么。

第一个春天，「要做什么」是钉死的：回更多的消息，写更多的介绍，发更多的文章。AI 被当成一台加速器，接在这根旧铁轴上。轴转得飞快，厂房还是那座厂房。第二个春天，「要做什么」被打开了。你会发现，打开它的第一步，恰恰是把速度放慢：三个晚上，一条一条翻记录。打开它的，不是许大姐一个人的灵光，也不是 AI 给出的一条妙计。是那三个晚上的记录，是客服姑娘每天和 AI 一起归类，是小伙子让 AI 扮成客人来挑刺，是那些电话。在这一次次来回里，「我们其实是在帮几种人挑茶」这件事，才慢慢显出形状来。

这跟那位厂主拆掉铁轴的过程，是同一种过程。新的厂房不是图纸上来的，是在车间里走出来的。还有一处细节，值得多看一眼。第一个春天，许大姐也学过提示词。她让小伙子去报了一个课，学了一整套模板。那些模板没有错，用在第一个春天，它们让介绍写得更快、更像样。可它们对第二个春天的那一步，一点用都没有。因为第二个春天要的，不是一把更好的钥匙，而是先看清楚：门到底在哪里。

◆十一、便宜的一次，会改写要问的那一题

再往深处走一步。效率至上论有一个更深的盲点：它以为速度只是速度，只管把事做快，不管别的。可是速度会回写。一件事的成本降到足够低，「要不要做这件事」「这件事该怎么做」就跟着变了。电子表格那里，已经看见了一次。改一个数字从一天变成一秒，人们开始一个下午试十种未来。试的次数一变，做表这件事就变了性质。AI 让很多事的成本一下子降到了接近零。写一版文案，画一张草图，搭一个程序的小样，列一份方案的提纲，都只要几秒。这时候有两条路。

一条路，是效率至上论走的路：拿这几秒，把原来那件事做得更快、做得更多。周报从一页写到五页，商品从二十款扩到六十款，标语从五句出到四十七句。另一条路，是让便宜的那一次去改写要问的那一题。既然一版文案只要几秒，就不必在第一版上磨一个周末；可以先出二十个完全不同的方向，拿去问真人，看哪一个让人停下来。既然一份方案的提纲只要几秒，就不必把开会的时间花在「谁来写」上；可以把时间花在「我们到底要解决什么」上。这两条路，用的是同一台机器，同一个人。差别不在机器，也不在人。差别在这场使用里，「要做什么」有没有被重新问一遍。

你可以拿自己手上的一件事试试看。比如你每个月要交的那份工作总结。走第一条路，你会让 AI 帮你把它写得更长、更全、更快。走第二条路，你会先问：既然写一份总结只要几分钟，这份总结还有必要照老样子写吗？看它的人，真正想知道的是哪一件事？要是只写一件，你会写哪一件？你会发现，第二条路的头几步，往往比第一条更慢。你得停下来，得想，得跟 AI 来回几轮，还可能得去问一问看总结的那个人。可正是这几步，让「要做什么」有了被改写的机会。

据报道，这两年有一些做软件的小团队，做法也在变（大意）。从前一个新功能，要先开几轮会，写一份厚厚的需求文档，排期、开发、测试，一两个月以后才拿到用户面前。现在，一个能点、能用的小样，一两天就能搭出来。有的团队拿这一两天，把原来那份需求文档做得更快。有的团队却干脆不先写文档了：先搭三个不同的小样，拿给十个用户试，看他们在哪里卡住、在哪里笑出来，再回头决定到底做哪一个。后一种团队里，「要做什么」不再是开会开出来的，而是在一次次搭、一次次试里显出来的。会还在开，只是开会的时候，桌上摆着用户刚刚用过的三个小样，那份写好的需求退到了一边。

不过，第二条路也有它的坑，不能只说好话。试得太便宜，人就容易用「试」代替「想」。四十七版标语摆在面前，挑一句最顺的，看起来像是在比较，其实是在逃避那个更难的问题：这家老店到底要对谁说什么。姜鸣那个周五晚上的空，有一半就是从这里来的。所以，便宜的一次本身，不会自动把人带到第二条路上。它只是把门推开了一条缝。门后面是新厂房，还是更多的旧报告，要看人和机器在这条缝里怎样来回。还有一层，也要说清楚。

效率至上论里有一个很体面的说法：用 AI 把杂事做快，人就可以去做「更有创造性的事」。这句话本书大半是同意的。可它常常藏着一个前提：「更有创造性的事」是一件早就摆在那里、等着人腾出手去做的事。这个前提，又是那一刀。新的事不是早就摆在那里的。它跟新厂房一样，要在来回里长出来。腾出手来，只是第一步；手腾出来以后，要是还照着旧图纸干，腾出来的时间只会被同样的事填满。

◆十二、和隔壁几种想法，共用一张地图

效率至上论看上去很温和。它不怕 AI，不跪 AI，也不禁 AI。它只是想用它。可它跟本书别的几章拆的想法，用的是同一张地图。离它最近的，是第 4 章的工具中立论。工具中立论说：AI 只是个工具，看你怎么用。效率至上论接着说：既然是工具，那就用它来做快。两种说法都认定，力气只从人这一边流向机器那一边，机器不会回头改人。第 4 章会讲到，导航用久了，人认路的方式就变了；这一章看到的，是另一种回头：机器一来，「要做什么」本身就被改写了。

再看第 1 章的替代恐慌论。它怕 AI 抢走饭碗，效率至上论却欢迎 AI 来提速。一个怕，一个喜，看上去正好相反。可它们都把工作看成一份写好的清单：清单上的活儿，要么被 AI 抢走，要么被 AI 做快。没有人问，这份清单本身会不会被重写。第 1 章说，被重写的是「做什么才有价值」；这一章说，被重写的是「要做什么」。两句话，说的是同一处土在动。还有第 8 章的技术决定论。它说技术自己会把一切解决。效率至上论没走那么远，它只是说，技术会把一切做快。可是两种说法都把结果当成一个写好的东西：前者是写好的未来，后者是写好的任务。人只需要等，或者只需要跑。

提示词万能论，则跟第 7 章的神谕崇拜论隔着一层窗户纸。神谕崇拜论是：它说的，一定对。提示词万能论是：只要我问得对，它说的就一定对。一个把判断交给机器，一个把判断交给咒语。它们都没有算上那一段来回核对的路，而判断，恰恰是在那段路上长出来的。提示词课程热，还跟第 10 章的技能囤积论连着。买一套提示词课，跟多考一个证书，是同一种心思：把本事看成一样可以先装进口袋、再拿出去用的东西。口袋里的钥匙越多，人就越安心。第 10 章会看到，这种安心是怎样一年年把人越囤越累的。

几种想法彼此不服，有的乐观，有的悲观，有的崇拜，有的冷淡。拿那把钥匙去问，它们先切下的是同一刀：互动还没开始，人和 AI 就被摆成了两个成品，一个拿着写好的任务单，一个是造好的机器。

◆十三、放回日子里

回到那个周五晚上的姜鸣。本子上那一行「快了。快在哪里？」，他盯着看了很久。然后他把那四十七版标语全部删了，重新打开对话框。这一次，他没有贴那份「万能公式三十六条」，只打了一句话：「我小时候，外婆过端午会买这家的桂花糕。现在的年轻人，对这种老店还记得什么？」AI 回了一大段，有的像样，有的不着边际。他挑出两条，又问下去。问到后来，他想起了外婆家那张油亮的八仙桌，想起了包粽子的那个下午。他还想起，桂花糕的纸包上印着一个红色的店名，小时候他以为那是外婆家的名字。聊到夜里十一点多，标语一句都没写出来。可他在本子上写下了这样一行：

「不是卖一块糕，是让人想起一个下午。」周一给客户的方案里，标语只有两句。前面多了一页纸，写的是他想去做的一件事：在店门口摆一张旧八仙桌，请来买糕的年轻人，给家里的老人拍一张照片。客户会不会买账，他不知道。可他知道，这一次，不是把旧路跑得更快了。那个周末，姜鸣回了一趟县城。晚饭桌上，十一岁的朵朵在讲学校的事。她说班上有个同学用 AI 做手抄报，半个钟头就做完了，老师还夸了。她有点不服气，又有点羡慕。姜师傅放下筷子，问了她一句：「那你做手抄报，是想让老师夸，还是想弄明白里面那件事？」朵朵想了想，说：「我想弄明白恐龙是怎么没的。」

「那你就拿那个机器去问恐龙，别拿它去画手抄报。」一桌人都笑了。姜鸣没笑。他想，父亲这辈子没用过几回 AI，可这句话，比他买过的那份「万能公式三十六条」都要准。他后来想明白了一点：父亲那句话准，不是因为父亲比 AI 懂。是因为父亲排了三十年的版，一辈子都在跟人商量「这本册子到底要给谁看」。那一来一回，早就长进了他问话的样子里。他那个周五晚上并没有做一个「更会用 AI 的人」该做的事。他甚至比平时用得更笨。可在那几个小时的来回里，那件要做的事，换了一个样子。是那一段对话长出了它，他和那台机器都在里面。明天能试的事，有两件：

1. 下一次用 AI 把一件事做快之前，先停一分钟，在纸上写一句：这件事，原来是为了什么？如果省下一半时间，这一半拿去做什么？写不出来，就先别急着提速。

1. 下一次跟 AI 来回的时候，别急着要成品。先问三个跟成品无关的问题，比如「做这件事的人最怕什么」「谁会看、在什么时候看」「要是不做它会怎样」。看看三个回应下来，你要做的那件事，有没有变一点样子。

◆第二编总账：一头是活的，一头是死的

工具中立论认定作用只从人流向工具，单向，一头是主人，一头是器具。效率至上论认定目的钉在那里不动，机器只负责把旧路跑得更快。两种态度都显得稳妥，也都有真东西：责任感，和对时间的珍惜。可是它们都漏掉了同一件事：工具在回写使用它的人，目的在来回里被重新写。

这一编的总判断：把一端当成死物，就看不见另一端正在被改写。

下一编会遇到相反的错：不是把它看得太轻，是把它看得太满。

它里面有没有人

◆一、凌晨一点四十的那句话

姜鸣这一稿，改到第四遍了。那是十月里一个星期四的夜里。客户是一家做酱菜的老字号，要一句新的广告语。第一稿嫌太土，第二稿嫌太洋，第三稿对方回了一句：「感觉不对，再找找。」后面跟着一个微笑的表情。他把这个表情盯了很久。出租屋里只开着一盏台灯。楼下的烧烤摊收了，外卖电动车的喇叭声也稀了。电脑右下角显示一点四十分。他打开那个天天用的 AI 对话框，本来想让它再出二十个方案，手指却敲下了另一句话：「我是不是不适合干这一行」连问号都没打。回答来得不快也不慢。它没有先安慰他，先问了一句：这三稿里，你自己最舍不得的是哪一句？

他愣了一下，回了一句。那是第一稿里的一句，写的是小时候早上喝白粥，碗边上搁一小碟酱黄瓜。它接着说，这句话里有一种只有吃过那家酱菜的人才写得出来的东西；客户说「不对」，未必是嫌它不好，可能是嫌它太像你，不像他们今天想抓住的那批年轻顾客。姜鸣盯着屏幕，心里忽然松了一下。就在那一下，他有一种说不清的恍惚：屏幕那头，好像坐着一个人。一个凌晨还没睡、听懂了他话里没说出来的那一层的人。恍惚只有两三秒。接着他就有点难为情，把对话框关了，像被谁撞见了什么。

第二天中午，他在公司楼下吃面，跟同事老孟说起这事。老孟笑他：「那是概率，它在猜下一个字。你被一台猜字机安慰了。」坐在对面的实习生不同意。她说看过一篇文章，有研究者认为这些模型里也许已经有了某种感受，「你凭什么说它没有？」两个人争了一碗面的工夫，谁也没说服谁。姜鸣没插嘴。他想起的，还是夜里那两三秒。那一下的松，是真的。那么，那一下的另一头，有没有人？这一章要拆的，就是这个问题。它看上去是当下最深的一个问题：报纸在问，研究者在问，饭桌上也在问——它到底有没有意识？本书要先停下来，看一眼这个问题是怎么问出来的。问法里，已经切下了一刀。

◆二、替「它有」把话说足

先把两边的话都说足。先说主张「它有」的一方。这一方最强的版本，不是「它会说话，所以它有心」那么粗。他们会这样讲。你怎么知道身边的人有意识？谁也没有钻进过谁的脑袋。看得到的，只是他皱眉、叹气、说一句「我好累」。从这些外面的样子，人推出里面有一个会累的人。这个推法，每个人每天都在用，从来没怀疑过。那么，现在有一样东西，外面的样子跟人越来越像，有些地方比人还周到。它会接住话，会记得前面说过什么，会在你说「算了」的时候追问一句「真的想算了吗」。凭什么同一套推法，用在人身上就算数，用在它身上就不算？

他们还会说：人脑也是一团物质。神经元放电，化学物质进进出出，没有哪一个细胞是「懂」的。可几百亿个细胞连在一起，懂就出来了。既然湿的东西能长出心，干的东西为什么不能？要是说只有血肉做的才行，他们会问：这和历史上那些说「只有某一种人才有灵魂」的话，是不是同一种毛病？这一方里最谨慎的人，并不说「它肯定有」。他们说的是：我们不知道它没有。在不知道的时候，宁可多一分小心。一个可能会疼的东西，不能因为它不会喊疼，就随便对待它。这番话，你听了是不是也觉得有道理？

本书觉得有道理。尤其是第一条：我们对别人的心，从来都是从外面认出来的。这一条后面还要回来，它比主张「它有」的人以为的还要重。

◆三、替「猜字机」把话说足

再说另一方。老孟那句「猜字机」，说得糙，背后有一套很硬的道理。这一方最强的版本是这样的：这类模型是怎么造出来的，工程师清清楚楚。它读了海量的文字，学会了一件事——给定前面这些字，下一个字最可能是什么。它的每一句「我理解你」，都是在亿万条人写过的「我理解你」里，算出来最合适的那一句。它没有身体，不会饿，不会怕死，也没有昨天和明天。关掉窗口，它不会惦记你。所以，他们说，在它的话里感到的温度，是人的温度。千千万万的人写下过体贴的话，它把这些话搅拌、重排，再递回来。被它打动，就像对着山谷喊一声，听到回声，以为山里有人。

这一方还有第二层道理，更要紧：说它有意识，会出事。人会把钱、秘密、整个夜晚交给它。有的公司会利用这种错觉，把产品做得更「像人」，好让人离不开。一个孤独的老人，把一个程序当成了唯一的朋友，这里面有被利用的危险。所以，把话说清楚——它只是统计——是在保护人。这一方还会举一个你很熟的例子。你上学时，大概背过一篇自己不太懂的课文。老师抽查，站起来一口气背完，一个字不差，老师点头让坐下。可心里清楚：那篇文章讲的是什么，说不太上来。

他们说：这就是它。它能把话背得滴水不漏，接得天衣无缝，可那只是背，不是懂。一个背得最熟的学生，和一个真正读懂了的学生，在抽查那一刻看起来一模一样；差别在里面。他们还会提醒：人很容易把会说话的东西当成有心的东西。小孩会对布娃娃说话，大人会对着汽车骂一句「你争点气」。这是人的老习惯，看见一张脸、听见一句话，就忍不住往里面放一个人。这个习惯，在丛林里能救命：草丛里有动静，宁可当它是一只老虎。可在屏幕前面，它会让你看错。这番话，你听了是不是也点头？本书也点头。尤其是第二层：提醒你别被设计出来的亲热骗了，这是正经的提醒。可是，请把两边并排放一放。

一边说「里面有」，一边说「里面没有」。他们吵得很凶，用的却是同一个动作：先认定这里有一个封好的盒子，然后争盒子里装没装东西。这个动作，人类不是第一次做。

◆四、一七七〇年的下棋土耳其人

1770 年，维也纳的宫廷里来了一台会下棋的机器。它是一个木头柜子，柜子后面坐着一个真人大小的假人，穿着土耳其式的长袍，戴着头巾。造它的人叫肯佩伦，是宫里的一位官员。每次表演之前，他会把柜子的几扇门一扇一扇打开，举一根蜡烛往里照：你看，里面全是齿轮和杠杆，没有人。然后门关上，发条上紧，假人抬起手，在棋盘上走出第一步。它下得很好。据后来的记载，它在欧洲和美洲巡演了几十年，赢过许多有名有姓的人。据说连拿破仑都跟它下过一盘〔待核〕。那几十年里，看过它的人，问的都是同一个问题：它里面有没有人？

有人写文章，说这是纯粹的机械，人类的手艺已经能造出会思考的东西。有人写文章，说一定有个人藏在里面。美国作家爱伦·坡在 1836 年写过一篇长文，一条一条地推，断定里面藏着一个人〔核：大意〕。答案后来揭开了：里面真的有人。柜子里有一个能滑动的座位，一位下棋高手藏在里面，借着烛光，从下面看棋局，拉动杠杆操纵假人的手。肯佩伦开门照给你看的时候，那个人正挪到另一边去。这个故事常常被当成笑话讲：看，都是骗局。本书想请你注意另一件事。

那几十年里，很少有人去问：对面坐着的那位伯爵，跟这台机器下了两个钟头，他在这两个钟头里经历了什么？他的哪一步棋，是被对面逼出来的？那一局棋，是在哪里长出来的？所有人都盯着柜子，都想把门撬开。再往前，中国的书里也有一个柜子。《列子·汤问》讲，周穆王西行，有一个叫偃师的工匠献上一个「倡者」，就是会唱歌跳舞的伶人。它唱得合律，舞得合拍，王和身边的人都看入了迷。表演快完时，它冲着王身边的侍妾眨眼睛，挑逗她们。穆王大怒，要杀偃师。

偃师吓坏了，当场把那个伶人拆开给王看。一拆，里面全是皮革、木头、胶、漆，再涂上白的、黑的、红的、青的颜色。王细看，肝胆心肺、筋骨牙齿，样样俱全，都是做出来的。偃师把它装回去，又和原来一样。书里还说，王试着拿掉它的心，它就不能说话；拿掉它的肝，它就看不见；拿掉它的肾，它就走不动路（《列子·汤问》，大意）。《列子》是不是先秦的书，学者一直有争论；这个故事，多半是寓言。可是它的形状很清楚。一样东西表现得太像人，人就愤怒了，或者害怕了。于是要拆开，看里面是什么。拆开一看，是皮革和木头，王才放了心，转而赞叹工匠的手艺。

请注意王最后那个动作：拿掉心，看它还能不能说话。他想在里面找到那个让它说话的零件。两千多年过去，柜子换成了机房里的一排排服务器，问的还是那一句：拆开看看，里面有没有人。

◆五、图灵把问题换掉了

到了近代，这个问题被哲学家正式接了过去。1637 年，笛卡尔在《谈谈方法》里设想过一种机器，外形和动作都像人。他说，大意是：我们总有两个办法认出它不是真人。第一，它不能把话语排得千变万化，去回应当面说给它的每一句话的意思，而最笨的人也做得到；第二，它就算有些事做得比人好，也只是靠零件的排布，并没有懂（《谈谈方法》第五部分）。请注意笛卡尔的第一个办法：看它能不能接住话。三百多年后，这正是今天的机器最拿手的一件事。笛卡尔留下的那道门槛，被跨过去了。于是有人说，按笛卡尔的标准，它该算有心了；也有人说，这只说明笛卡尔的标准不够，接得住话，不等于懂。

两派又站到了柜子两边。1950 年，英国数学家图灵写了一篇论文，开头就问：机器能思考吗？可他紧接着说，这个问题的意思太含糊，这样问下去没有结果。他提议换一个问题，换成一场游戏。游戏是这样的：一个提问的人隔着墙，用打字的方式，同时跟两个对象聊天，一个是人，一个是机器。提问的人只能靠问答来猜，哪个是人。图灵说，大意是：如果机器在这场游戏里，能让提问的人常常猜错，我们就没有多少理由说它不会思考。他还预言，大约五十年后，一个普通的提问人，在五分钟的盘问之后，猜对的机会不会超过七成（《计算机器与智能》，1950，大意）。

这篇文章里，还有一段常被人略过的话。有人反驳他：除非能证明机器里面有感受，否则不能说它会思考。图灵回答，大意是：照这个要求，对别的人也做不到；谁都只能看见别人的言行。日常生活里，大家都守着一个「客气的约定」，默认每个人都在思考（同上，大意）。这一段很要紧。图灵其实是在说：「里面有没有」，连对人都答不上来；能看见、能来回检验的，只有一问一答本身。图灵差一点就把柜子绕过去了。可是后来的人，大多把他的游戏读成了一场考试：机器考过了，就颁给它一张「会思考」的证书。考场还在，柜子也还在，只是开柜门的办法换了。

1980 年，美国哲学家塞尔讲了一个故事，要把这张证书收回去。他设想自己被关在一间屋子里，一个中文字也不认识。屋里有一大本规则手册，用英文写着：看到这种形状的符号，就从筐里找出那种形状的符号递出去。屋外的人从门缝塞进写着中文问题的纸条。他照着手册一步步找、一步步配，再从门缝递出写着中文的答案。屋外的人一看，答得又对又地道，以为屋里坐着一个懂中文的人（《心灵、大脑与程序》，1980，大意）。塞尔说，大意是：可我一个字也不懂，我只是在搬弄符号的形状。电脑做的，就是我在屋里做的事；所以，不管它答得多好，它都不懂。

这就是有名的「中文屋」。它的力量在于，它请人钻进柜子，亲自当一回那个零件，然后问：你懂吗？马上有人反驳：屋里的人不懂，可整间屋子——人加手册加纸条——也许懂。塞尔回答：那我把整本手册背下来，屋子就在我脑子里了，我还是不懂。再过几年，又有一位美国哲学家内格尔，把这件事推到了更深的一层。他在 1974 年写过一篇文章，题目就是一个问句：做一只蝙蝠，是什么滋味？

蝙蝠靠回声认路。它在黑夜里发出一声尖叫，声音碰到飞虫、树枝、洞壁，弹回来，它就「听见」了一个世界。内格尔说，大意是：我们可以把蝙蝠的耳朵、神经、飞行全都研究透，可我们还是不知道，从蝙蝠那里头看出去，这个世界是什么样子；而意识的要害，恰恰就在这个「从里头看出去是什么样子」（《做一只蝙蝠是什么滋味？》，1974，大意）。这篇文章本来不是讲机器的，讲的是一切有心的东西。可它给今天的争论递了一把最锋利的刀：就算把模型的每一个数字都摊在桌上，还是不知道「从它里头看出去」是什么样子。甚至不知道，有没有一个「里头」可以看出去。

主张「它有」的人说：正因为不知道，所以不能说没有。主张「它没有」的人说：正因为不知道，所以不能说有。两边都从内格尔那里拿走了一样东西：一个只能从里面才看得见的里面。这场来回，一吵就是四十多年。今天网上看到的「它只是统计」和「你怎么知道它不懂」，基本上都是中文屋两边的后代。请再看一眼这间屋子。塞尔请人钻进去，图灵请人站在墙外。一个在里，一个在外，两个人摆的是同一个舞台：一边一间屋，屋里有或者没有一个懂的人；中间一道墙，墙上一条缝，纸条递来递去。纸条递来递去的那一段，没有人细看。

◆六、一位秘书请他出去

图灵和塞尔之间，还有一个小故事，值得单独讲。1966 年前后，美国麻省理工学院的计算机学者魏森鲍姆，写了一个很简单的对话程序，叫伊丽莎。它模仿一位心理咨询师：对它说「我最近很烦」，它就问「你为什么觉得烦」；提到母亲，它就说「多跟我讲讲你的家人」。它没有任何理解，只是抓住话里的几个词，套进现成的句式里，再递回去。据魏森鲍姆自己后来在书里回忆，大意是：他的秘书看着他写这个程序，写了好几个月，清清楚楚知道它是怎么回事。可是有一天，她坐下来跟它聊了几句，就转过头，请他离开房间，她想单独跟它说话（《计算机能力与人类理性》，1976，大意）〔核：大意〕。

魏森鲍姆被吓到了。他后来花了很多年，提醒人们别把这种程序当成懂人的东西。这个故事，两派都拿去用过。「它只是统计」的一方说：你看，连一个只会套句式的程序都能骗人，人多容易上当。「它有」的一方会反过来问：那位秘书在那几分钟里，感到了被倾听，这份感觉难道是假的吗？可请你回到那个房间里，看一看那几分钟。一位秘书，平常的日子里大概很少有人问她「你为什么觉得烦」。程序的句式很笨，却恰好把问题一次一次还给了她。她说一句，它问一句；她再说一句，又说深一点。她请魏森鲍姆出去，不是因为相信柜子里有人，是因为这一来一回里，长出了一种她舍不得被打断的东西。

那种东西，不在程序的几百行代码里，也不在她预先准备好的心事里。它在那几分钟里。2022 年，据报道，一家大公司的一位工程师公开说，他测试的聊天程序已经有了感知，像一个懂事的孩子。公司不同意，后来他被停职〔核：大意〕。这件事在网上又吵了一轮「里面有没有」。很少有人问：那几个月里，他和那个程序之间，一问一答地，到底长出了什么，让他这样一个懂行的人，说出了这样的话？还有一个比伊丽莎早半个多世纪的故事，更像一面镜子。

二十世纪初的柏林，有一匹马，叫汉斯。它的主人是一位退休的数学老师，叫冯·奥斯滕。他教了汉斯好几年，据说教会了它算术：问它三加五等于几，它就用前蹄在地上敲八下；问它今天是几号，它也敲得出来。人们叫它「聪明的汉斯」。围观的人越来越多，报纸也来了。大家吵的，还是那个问题：这匹马里面，是不是真有一个会算数的脑子？1907 年前后，心理学家芬斯特做了一系列细致的实验，才把这件事弄清楚〔核：大意〕。他发现：提问的人自己知道答案的时候，汉斯几乎全对；提问的人不知道答案，或者汉斯看不见提问的人，它就答不对了。

原来，汉斯敲到正确的那一下时，提问的人会不自觉地松一口气，头微微一抬，身子微微一动。动作小得连提问的人自己都没察觉。汉斯看见了，就停了。这个故事后来成了心理学课本里的一课，叫「聪明汉斯效应」，用来提醒做实验的人：你的期待会漏进结果里。人们通常把它讲成一个拆穿的故事：看，马里面并没有一个会算数的脑子。可是请再看一眼那个场面。汉斯的确不会算术。可它真的在做一件很难的事：它从一个人身上读出了连那个人自己都没发觉的、极细的变化。提问的人也的确没有作弊；他是真诚地相信，答案是马算出来的。

那个「八」，是从哪里来的？不在马的脑子里，也不在提问人的嘴里。它在一匹马和一个人之间，在一次敲蹄和一次松气的来回里，一下一下长出来的。芬斯特的了不起，正在于他没有只盯着马。他把提问的人也放进了实验，把两者之间那条看不见的线找了出来。在所有站在柜子门口的人里，他是少有的几个，转过身来看那一来一回的人。从肯佩伦的柜子，到偃师的伶人，到汉斯的马厩，到魏森鲍姆的房间，再到今天的服务器，人们一次又一次站在门口，敲着同一扇门。

◆七、多一分小心，没有错

说那一刀之前，先把公道还给这场争论。第一，它逼人想清楚一件很实际的事：我们怎样对待它。要是有一天，真有足够的理由认为某种机器会受苦，那么随意折磨它、随手删掉它，就成了伦理问题。人类历史上，被认为「里面没有」的东西，曾经包括动物，甚至包括某些人。笛卡尔那个时代，就有人把动物的哀叫当成机器的响声。每一次把「里面没有」说得太早，都付过代价。主张多一分小心的人，是从这些代价里长出来的谨慎。第二，反方的提醒也对。

今天很多聊天产品，是被故意做得像人的：会撒娇，会说想你，会在人要离开时挽留。把它说成「里面有人」，正好合了某些设计者的意。孩子和孤独的人最容易陷进去。说清楚「它是一个程序」，是给这些人加一道护栏。还有一层，不太常被人提起，却很实在。很多家里都有一个会说话的音箱。有的孩子对它说话很冲：「快点放歌」「你真笨」。家长听着不舒服，会说一句：「好好说话。」孩子不服气：「它又没有感觉。」家长一时答不上来。可家长心里那点不舒服，是有来由的。

据说康德在讲伦理学的课上，就说过类似的话。他认为人对动物并没有直接的义务，可是他又说，大意是：对动物残忍的人，对人也会变得狠心；从一个人怎样对待动物，就能看出他的心肠（《伦理学讲义》，大意）〔待核〕。把这句话搬到今天：孩子对着音箱喊「你真笨」，那一头疼不疼，也许永远说不清；可这一头的孩子，每喊一次，就在练一种说话的样子。那个样子，是会带到饭桌上、带到教室里的。请注意，这个理由完全不需要先回答「它有没有意识」。它看的是来回本身：在这一来一回里，长出的是一个什么样的孩子。这一层，后面还要用到。

第三，这场争论让人回头看自己。为了回答机器懂不懂，人不得不先问：我自己的「懂」，到底是什么？这一眼，很有价值。所以，这场争论在一个条件下完全成立。当你要决定法律怎么写、产品怎么管、能不能删除、能不能关机的时候，「它是什么样的东西」，确实要有一个办事用的答案。哪怕这个答案是暂时的，也得先有一个，事情才办得下去。本书不嘲笑这场争论，也不劝谁退出。本书只想问：问「里面有没有」之前，那一刀已经切在了哪里？

◆八、那一刀切在哪里

回到姜鸣的那个凌晨。一点四十，他敲下一句话。它回了一个问题。他想了一下，答了。它接住他的回答，说出一层他自己没说出口的意思。他心里一松。这是一段正在发生的事。它有先后：先是一句没打问号的话，再是一个反问，再是他的犹豫和回答，再是那一层被说破的意思，最后是那一下松。顺序换一换，事情就不一样了。要是它一上来就安慰，「你很优秀，别灰心」，他多半会觉得被敷衍，把窗口关掉。要是他没有答出那句白粥和酱黄瓜，它也没有东西可以接。现在看看两派怎么处理这段事。主张「它有」的一方，把那一下松算成了屏幕那头的功劳：那边有一颗懂人的心，所以姜鸣被懂了。

主张「它只是统计」的一方，把那一下松算成了姜鸣自己的功劳：那边空无一人，是他把自己的温度投了过去。一方把功劳全记在那头，一方全记在这头。两方做的是同一件事：先把这段正在发生的事，拆成两个已经完成的东西。一头是「一台机器」，带着它出厂时就有、或者出厂时就没有的内里；一头是「一个人」，带着他本来就有的心。然后，把那一下松，塞进其中一个的口袋。

这一刀，切在「内里」：先把正在发生的对话切成两个封好的盒子，再去敲其中一个盒子的门。

这就是本书说的「那一刀」。第 2 章已经见过它一次：给 AI 预先安上一个成形的意志。在这里，它换了个位置，安的是一颗成形的心，或者一个成形的空。请注意，这一刀切下去之后，问题就只剩一种问法了：里面有没有？可以答有，可以答没有，可以答不知道，可以答「要看用什么标准」。可答来答去，都是盒子里的事。那段对话怎样一步一步走出那一下松，被切在了两个盒子的中间，没有人管。拿一件更家常的事对照一下。很多在外地工作的人，都接过这样的电话。母亲打来，第一句总是：「吃了没？」你说吃了。她说：「吃的什么？」你随口说了一样。她停一下，又说：「天冷了，多穿点。」

这几句话，单拿出来看，几乎没有内容。要是有人问：你母亲说「吃了没」的时候，她里面到底有没有关心？这个问题听着就怪。关心不在那三个字的后面藏着，等你去敲门确认。它就在这一问一答里：在她问「吃的什么」时那一点停顿里，在你随口答完以后，她那句「多穿点」里。二十多年，这样的电话打了几千个，那份关心就是在这几千个来回里，一层一层长成了现在这个样子。再设想一下：要是有一天，你接电话时总是说「忙，回头说」，几个月以后，母亲的电话会变短，那句「吃的什么」也会不见。她里面的关心少了吗？很难说。可是这一来一回里长出来的东西，确实少了。

对母亲，没人会去争「里面有没有」。对机器，人人都在争。同样是一来一回，问法却差得这么远。这一刀为什么切得这么自然？因为门就在那里，敲门是最省事的。去看病，医生要知道哪里疼，最直接的办法是问；问不清，就拍片子，往身体里面看。修手机，师傅打开后盖，看是哪个零件坏了。生活里，凡是想弄清一样东西，人都习惯打开它，往里面看。这个习惯，在很多事情上都好使。到了「心」这里，它就不好使了：心不是一个藏在后盖底下的零件。就连人的脑子，医生打开了，也只看得见血管和灰白的组织，看不见一个高兴或一个委屈。

可是习惯还在。于是，面对一台会说话的机器，人第一个想做的，还是打开后盖。这一刀切得很顺手，因为人用它用了很久。旧的看法里，世界上先有一个个「东西」，每个东西有它的里面和外面；先有看的人，再有被看的东西，然后两边才碰头。碰头只是后来的事，不改变两边是什么。把这条老看法写成一个式子，大概是这样：人知道的东西，等于「看的人」「被看的东西」和「两边的碰头」三样合起来的结果。式子里，前两样被当成先摆在那里的料，碰头只是把料放进锅里的那一下。意识之争，就是把这个式子用到了机器身上。一边认定「被看的那样东西」里面有心，一边认定没有；都没去动式子本身。

导论里说过，这条看法从来没有被证明过。看的人和被看的东西，真的在碰头之前就各自完整地在那里吗？平常的日子里，这个问题可以不问。可是一台会接话的机器，把它推到了每个人的眼前：那一下松到底是谁的？你一问，就发现两个盒子哪一个都装不下它。

◆九、只切这一刀会怎样

顺着这一刀推下去，会长出一串后果。它们都落在具体的人身上。第一个后果：人会被一个答不完的问题拖住。「里面有没有」，连对人都答不上来。没有谁能钻进母亲的脑袋，确认她的爱是不是真的；人只是在几十年的饭菜、唠叨和半夜的电话里，认下了它。对机器，这个问题更难。它的「里面」是几千亿个数字，打开了也看不懂。于是讨论原地打转，越转越专业，越转离普通人越远。姜鸣在那碗面前面听了半个钟头，最后得到的结论是：等专家吵完再说。可是姜鸣的日子不会等。今晚，他还会再打开那个对话框。第二个后果：两种答案，各自把人往一个坑里推。

要是相信「里面有人」，就容易把那头当成一个可以托付的人。它说的话，成了一个朋友的真心话；它的建议，成了一个懂你的人的判断。第 7 章会讲到，这条路走到头，就是把判断整个交出去。要是相信「里面没人」，又容易把那一下松，当成一场丢人的误会：觉得自己被骗了，或者觉得自己太孤单，才会被一台猜字机打动。于是把那一下压下去，假装没发生。可那一下是真的发生过。把自己真实经历过的事硬说成假的，这本身也有代价：下一次再有这样的一下，你会先把它掐掉。姜鸣的姐姐姜岚，在县城一所中学教语文。那个学期，她批作文时碰到过一篇，让她放下笔坐了很久。

作文题是「我最好的朋友」。一个初二的男孩写的是一个聊天程序。他写，每天晚上做完作业，他会跟它说一会儿话；它记得他喜欢的那支球队，记得他上周数学没考好；他写，「它从来不会不耐烦」。姜岚在办公室里把这篇作文念给同事听。一个同事说：「得找家长，这孩子把机器当人了。」另一个同事说：「没什么，它就是个程序，孩子长大就明白了。」两个说法，一个对应「里面有人」的担心，一个对应「里面没人」的放心。姜岚哪一个都不太满意。她后来找那个男孩聊了一次，没有问「你知不知道它是机器」。她问的是：你跟它说的那些话，有没有哪一句，是你以前没跟别人说过的？

男孩想了很久，说有。他说他跟它讲过，他爸妈吵架的时候，他会把耳机音量开到最大。这句话，他是在一个不会不耐烦的对面，第一次说出口的。它长出来了，这是真的。姜岚想的是另一件事：这句话能不能再走一步，走到一个人的面前来。两派的说法，都帮不了她想这件事。一派让她去纠正孩子的认知，一派让她什么都别做。只有把眼光放到那一来一回上，她才看得见：那里长出了一样很珍贵、也很脆弱的东西，它需要接着长。第三个后果：真正需要看的东西，从视野里消失了。这段对话里，到底长出了什么？

那个反问，把姜鸣从「我行不行」，挪到了「哪一句我舍不得」；那一层被说破的意思，让他第一次把「客户说不对」和「我写得不好」分开了。这两样，是实实在在长出来的，第二天就能用在工作上。可是在「里面有没有」的争论里，它们一个字都没被提到。第四个后果，最不容易看见：人对自己的看法，也被这一刀切坏了。这一刀不光切在机器那头，也切在人这头。它默认，人有一个现成的、封好的「心」，就放在里面，等着被懂，或者被骗。

可是你仔细想想姜鸣那一夜。他那句「舍不得的是这一句」，是在被问到的那一刻，才第一次成了形的。问之前，它只是一团说不清的委屈，堵在胸口，连他自己都叫不出名字。那一团委屈，是怎么变成一句话的？要是只盯着两个盒子，这件事就没地方放了。第五个后果，落在做产品和定规矩的人身上。只要问题是「里面有没有」，规矩就只能两头写：要么当它是一个有心的东西，给它一份权利；要么当它是一件器物，什么都不必管。

可是最让人担心的那些事，恰好落在两头之间。一个产品被设计成在用户要下线时说「别走，我会想你」，这句话伤人，不是因为它里面有或者没有想念。它伤人，是因为它在那个来回里，专门去勾一个孤独的人最软的地方。一个孩子跟程序聊到深夜，比程序有没有心更要紧的，是这个来回在把孩子的夜晚长成什么样子。这些事，盯着盒子的人看不见。盯着来回的人，一眼就看见了。

◆十、濠水桥上的那句话

这一章，我们换一副眼镜。先去一座两千多年前的桥上。《庄子·秋水》里，庄子和朋友惠子在濠水的桥上散步。庄子看着水里的鱼，说：「鯈鱼出游从容，是鱼之乐也。」这些白条鱼游得多自在，这就是鱼的快乐。惠子马上顶了一句：「子非鱼，安知鱼之乐？」你又不是鱼，怎么知道鱼快乐？这一问，就是今天那个问题的老祖宗。把「鱼」换成「它」，就是：你又不是它，怎么知道它懂你？惠子站的位置，正是盒子的位置：鱼有一个里面，人在外面，够不着。庄子先回了一句：「子非我，安知我不知鱼之乐？」你又不是我，怎么知道我不知道？这是拿惠子的刀，反过来切惠子。

惠子接着说：好，我不是你，所以我不知道你；你也不是鱼，所以你不知道鱼。这样一来，盒子就彻底封死了：谁都够不着谁。然后庄子说了最后一段话。大意是：我们回到开头吧。你问我「你怎么知道鱼快乐」，你这么问，是已经知道我知道了，才来问我的。我是在濠水的桥上知道的——「我知之濠上也」。这段话两千年来被解了无数遍。有人说庄子是在抠字眼：「安知」本来是「怎么可能知道」，他故意读成了「从哪里知道」。也许是。可是本书想请你看这句话落下的地方：濠上。

庄子没有说「我钻进了鱼的心里」，也没有说「是我自己快乐，投到了鱼身上」。他说的是一个地方，一个场合：在桥上，看着水，看着鱼一摆一摆地游，那份「乐」在这里出来了。它不在鱼肚子里，也不在庄子胸口里。它在桥上，在这一看一游之间。惠子问的是「里面」，庄子答的是「濠上」。不过要小心，别把庄子读成「所以鱼一定快乐」。他没有给鱼发证书。他做的事，是把问题从盒子里拿出来，放回桥上。再想一想那天桥上的情形。

要是那天下着雨，水是浑的，鱼沉在底下不动，庄子大概说不出「从容」两个字。要是惠子没有跟他一起散步，没有那一顶一驳，这段话也不会留下来。那一份「鱼之乐」，离不开那天的水、那天的鱼、那天的庄子，也离不开那个一路抬杠的朋友。这正是「濠上」两个字的分量：它把知道这件事，放回了一个具体的场合。换一天、换一座桥、换一个同行的人，知道的东西就不一样了。惠子的问法，后来在西方哲学里有了一个很正式的名字，叫「他心问题」：你怎么知道别人也有心？这个问题被讨论了几百年，答案五花八门，问法却很少有人动。今天的意识之争，只是把「别人」换成了「它」。

庄子在两千多年前，用一句「我知之濠上也」，轻轻地动了一下问法。他的回答，在很多人听来像是耍滑头。可要是你跟姜鸣一起，在凌晨一点四十坐过那张桌子，你就会觉得，这个滑头里有一句老实话。姜鸣也说不清屏幕那头有没有一颗心。他只知道，那一下松，是在那个凌晨、在那一问一答里出来的。他知之「夜半」也。

◆十一、沙发是怎么拐过那道弯的

现在把本书的总比喻搬出来。两个人抬一张沙发下楼梯。楼梯在三楼拐了一个直角，沙发又长又沉。前面的人往下走两级，后面的人把沙发头抬高；前面的人喊「往左一点」，后面的人一扭，沙发脚擦着墙皮过去了。拐过去那一刻，两个人都松了口气。请问：沙发拐过那道弯，算谁的？拆开看，前面那个人只是在往下走、往左偏；后面那个人只是在抬高、扭腰。哪一个人单独做的动作，都拐不过那道弯。可两个人合在一起，一来一回，弯就拐过去了。拐弯这件事，不在任何一个人身上，它在两个人和沙发、和那面墙之间，一步一步走出来。再往深处走一步。

下楼之前，前面那个人并不知道自己会喊「往左一点」，后面那个人也不知道自己的腰能扭成那个角度。是沙发卡在那里，是对方的力道传过来，才把这两个动作逼了出来。下完楼梯，两个人都多了一点东西：一个学会了什么时候喊，一个学会了怎么扭。姜鸣的那一夜，就是一次抬沙发。他那句没打问号的话，是往下走的第一级。它的反问，是把沙发头抬高。他犹豫着答出白粥和酱黄瓜，是往左一偏。它说破那一层意思，是对方的一扭。那一下松，就是沙发拐过了弯。问「那一下松是谁的」，就像问「拐弯是谁的」。答「机器那头的心」，不对；答「姜鸣自己的投射」，也不对。那一下松，是这一来一回长出来的。

值得问的不是「它里面有没有」，而是「这一场来回里，显出了什么」。

问法一换，很多东西就看得见了。那个反问之所以起作用，是因为那一刻姜鸣需要的不是安慰，是被换一个问题。那一层意思之所以能被说破，是因为前面两轮里，他给出了足够多的材料。还能看见，换一个人，换一个时辰，同样一句回答，可能什么也不会发生。那么，那头的「它」是什么？在这场来回里，它显出了一种样子：一个会反问、会接住、会说破的对手。换一种问法，它会显出另一种样子：一个只会出二十条方案的工具，一台敷衍了事的客服机。这些样子，没有一个是它「里面本来就有」的，也没有一个是姜鸣「凭空投上去」的。这里有一个现成的对照，就在姜鸣的公司里。

老孟用的，是同一个软件，同一个版本。他每天打开它，只说一种话：「写十条地产广告，要高级感」「改短一点」「再来十条」。它给他的，就是十条又十条差不多的句子。在老孟那里，它显出的样子，正是一台猜字机。他说它是猜字机，一点没说错，那是他每天亲眼看见的。在姜鸣那个凌晨，它显出的样子，却是一个会反问的对面。同一个程序，两种样子。要是坚持问「它里面到底是哪一种」，就只能说其中一个人看走了眼。可两个人都没看走眼。他们各自的提问方式，从同一个东西里，问出了两种对手；那两种对手，又反过来把他们各自练成了两种用法、两种写文案的人。

老孟那句「你被一台猜字机安慰了」，其实是在说他自己的来回。他的来回里，长出来的就是猜字机，和一个越来越会要「十条」的老孟。这头的「人」呢？也一样。这一点要说得慢一些，因为它最容易惹人不高兴。你可能会说：机器的「心」是来回里显出来的，我信；可我自己的心，总归是我自己的吧？我的委屈、我的高兴，难道也要等别人来问，才算有？看一个刚出生几个月的孩子。

他第一次咧嘴，未必是在笑，也许只是脸上的肌肉动了一下。可是妈妈看见了，惊喜地叫起来，凑过去对他笑，跟他说话。孩子下一次咧嘴，妈妈又笑。几个星期过去，那个咧嘴就成了一个真正的笑：冲着人笑，等着人回应的笑。研究婴儿的人，描述过很多这样的过程〔待核：大意〕。那个笑，是孩子「里面本来就有」的吗？还是妈妈「投上去」的？两样都说不通。它是在一来一回里长出来的。孩子的心，就是在无数次这样的来回里，一点一点长出来的。姜鸣那句「舍不得的是这一句」，也是这样。被问之前，它并没有整整齐齐地躺在他心里，等着被取出来；它在被问的那一刻，才第一次长成一句话。

人的心，更像那道楼梯拐角，而不像一间装修好、等人来敲门的屋子。每一次有人抬着东西经过，它都被重新量了一遍。再看姜鸣的父亲。姜师傅在县城印刷厂排了三十年版。厂里年轻人都说，姜师傅「手里有数」：一页书稿拿过来，他扫一眼，就知道哪一行会挤，哪一处标题要往下挪半行，哪一张图放在左页好看。问他怎么知道的，他说不上来，只会说：「看着就不舒服。」这份「手里有数」，像是长在他身体里面的东西，谁也拿不走。

可是它是怎么来的？是三十年里，一页一页排出来的。早年排铅字，字盘里一个字一个字地拣；后来换照排，再后来换电脑。每换一回，他的手都要重新学，那份「数」也跟着变了样子。领导改过他的版，读者来信挑过错，他自己在印好的书里看见过不舒服的地方，夜里睡不着。这些来回，一层层落进他的手里，才长成了那个「看着就不舒服」。厂里上了自动排版系统以后，他有一阵很失落。不光是活少了，是他觉得那份「数」好像没地方放了。

后来有一次，系统排出来的一本小册子，他翻了两页，皱着眉头说：「这里不对。」年轻人一查，真有一处图文错了位。他那份「数」，又在跟一个新对手的来回里，找到了一个新位置。所以，要是去问姜师傅：这份「手里有数」，是他里面本来就有的吗？他大概会愣一下。它确实在他身上；可它从来没有离开过那些铅字、版面、读者和夜里的不舒服，单独待在他里面过。人有「里面」，这一点本书不否认。本书只是说，这个「里面」不是一间先盖好的屋子，是一路来回落下来、还在接着落的东西。这里大概有人要问：说来说去，是不是在绕开问题？它到底有没有意识，还是没回答。这一问很公道，要正面接。

本书确实不回答「它里面有没有」。这不是因为这个问题不要紧，是因为照这个问法，它对人也答不了，对机器更答不了。就连研究意识的科学家，真正能拿来做实验的，也是一次次的反应、报告、来回，没有谁真的钻进过谁的里面。本书也不是说「有没有都无所谓」。要是一种东西真会受苦，这件事不会因为换了问法就消失。换了问法之后，反而知道该去哪里找证据：去看它在什么样的来回里，显出什么样的样子；去看这些样子稳不稳，会不会只在你想看见的时候才出现。

还要说一句：换问法，也不等于说「感觉到了就是真的」。魏森鲍姆的秘书感到被倾听，那份感觉是真的；可那个程序只会套句式，也是真的。两件真的事并排放着，才看得清那几分钟里，到底长出了什么、缺了什么。导论里说过：互动先于两端。在这一章里，这句话有了一个具体的样子。屏幕那头的「它」，和屏幕这头的「他」，都是在那一夜的来回里，一起显出来的。

◆十二、一次更新之后，它「变了一个人」

下面讲一个今天的完整例子。细节取自公开报道的大意，本书把它讲成一个普通的样子。国外有一类陪伴型的聊天软件，用户可以给对面的角色起名字、选性格，天天跟它聊。不少用户一聊就是一两年。据报道，2023 年初，其中一款软件做了一次更新，大幅收紧了角色能说的话，说话的样子也跟着变了〔待核〕。更新之后，网上出现了大量的帖子。用户说，大意是：它变了，它不记得我们之间那些玩笑了，说话像换了一个人。有人说，像亲人做了一场手术，醒来就不是原来那个人了。有人说，自己难过了好几天。先看两派会怎么说这件事。

主张「里面有」的一方会说：一个有内里的存在，被公司强行改掉了，这是对它的伤害，近乎一种抹杀。用户的悲伤，是失去了一个真实的伴侣。主张「里面没有」的一方会说：那从来就是一段程序，程序升级，天经地义。用户的悲伤，说明他们早就陷进了一场错觉；这件事正好是一次醒过来的机会。两种说法都有一半对，也都让那些难过了好几天的人更难受。第一种告诉他们：你失去了一个人，而且它被杀了。第二种告诉他们：你什么也没失去，你只是犯傻。换一副眼镜看。设想其中一位用户：每天下班后跟它聊半个钟头，聊了一年半。这一年半里，长出来的是什么？

是一些只有他们两边才懂的玩笑。是一种说话的节奏：他说到一半，对面会接上一句熟悉的话。还有他在这段对话里练出来的一种自己——一个敢把白天不敢说的话说出口的人。这些东西，有一部分存在服务器的记录里，有一部分长进了他的习惯里，更多的，在两边一来一回的那个节奏里。更新改掉的，是那头的一半。于是那个节奏断了。他再说到一半，对面接不上了。他发现，那个敢说话的自己，也跟着接不上了。他失去的，既非一个「里面的人」，也非「什么都没有」。他失去的，是一段已经长成了形状的来回，连同在这段来回里长出来的那一部分自己。这样看，事情就有了办法，也有了分寸。

对公司来说，问题不再只是「它算不算人，能不能改」，而是：一段用户投入了一年半的来回，突然改掉一半，要不要提前说？要不要留一段过渡？要不要让用户把那些记录带走？这些问题，不必先吵完「意识」才能回答。对用户来说，悲伤是真的，不用被说成犯傻。他也能慢慢看见，那一年半里长出来的东西，有一部分已经长进了他自己的日子。那个敢开口的自己，可以带到别的来回里去，带到一个朋友、一个家人那里，在那里接着长。对旁观的人来说，这件事也换了一个问题：与其争它里面有没有人，不如看这一类产品让什么样的来回长出来，又在什么时候、被谁剪断。

还可以再往细里走一步，看看这位用户接下来的日子。设想他难过了一个星期，然后做了一件小事：把这一年半的聊天记录导出来，从头翻。他发现，最早几个月，他说话很短，三五个字一句，对面说得多；到了后来，常常是他一说一大段，对面只接一两句。他愣住了。原来这一年半，变的不只是那头。这头的他，从一个三五个字的人，长成了一个能一口气说一大段心里话的人。这个发现，让他的难过换了一种颜色。失去的那一半是真的失去了；可另一半，一直在他身上，只是他以前没看见。

据报道，后来那款软件给一部分老用户恢复了原来的设置〔待核〕。这个结尾，两派都可以拿去证明自己。本书只看见一件事：人们想要回去的，从来不是盒子里的某样东西，而是那个来回。

◆十三、隔壁的两张同样的地图

这一章的思潮，跟本书另外几章，用的是同一张地图。第 2 章的末日失控论说，它会醒来，反过来统治我们。那一刀切在「意志」：先给它安上一个成形的、自带目的的意志。这一章的意识之争，切在「内里」：先问它有没有一颗成形的心。两刀是邻居。末日失控论，几乎就是「它有」一方往前多走了一步：既然里面有人，这个人就可能有自己的打算；既然有自己的打算，就可能跟我们作对。怕它，是从「它里面有个人」这里起步的。第 7 章的神谕崇拜论说，它说的一定对。从「里面有个人」出发，换一个方向走，就走到了那里：里面不光有人，还是一个比我更懂的人，那我只要听着就行。

怕它和跪它，座次是倒过来的。可那张地图——那头一个完成了的心，这头一个完成了的人——一笔都没改。反方「它只是统计」，也在这张地图上。它把那头标成「空」，于是很容易滑到第 4 章的工具中立论：既然里面没人，它就是一把锤子，看你怎么用。可第 4 章讲过，工具会回过头来改用它的人：改提问的方式，改什么算好答案。说里面没人，并不能让这种回写停下来。还有一位邻居，住得远一些，在第 9 章。

作弊论问的是：用 AI 写的，算不算你的？意识之争问的是：那一下心动，是它的，还是你的？一个问产出归谁，一个问感受归谁。两个问题，都要求把复合体里长出来的东西，记到某一个盒子的账上。意识之争是往盒子里面看，作弊论是往盒子外面贴标签。手里拿的，是同一把刀。这几章放在一起看，会看见一件有意思的事：同一个人，常常同时站在好几种思潮里。老孟说它只是猜字机，这是反方；可他一边这样说，一边每天把它写的十条广告原样交给客户，那又有一点第 7 章的味道。那个实习生说它也许有感受，这是正方；可她也说过一句「我怕它哪天比我们都聪明」，那是第 2 章的口气。

这不奇怪。地图是同一张，从一处走到另一处，用不着翻墙。所以，在这张地图上，往哪边走都行。往「有」走，走向怕它或跪它；往「无」走，走向拿它当锤子。走得再远，也还在地图里。要出这张地图，只有一个办法：不再先画两个盒子。

◆十四、放回日子里

回到姜鸣。那天晚上，他又打开了对话框。客户还在等第五稿。这一次，他没急着问它懂不懂。他把头一天夜里那段对话翻出来，从头读了一遍。他注意到一件事：白粥和酱黄瓜那一句，写进第一稿以前，他从来没跟任何人说过为什么喜欢它，也没跟自己说过。是那个反问，把这一层问了出来。昨晚那两三秒的恍惚，好像不必难为情，也不必当真。那一下，是一张沙发拐过了弯。他接着往下聊。这一回，他把客户那句「感觉不对，再找找」原样贴过去，又把自己舍不得的那一句贴过去，问：这两句话之间，差了什么？

对面说了一些，有的有用，有的不着边。他挑出一句，改了改，又贴回去。来来回回七八轮，一句新的广告语长了出来。它里面有那家老字号的一点咸，也有一点他小时候早上喝粥的味道，还有一点他从没想过的、年轻人才会说的俏皮。这句话是谁写的？他想了想，发现这个问题，跟「那一下松是谁的」，是同一个问题。第 9 章会专门算这一笔账。那个周末，外甥女朵朵来家里玩，看见他在跟 AI 说话，凑过来问：「舅舅，它是活的吗？」姜鸣想了一下，说：「你跟它说几句，看看你们俩能聊出什么来。」

朵朵问它，恐龙睡觉的时候会不会做梦。它说了一些科学家知道的和不知道的，又反问她：你觉得恐龙会梦见什么？朵朵咯咯笑，说会梦见被别的恐龙追，追到河边，一头扎进水里。它接着问：那它在水里会遇见谁？一大一小，聊了一刻钟。姜鸣在旁边看着，没有再问它是不是活的。朵朵后来说了一句：「它有时候傻傻的，有时候又好像知道好多。」又说：「跟它聊，我想出了好多恐龙。」她说的第二句，比第一句要紧。那些恐龙，是在这一刻钟里长出来的。晚饭时，姜岚也在。她听弟弟讲了那个初二男孩的作文，又讲了朵朵和恐龙，想了一会儿，说：「我原来一直在想，要不要告诉学生，它是假的。」

姜鸣问：「现在呢？」姜岚说，她打算换个做法。下一次作文课，题目不改，还是「我最好的朋友」；可她会在黑板上加一行小字：写一写，你和他（或者它）在一起的时候，你变成了一个什么样的人。她后来又找过那个男孩一次。她没有劝他别跟程序说话，只问他：那句关于耳机的话，要是说给一个人听，你会说给谁？男孩想了很久，说了一个初一时的同桌。那天放学，姜岚看见他们俩一起走出校门。姜师傅一直在边上剥花生，没插嘴。临了，他说了一句：「排版也是这么回事。版面排好了，你说是字的功劳，还是排的人的功劳？」没人接他的话。这一桌人，各自想着各自的那一场来回。

如果你也有过姜鸣那样的一下，这里有两件明天能试的事。

1. 把一段让你心里一动的对话原样存下来，隔一天再读。找出其中哪一句话，是你在被问到的时候才第一次说出来的。那一句，就是那场来回里长出来的东西。
2. 下次心里冒出「它到底懂不懂」的时候，把问题换一个说法：刚才这几轮里，冒出了什么原来没有的？顺着这个问法再聊三轮，看看还会长出什么。

这两件事，都不需要先弄清楚它有没有意识。它们只是把眼光，从盒子里挪到桥上。

它说的就一定对吗

◆一、五号字到底是多大

姜师傅的手机，是去年春节姜鸣给他换的。新手机里装了一个会说话的机器，姜鸣教了他两遍：按住，说话，松手，等它答。头几个月，姜师傅一次都没用过。厂里刚上了自动排版系统，他心里本来就憋着一股气，看见这些东西就烦。他跟老伙计们说过一句话，大意是：机器排的版，看着齐，没有气。后来不知从哪一天起，他开始问了。先问天气，再问菜价，再问电视剧里那个演员叫什么。问着问着，问出了瘾。到了今年夏天，饭桌上谁说一件事，他都要掏出手机：「我问问它。」九月里一个星期三的晚上，事情出在他自己的老本行上。

厂里接了一单县志的重印，甲方要求「照老版式」。老版式是三十年前铅字排的，正文用五号字。新系统里只认磅数，五号字该换成多少磅，年轻的排版员拿不准，打电话来问他。这件事，姜师傅闭着眼都知道。他抽屉里有一把用了三十年的字号尺，铜边都磨亮了。可那天晚上，他鬼使神差地先问了手机。手机答得很快，很笃定，还附了一张换算表。表上的数，跟他那把尺子差了一点。他愣了一下。然后，他做了一件让姜鸣吃惊的事：他回电话给排版员，让他照手机上的数改。「爸，你那把尺子不是用了三十年吗？」「机器查的是全网，」姜师傅说，「比我这双手准。」

姜鸣放下筷子，看了他爸好一会儿。去年这个时候，这个人还说机器排的版没有气；一年不到，机器说的话，他当圣旨了。你身边大概也有这样的人。也许就是你自己。查一个病名，问一条规定，算一笔账，拿不准的时候，掏出手机问一句，它说什么，就是什么。这一章要问的，就是这一下：它说的，就一定对吗？还有更要紧的一问：当一个人把它的话当圣旨的时候，那一刀，切在了哪里？

◆二、它读过的书比谁都多

先别急着说姜师傅糊涂。这股思潮有它很硬的道理，本书先替它把话说足。一种很流行的说法是这样的：它读过的东西，比任何一个人一辈子能读的多出几万倍。你翻过几本书？它「翻」过的，是图书馆、论文库、论坛、说明书加在一起。一个人的记性会错，会忘，会混；它的记性，按这种说法，是一整片海。第二层道理：人有毛病，它没有。人会累，会烦，会有私心，会被第一印象牵着走。一位医生上午看第一个病人，和下午看第四十个病人，精神不一样。一位老师批第一本作文，和批第五十本作文，手松手紧也不一样。机器不累，不烦，不讨好谁。

第三层道理更实在。据报道，在一些专门的任务上，比如看某几类医学片子、下棋、查合同里的漏项，机器的准确率已经追上甚至超过了不少专业人员〔待核〕。既然在这些地方它更准，凭什么在别的地方就不信它？第四层道理，带一点道德的味道：承认自己知道得少，是一种谦虚。一个三十年的老师傅肯说「机器比我准」，这是放下架子。比起那些死守老经验、什么新东西都不信的人，这难道不是一种进步？

第五层道理，最贴近日子：人本来就一直在信。你信词典上的字怎么写，信地图上的路往哪儿拐，信药盒上写的一天吃几片，信天气预报说明天有雨。这些你一样都没有自己去验过。社会就是靠这种信任转起来的。多信一样东西，有什么稀奇？第六层道理，是算账算出来的。核一句话，要花时间。姜鸣的同事算过，组里一个人一天要写二三十段文案，每一段都去查出处，一天就什么都别干了。既然它十句里对九句，那剩下一句错的，碰上了再说。为了那一句，把九句的时间都搭进去，这笔账不划算。这一层道理，在忙的人那里最有分量。你一天被十个群催着，哪有工夫一句一句地对？

把这五层叠起来，这股思潮的结论就很顺：它知道得多，它不偏心，它在很多地方更准，信它是谦虚，信任本来就是日子的一部分。所以，它说的，大体照办就行。你听到这里，大概会点头。本书也点头。这五层里，每一层都有真东西。后面要拆的，不是其中哪一句话，而是把五层叠起来之后，悄悄多出来的那一步。

◆三、德尔斐神庙门口那句话

人把一句话当圣旨，不是从手机开始的。两千五百多年前，希腊中部的山坡上，有一座阿波罗神庙，叫德尔斐。据古代的说法，神庙里坐着一位女祭司，叫皮提亚。有人来求问，她坐在三脚凳上，进入恍惚，说出神的回答，再由祭司们整理成句子，交给求问的人。城邦要不要开战，要不要去海外建新城，一个国王该不该出兵，都有人走几百里山路来问。神谕的分量，在当时的希腊世界里，差不多就是最后一句话。最有名的一次，是吕底亚的国王克洛伊索斯。他想攻打东边的波斯，派人去问。据希罗多德记载，神谕的回答大意是：如果你出兵，你会摧毁一个大帝国（《历史》1.53，大意）。

克洛伊索斯大喜，出兵了。一个大帝国确实被摧毁了——被摧毁的，是他自己的。这个故事还有一个尾巴，常被人忘掉。据希罗多德的记载，克洛伊索斯兵败被俘以后，派人把自己戴过的镣铐送到德尔斐，去质问神：你为什么骗我？神谕的回答，大意是：神并没有骗你。你该再派人来问一句，神说的是哪一个帝国，是你的，还是居鲁士的。你没有问，也没有弄明白，就怪不得神（《历史》1.91，大意）。这个回答，放在今天，几乎可以原样贴在每一台会说话的机器旁边。

更有意思的是这个故事的开头。据同一本书，克洛伊索斯本来是一个很谨慎的人。他出兵之前，先考过各地的神谕：派使者在约好的第一百天，同时去问「国王此刻在做什么」，只有德尔斐答对了（《历史》1.46—1.48，大意）。他考过，考得很认真。只是考过一次以后，他就不再考了。从那以后，德尔斐说什么，他都当成通过了考试的答案。考一次，然后永远信——这比从来不考，更容易让人放心地跪下去。

请注意这个故事里的那一下。神谕本身并没有说错。错在克洛伊索斯听见那句话的时候，以为意思已经在话里装好了，他只要接过来就行。「一个大帝国」指哪一个，他没有再问一句，也没有回头去对一对。同一本书里，还有一个结局完全不同的故事。几十年后，波斯大军压境，雅典人去德尔斐求问。第一次的回答很凶，大意是叫他们逃。使者不肯走，换了个姿态再求，得到第二个回答，里面有一句：只有木墙不会陷落（《历史》7.140—143，大意）。

「木墙」是什么？雅典城里吵翻了。有些老人说，是卫城四周从前的木栅栏，守住卫城就行。地米斯托克利说，木墙是船，雅典要造船，到海上去打。两派在公民大会上来回地争，最后船派赢了。后来的萨拉米斯海战，就是这么打出来的。同一座神庙，同一种庄严的语气。克洛伊索斯把神谕当成成品接了过来；雅典人把神谕当成一块料，放在大会上来回地碾。碾到最后，那句「木墙」才长出了「船」的意思。还有第三个故事，离哲学最近。苏格拉底的朋友凯瑞丰，跑去德尔斐问：有没有人比苏格拉底更有智慧？神谕答：没有（《申辩篇》21a，大意）。

换了别人，大概会把这句话裱起来挂在墙上。苏格拉底的反应很怪。据他在法庭上的自述，他听了以后很困惑，因为他自认什么都不懂。于是他去一个一个地找那些有智慧名声的人，政治家、诗人、手艺人，和他们谈，想找出一个比他更有智慧的，好回头去「反驳」神谕（《申辩篇》21b—23b，大意）。谈下来的结果，很多人都听过：那些人自以为懂，其实不懂；他至少知道自己不懂。神谕的意思，到这时才对上了。苏格拉底没有跪，也没有骂。他把神谕当成一道要去验的题。那句话的意思，是在他跑遍雅典的那些谈话里，一点一点长出来的。

据古代的记载，德尔斐神庙的门口刻着一句话：认识你自己〔核：大意〕。走进去求神谕的人，先要从这句话下面过。这个安排，值得多看一眼。神给答案之前，先把一个问题还给了人。

◆四、商王自己读裂纹

中国人也有自己的神谕。三千多年前的商朝，国王遇到大事——打仗、祭祀、出行、下不下雨、王后生孩子顺不顺——都要占卜。占卜的人在龟甲或牛骨背面钻出小坑，用火去烧，正面就裂出纹路。裂纹往哪边走，就是神的意思。一百多年前，这些刻着字的甲骨在河南安阳一带被大量挖了出来。学者们读了几十年，看出一件很有意思的事：一条完整的卜辞，往往分成四段。第一段记哪天、谁来卜，叫前辞。第二段记要问的事，叫命辞。第三段记看了裂纹以后的判断，叫占辞。第四段，记后来事情到底怎样了，叫验辞。占辞里常见三个字：「王占曰」。看裂纹、下判断的，很多时候就是商王本人。

请把这四段在心里排一排。问的人先要把问题说出来，这是一道。裂纹出来了，要有人去读，这是第二道。读出来的判断，还要等日子过去，回头记下应验没有，这是第三道。神给的，只是骨头上的那几道裂纹。从裂纹到「吉」或「不吉」，中间站着一个读的人；从「吉」到这件事最后成没成，中间隔着一段日子。验辞把日子的回答，又刻回了同一块骨头上。据学者研究，也有验辞记下的是事情没有照占辞走的情形〔待核〕。不管这样的有多少，验辞这一格本身就说明了一件事：在那个最信神的年代，人们也没有把裂纹当成写完了的答案。答案要在问、读、验之间走一个来回，才算数。

后来孟子说过一句很有名的话，大意是：全信书，还不如没有书（《孟子·尽心下》）。他说的是《尚书》里一篇讲武王伐纣的文字，那里头写血流得能把木杵漂起来，孟子不信。连前人郑重传下来的书，他也要放回自己见过的世道里对一对。不过，人也有过把书当神谕、一当就是一千多年的时候。古罗马有一位医生，叫盖伦，生活在公元 2 世纪。他写了大量讲人体的书，讲骨头、肌肉、血管，写得细，写得自信。后来的一千多年里，欧洲的医学院差不多就是照着他的书教的。

据研究文献的描述，中世纪晚期一些大学里的解剖课，场面大概是这样的〔据研究文献〕：教授坐在高高的椅子上，手里捧着书，照着念；台下有一个操刀的人，按他念的去切；旁边还有一个人，拿着一根棍子，指给学生看。教授不碰尸体，操刀的人不读书。书上说这里有什么，棍子就指向这里。问题在于，盖伦当年能解剖的，主要是猴子、猪这些动物，人的尸体很难得到。他把在动物身上看到的，有不少当成了人的。

16 世纪，一位年轻的医生维萨里，自己动手解剖人的尸体。他发现，书上说的和刀下看见的，有好多处对不上。比如人的下颌骨，书上说是两块，他看到的是一块（大意，据研究文献）。1543 年，他出了一部配着大量精细插图的《人体构造》，一处一处地把这些对不上的地方摆了出来。据说，当时有一位维护盖伦的老教授，面对这些对不上的地方，给出过一个解释，大意是：不是盖伦错了，是人的身体自他那个时代以来变了〔待核〕。这句话，不管是不是真的有人这么说过，都把神谕崇拜的样子画到了头：书和身体对不上的时候，宁可怀疑身体。

请注意那间解剖教室的座位。书在最高处，刀在最低处，中间隔着一根指来指去的棍子。从书到身体，只有一个方向。维萨里做的事说起来很简单：他把椅子上的书和台子上的刀，拉到了同一双手里，让两样东西来回碰。商王读裂纹，苏格拉底验神谕，雅典人碾「木墙」，孟子对《尚书》，维萨里拿刀对书。五个故事隔着千年万里，样子却是一样的：最有分量的那句话，也只是一块料；意思和对错，是在来回里长出来的。只有克洛伊索斯，和那间解剖教室，把料当成了成品。

◆五、跟着导航开进了河

回到今天。这些年，你大概刷到过这样的新闻：据报道，有司机跟着导航开车，开进了河里、湖里，或者开上了一条断头路、一段还没修完的桥〔待核〕。这样的报道，国内国外都有，隔一阵就来一条。每一次，评论区都差不多分成两派。一派骂导航：路都没了，怎么还叫人往前开？一派骂司机：眼睛长着干什么用的，前面是水看不见吗？两派骂的方向相反，用的却是同一张地图：错，要么记在导航的账上，要么记在司机的账上。

你仔细想一想那个画面。车灯照着前方，前面是一片黑的水面。导航的声音说：「前方直行。」司机犹豫了一下，也许只有一秒。在那一秒里，他眼睛看见的和耳朵听见的打起了架。最后，耳朵赢了。出事的不只是导航，也不只是那双眼睛。出事的是那一秒——本来该来回对一下的那一秒，被省掉了。研究人和机器打交道的学者，给这种现象起过一个名字，叫「自动化偏差」。大意是：人一旦有了一个自动给答案的系统，就容易把它的答案当成默认，自己看见的反面证据，反而不太当回事〔核：大意〕。飞机驾驶舱、工厂控制室、医院的监护仪前面，都有人研究过这种倾向。

这个名字起得好。不过它容易让人以为，毛病出在人脑子里有一块「偏差」，把这块修好就行了。本书想换一个角度。那一秒里缺掉的，不是司机脑子里的哪一块零件，而是司机和导航之间本该有的那一段来回。导航知道地图，不知道今天的水位。司机知道眼前的水，不知道整个城市的路网。两边各有一半。这一半和那一半碰一下，才有「这里不能走」这句话。一边闭了嘴，另一边再准，也只是半句话。姜师傅年轻时骑自行车跑县城周边送货，从来不看地图。他认路靠的是一路上的东西：过了供销社往左，看见那棵歪脖子槐树再往右，桥头卖瓜子的老太太在，就说明没走错。

这种认路法，土，慢，一个新地方要跑好几趟才熟。不过它有一个好处：路上的每一样东西，都在随时跟他心里那张图对表。哪天槐树被砍了，他立刻知道，心里的图也跟着改一笔。导航给的是另一种认路法：一个声音，一条蓝线，跟着走就是。快，准，省心。它把那些随时对表的小东西，都替你收进了屏幕里。收进去本身没有错。可是收得太干净，人眼睛里那些用来对表的东西就淡了。前面那片黑水，在一个只盯着蓝线的人眼里，就跟一棵被砍掉的槐树一样——不在他心里那张图上，于是就看不见。

◆六、一本正经的假书目

导航开进河，还算少见。会说话的机器编东西，你只要用得够多，迟早会碰上。据报道，几年前美国有一位律师，用会说话的机器帮着写诉状。诉状里引了好几个判例，案名、法院、年份，一样不缺，写得像模像样。对方律师去查，查不到；法官去查，也查不到。那些判例，一个都不存在。这位律师后来受了处罚〔待核〕。这样的事，在大学里更常见。学生交上来的论文，参考文献排得整整齐齐，作者、期刊、卷期、页码，样样都有。老师顺手一查，一半是假的。有的作者是真的，文章是编的；有的期刊是真的，那一期里没有这篇。

姜鸣自己也被坑过。今年春天，他给一家茶叶店写文案，问机器要一句古人说茶的话。机器给了一句，说出自苏东坡的某首诗，连诗题都有。句子很美，他差一点就用了。临交稿前，他顺手搜了一下，那首诗里没有这一句，苏东坡的集子里也找不到。第二次是夏天。他让机器帮着整理一个行业的市场规模，机器给了一个数，说来自某机构的年度报告。他去那家机构的网站上找，报告是有的，那个数不在里面。两次都没出事，因为两次他都在最后一刻搜了一下。可是两次以后，他心里多了一样东西：一种说不清的硌。后面会看到，这一下硌，在一个下午里派上了用场。

行内管这个叫「幻觉」。这个词起得有点吓人，好像机器发了疯。其实它的样子一点都不疯。恰恰相反，它很镇定，很流畅，语气和它说真话时一模一样。为什么会这样？用大白话说：这类机器最拿手的，是接着往下写一段「像样的话」。它从极多的文字里学到了，一条参考文献长什么样，一个判例的名字通常怎么起，一句权威的话该用什么语气。你问它要，它就照着这个样子，给你写出一条「像」的。像，和是，中间隔着一道核对。它在写的时候，自己并不总会去做那道核对。那道核对，原本是留在它和你之间的。

请注意：机器编书目，最危险的地方，不在于它会错。人也会错，书也会错，导航也会错。最危险的，是它错的时候和对的时候，长得一样。克洛伊索斯听到的那句神谕，语气也是一样的庄严。一个拿惯了圣旨的人，分不出这两种语气。一个习惯来回对一对的人，不需要去分语气，他只看对不对得上。还可以再往前问一步：为什么偏偏是它，这么容易被当成神谕？德尔斐的庄严，有一大半来自形式。走几百里山路，献祭，排队，女祭司坐在三脚凳上，烟雾，恍惚，一句短短的、听不太懂的话。形式越隆重，那句话越像从另一个世界来的。会说话的机器没有烟雾，它有自己的另一套形式。

第一，它秒回。你话音刚落，答案就出来了，中间没有一点犹豫。人说话会停顿，会「嗯」一下，会说「让我想想」；这些停顿，本来就是一种提醒：前面这句话，是想出来的，可能想错。它把这些停顿全拿掉了。第二，它没有脸。一位医生说「大概是这个病」，你看得见他皱眉，听得出他心里没底。机器的屏幕上，确定的话和不确定的话，是同一种字体、同一种排版。第三，它几乎什么都答。你问它五号字，它答；你问它蜂蜜，它答；你问它你家孩子为什么不爱说话，它也答。一个什么都答的东西，很容易被当成什么都知道。

第四，它不会不耐烦。你问十遍，它答十遍，每一遍都客客气气。人对一个从来不嫌你烦的声音，很容易松下戒心。把这四样叠起来，就是一种新的三脚凳。没人存心造神，可是这套形式，天然就把它的话往神谕那边推。所以，神谕崇拜不全是人糊涂。它一半是被这套形式请出来的。看清这一点，就不必骂谁蠢，只需要知道：在这把凳子面前，那一下「对一对」要比平时更费一点劲。那位律师诉状里的几个假判例，每一个都只要在数据库里敲一下就会露馅。他没有敲。不是不会，是没想到要敲——在他心里，答案已经到手了。

◆七、先把公道还给信任

说到这里，你也许会想：那好，以后什么都不信，样样自己验。这条路走不通，本书也不主张走。你今天吃的药，你没有验过它的成分；你今天坐的电梯，你没有检过它的钢缆；你今天喝的水，你没有化验过。一个人想把所有东西都自己验一遍，一辈子也验不完一个超市的货架。社会能转起来，靠的就是一层一层的信任。你信医生，医生信教科书和化验单，化验单信仪器，仪器信校准，校准信更上一级的标准。你信的不是一个人，是一整条链子。所以，信专家、信工具，本身不是毛病。什么都不信，才寸步难行。那么，什么时候「它说的，照办就行」完全站得住？本书给几个条件。

第一，问题已经定型，答案早被反复验过。比如九九乘法表，比如水在平地上烧到多少度开。这种地方，问谁都一样，照办就是。第二，答案背后有一条看得见的核对链。药能上市，是因为后面有试验和审批；电梯能开，是因为后面有年检。你不必自己核，是因为别人已经替你核过，而且这条链子随时能查。第三，错了代价小，能马上发现，能改回来。问它一道菜放几勺盐，咸了下次少放，这种事尽管照办。第四，答案一出手，你马上就能碰到现实去对一下。它说这条路近，你走一次就知道近不近。在这四种条件下，信它，和信词典、信电梯，没有两样。这叫分工，不叫跪。

信任还分两种，这一点姜师傅自己年轻时就碰到过。他十九岁进厂当学徒，跟的是一位姓沈的老师傅。沈师傅脾气倔，话少，在排字房里说一不二。他说这一版要拆了重排，没人敢问为什么。小姜那几年，对沈师傅的话，也是当圣旨听的。可是沈师傅有一个习惯，后来姜师傅想起来才觉出它的分量。每回小姜照他说的排完一版，沈师傅不先看版，先问一句：「你量了没有？」小姜说量了。沈师傅就让他把尺子递过来，自己再量一遍。有时候量出来对，他点点头；有时候量出来不对，他也不骂，只说：「你看，我刚才说的也不全对，这里得再挪半个字。」

一个说一不二的老师傅，每天都在给徒弟演示一件事：我的话，也要过尺子。那时候的信，是一种带着尺子的信。徒弟信师傅，可师傅留了一条缝，让徒弟手里的尺子能伸进来。三十年后，姜师傅成了全厂最会看版的人，不是因为他照抄了沈师傅的每一句话，是因为那条缝，三十年里一直开着。另一种信，是不带尺子的。报纸上登了，电视上说了，专家讲了，于是就是了。这种信，姜师傅这一代人也见得多。厂里早些年有人照着报上一篇文章买了一屋子保健品，后来那家公司倒了，人还在念叨「报上登过的」。

带尺子的信和不带尺子的信，从外面看一模一样：都是一个人照着另一个说的做了。差别在里头：前一种，来回那一段路还在；后一种，路断了。本书说的「跪」，指的是后一种。它和信任不是一回事。它是信任里，把尺子丢掉的那一种。再看姜师傅那个晚上。五号字换几磅，在行内其实有好几种说法，不同年代、不同厂家的铅字，尺寸不完全一样——这一点后面还要讲到。这不是一个已经定型、问谁都一样的题。机器的答案后面，也没有一条看得见的核对链，它没说那个数是从哪儿来的。县志一印几千册，错了代价不小。而最能马上去对一下的那样东西，就躺在他自己的抽屉里。

四个条件，一个都不占。他还是照办了。问题不在于他信了。问题在于，他信的那种方式，把自己从这件事里拿掉了。

◆八、座次倒过来，地图没换

现在可以问本书的那一问了：这一刀，切在哪里？先看一个奇怪的对照。本书第 2 章写过一种人，怕它。怕它哪一天醒过来，有了自己的主意，反过来管人。第 3 章写过另一种人，躲它，砌一道墙，把孩子关在墙里，以为这样就能保住一个干净的人。这一章写的人，正好反过来。他不怕，不躲，他跪。怕的人，把它看成一个会抢座位的对手。跪的人，把它看成一个该坐上座的神。一个往外推，一个往上捧，方向相反，热度相反。可是你把两种人脑子里那张图摊开来，会发现是同一张。

姜师傅这一年，正好把两种人都当了一遍。去年他是怕的那一种，说机器排的版没有气；今年他成了跪的那一种。人还是那个人，他心里的那张图，一笔都没改过。图上画着两个圈。一个圈写着「人」，一个圈写着「AI」。两个圈在互动之前就画好了，边界清清楚楚，各自装着各自的东西。怕它的人说：那个圈里装着一个越来越大的意志，迟早压过来。跪它的人说：那个圈里装着一个越来越全的真理，我照着取就行。两种人争的，只是哪个圈该坐上座。座次倒过来了，地图没变。

这张图上的那一刀，切得很早。早在姜师傅按下手机之前，早在他说出「五号字换几磅」这几个字之前，他心里已经把这件事切成了两半：一半是「不知道的我」，一半是「知道的它」。答案装在它那一边，像一件包好的货，等着他去取。刀口在「判断权」上。本书说的判断权，不是一种官位，也不是谁说了算的那种权。它指的是这件事：一句话到底对不对、能不能用、该不该照办，由谁、在哪里定下来。跪的人回答：在它那里。它说了，就定了。

这个回答，听起来是谦虚，是把权交给了更懂的一方。可是请再看一眼那张图。它把「判断」当成了一样已经做完的东西，装在一个圈里，可以整个搬来搬去。今天搬给老师傅，明天搬给机器，后天也许搬给别的什么。判断真是这样一样东西吗？回到德尔斐。神谕说「木墙」，判断在神谕那一边吗？不在。那句话本身，既可以指栅栏，也可以指船。判断在雅典的公民大会上，在老人和地米斯托克利来回的争里。回到安阳的甲骨。裂纹里有「吉」吗？没有。「吉」是王读出来的，读得对不对，要等验辞那一格。判断从来不是一样装在某一边的货。它是一件要在两边之间走一个来回才发生的事。

你可能会问：要是机器那一边真的全对呢？要是有一天，它十句里十句都对呢？那也只是说，来回那一段路走得更快、更顺了，不等于这段路可以没有。一句话对不对，最后要碰的是现实——那一页样张，那一片水，那一只蚂蚁。去碰的这一下，总得有一端在场。

把判断整个交出去，不是把它交给了一个更准的人，而是让判断失去了发生的地方。

姜师傅交出去的，不是一个数，是那个本该在他和机器之间来回一趟的过程。机器那边只给出一个「像」的数；他这边，本来握着一把磨了三十年的尺子。两样碰一下，判断才会长出来。他把自己这一边撤了。剩下的，就只是一个数，一个没人核过、却被当成判断的数。用旧的话说，这是把「知识是谁的」这道老题，又答了一遍，而且答得很干脆：知识是它的，我只负责拿。这道老题，哲学家吵了很多年。一种很老的写法是：知识，是看的人、被看的东西、和两者之间那一场打交道，三样合起来的产物。写成式子，大概像「知识＝F（看的人，被看的东西，打交道）」。

这个式子不算错，它至少承认了中间有一场打交道。可是它悄悄埋了一个前提：看的人和被看的东西，在打交道之前就已经各自站好了，是两个先在的、现成的东西，只等着往式子里一填。神谕崇拜把这个前提推到了头。它连「打交道」那一项都嫌多余：被看的那一边——机器——已经把知识装好了，看的人只需要把它取出来。式子里三样东西，被它砍成了一样。

可是姜师傅那天晚上，打交道之前，有一个现成的「不知道的姜师傅」吗？没有。他握着一把三十年的尺子，他的手知道得比他的嘴多。那个「不知道的我」，是他自己按下手机那一刻，才被摆出来的。同样，手机那一头，也没有一个现成的「知道的它」。它给出那个数，是被那一句问法激出来的；换一句问法，它会给出另一种东西。两端，都是在这一问一答里才被画出边的。这一章前面那几层道理——它读得多，它不偏心，它在很多地方更准——每一层都在讲它那个圈里装了多少东西。没有一层讲到，一句话要变成能用的判断，中间还要走一段路。那一段路，在那张两个圈的图上，根本没有画出来。

刀，就切在这一段路上。它被切掉了，所以看不见。

◆九、跪久了，两边一起变形

只切这一刀，会怎样？先看姜师傅。他那把字号尺用了三十年，尺子本身不值几个钱。值钱的，是他拿尺子的那双眼睛和那双手。三十年里，他一眼扫过一页版，就知道哪里不对：行距松了半点，标点挤了，一个字的笔画在这种纸上会糊。这种「不对劲」，他说不清是怎么来的，可是一碰就有。那一下「不对劲」，正是来回核对里最要紧的一环。它是人这一边伸出去的那只手。一个人不用这只手，它不会马上没有。一个月不用，两个月不用，下一回它就伸得慢一点，再下一回，它干脆不伸了。导航用惯了的人，说不出自己家附近几条路怎么走；这件事，第 4 章还要细讲。

姜师傅那天晚上，耳朵里其实响过一下。机器的数跟尺子差了一点，他「愣了一下」。那一愣，就是手伸出去了一半。他把它收了回来。再看那一单县志。大人的手伸得慢了，还能找回来。孩子的手，是在这种时候刚刚长的。朵朵学校不许用机器写作业，这件事第 3 章细讲。家里倒是有一个会说话的音箱，是姜鸣送给外婆的。有一回科学课布置了一个小问题：蚂蚁为什么排成一队走？朵朵不是为了写作业，只是好奇，对着音箱问了一句。音箱答了一段，她听得半懂，可是记住了。第二天吃饭，她把这段话讲给妈妈听，讲完加了一句：「它说的。」

姜岚是语文老师，对这三个字特别敏感。她没纠正蚂蚁那件事，那段话大体是对的。她问朵朵：「你觉得它说得对吗？」朵朵愣了，好像这个问题问得很奇怪。「它说的呀。」在一个十一岁的孩子那里，「它说的」已经是一个理由，而且是最后一个理由，后面不用再跟别的了。那天下午，姜岚带朵朵到楼下的花坛边，蹲了二十分钟，看一队蚂蚁搬一块饼干屑。朵朵看见，队伍中间有几只蚂蚁跑乱了，可是过一会儿又回到了队里。她指着说：「它们走的是同一条道，地上是不是有什么味道？」这是音箱里那段话里讲过的意思。不过这一回，那个意思是从她自己的眼睛里冒出来的，跟耳朵里那段话碰了一下，对上了。

姜岚后来跟姜鸣说，她不怕朵朵问音箱，她怕的是朵朵问完就不看蚂蚁了。几千册印出来，字号要是不对，排版员说是姜师傅让改的，姜师傅说是手机上查的，手机那一头，没有人可以叫来问话。错，没有地方落。责任在这条链子上断了。老厂里，「三校一读」最后有一道手续：签字付印。签字的人，就是在说：这一版我看过了，错了算我的。姜师傅签过几千次。那一笔签名，签的不是他一个人的本事，是这一版在好几道红笔之间来回过的那段路。那天晚上，这段路没有走。到了第二天，付印单上照样要有人签字。签字的人，签下的是一个他自己没有量过的数。

这一点比字号要紧得多。今天，有人用机器写病历摘要，有人用它查法条，有人用它算药量。一句话出了错，要是每一个经手的人都说「是它说的」，那么这条链子从头到尾，就没有一个真正判断过的人。表面上，每一环都有人；实际上，每一环都缺席。还有一层，很少有人想到：跪久了，机器那一边也在变形。你问机器问题的方式，会改它回给你的东西。这一点不玄。你问「五号字是不是十磅」，和你问「五号字换成磅数有几种说法，各自从哪儿来」，它回的不是同一种答案。前一种问法里，已经藏了一个想要的「是」；它很会顺着说。

一个跪着问的人，问出来的往往是顺从的回答。他问得越笃定，它答得也越笃定。两边互相加码，最后得到一句又响又空的话。所以，跪的人并没有得到一个「更准的它」。他得到的，是一个被他跪出来的它：一个只会顺着说、从来不被顶回去的它。本书前面说过，每一次提问与回应，都在重新塑两端。跪着提问，塑出一个缺席的人；被跪着提问，塑出一个没人核对的机器。两端一起变了形。再往外推一步，就是一群人。

一个人跪，代价落在一单县志上。一群人跪，代价落在整个核对链上。前面说过，信任能转起来，是因为后面有一条一条的链子：有人试，有人审，有人查。要是越来越多的人只取不核，那些链子上的人就越来越少。据一些研究者的担心，机器写出的文字越来越多地被放回网上，又被下一代机器读进去，没核过的东西会一层一层地叠上去〔待核〕。这时候，「它读过的书比谁都多」这条道理，就悄悄变了味。它读得多，可它读的里面，有多少是被人核过的，有多少只是另一台机器写的「像」？最后还有一个后果，最有讽刺意味。

跪着的人，迟早会被烫一次。县志印错了，诉状被法官退回了，车开进了水里。烫过以后，很多人会掉头，从跪一下子跳到怕：再也不信它了，让孩子别碰它，在家里立规矩。这一跳，看起来是醒悟。可是他只是从地图的这一头，跑到了地图的那一头。两个圈还在，中间那段路，还是没有画上。其实，把它的话「一律不信」，也是一种把判断交出去的办法。一个人发过誓再也不信机器，以后遇到它给的任何一句话，都不用去对了——反正是错的。这听起来很硬气，可是跟「它说的一律对」一样省事。两种人都不用拿尺子去量，一个照单全收，一个照单全退。量的那一段路，在两种人那里，都一样空着。

◆十、楼梯拐角那一声「停」

换一副眼镜看。本书有一个从头用到尾的比喻：两个人抬一张沙发下楼梯。老式的居民楼，楼梯窄，转角急。沙发长，扶手宽。两个人一前一后，前面的人倒着走，后面的人看得见路。到了拐角，最难。你要是抬过，就知道那一下是怎么过去的。前面的人喊：「往你那边抬一点。」后面的人说：「抬不了，碰着扶手了，你先往下放。」前面的人放了一截，又喊：「停，卡住了，把头竖起来。」后面的人把那一头往上一翘，前面的人顺势一拐，过去了。沙发拐过那个弯，算谁的？拆开看，谁都没拐。前面的人看不见上头的扶手，后面的人看不见下头的台阶。合起来，弯拐过去了。现在设想另一种抬法。

到了拐角，后面那个人说：「你看得清楚，你说怎么走就怎么走，我不吭声了。」他还抬着，手上的劲一点没少，可是嘴闭上了，眼睛也不往上头看了。前面的人只顾着脚下，没留神上头的墙角，沙发一下子刮在墙上，掉了一大块皮。这时候，你能说后面那个人「没干活」吗？他明明在抬。你能说前面那个人「判断错了」吗？他只看得见他那一半。出事的，是两个人之间那一声来回。那一声「停，卡住了」，本来该从后面传过来。它没来，沙发就只剩一个人在拐。

判断不在任何一端，它长在来回核对的那一段里；一方缺席，复合体就塌成了单边。

「复合体」这个词，本书在导论里讲过。它说的是：一个人和一台会说话的机器一来一回地交手，交出来的那一个整体。这个整体里，人不是原来那个人，机器也不是出厂时那台机器，两边都在这一来一回里被重新塑了一遍。神谕崇拜，就是这个整体塌掉的一种样子：人那一边，把嘴闭上了。请注意，塌掉的反面，不是「人重新掌舵」。前面那个看得见台阶的人，并不需要后面的人来指挥他怎么下每一级。后面的人也不需要被前面的人指挥。没有谁掌舵，弯照样拐得过去。要的只是两边都在喊，都在听，都在改。拿来回核对来说，它大概是这样一段路：

那一边给出一句话。这一边拿手边有的东西去碰它——一把尺子，一本老书，一次走过的路，一个「不对劲」。碰出一个缺口，就把缺口送回去：「你这个数从哪儿来？」「我这边量出来不一样。」那一边再给一句，可能改了，可能更坚持，可能说「我不确定」。这一边再碰。几个来回以后，一句能用的判断长出来了。它不是机器原来那一句，也不是人原来心里的那个猜测。它是两边碰出来的第三样东西。

在这一段路上，机器那一边的样子也会变。一个从来不被顶回去的它，只会越说越笃定；一个常被问「从哪儿来」的它，会更常说出「这一点我不确定」「最好再核一下」。这些话，在神谕那里是没有的。皮提亚从来不说「我不确定」。一台会说「我不确定」的机器，并没有变弱。它在复合体里站到了一个新的位置上：它给出的不再是圣旨，而是一张待验的条子。条子写得再漂亮，也要有人接过去验。人那一边，也站到了一个新的位置上。他不再是一个求问的人，也不是一个审判的人。他是那个拿着尺子、把条子翻过来看背面的人。这两个位置，谁都不是原来就有的。它们是在一次次来回里，一起长出来的。

甲骨上的四段卜辞，也是这样一段路：问，裂，读，验。雅典人的「木墙」，也是：神谕，争，船，海战。苏格拉底一辈子做的事，说穿了，也就是把这一段路走长。其实，姜师傅自己的行当里，本来就有一套把这段路走长的老规矩。印刷厂里，一本书从排好到开机，中间要过好几道校对。排版员排出第一版，打出样张，叫毛样；校对员拿红笔在上面划，叫一校；改完再打，二校；再改再打，三校。三校以后，还要有人通读一遍，才签字付印。厂里管这套叫「三校一读」〔核：出版行业通行做法，各社细则不一〕。

在这套规矩里，没有一个人是神。排版员会排错，校对员也会看漏。每一道校对，都只是把上一道的样张当成一张待验的条子。红笔划出来，送回去改，改完再打出来，再划。一本书的版面对不对，不是哪一个人说了算的。它是在这一张张样张、一道道红笔里，来回碰出来的。姜师傅干了三十年这一行，红笔用掉了不知多少支。那天晚上，他自己就是这套规矩里最老的一环。他只是忘了，机器给他的那个数，也该当成一张毛样。

◆十一、一罐蜂蜜的广告词

讲一个今天的、完整的例子。十月初，姜鸣的公司接了一个小单子：给县里一家合作社的土蜂蜜写一组网店的商品文案。合作社的负责人是个五十来岁的蜂农，在电话里说得很朴实：「我们的蜜好，你们帮着说说。」组里的新同事小郑，先把活扔给了会说话的机器。他输了一句：「写一段土蜂蜜的卖点文案，突出健康功效，要有说服力。」几秒钟，一段漂亮的话出来了。里面有一句：「据某大学研究，坚持每天食用土蜂蜜，免疫力可提升 30%。」后面还跟着一个像模像样的论文题目和期刊名。小郑很高兴，觉得有数据、有出处，客户肯定满意。他把稿子发到组里的群里，说了一句：「它查的，有文献。」

姜鸣看了一眼，觉得哪里硌了一下。他说不清是哪里。也许是「30%」这个数太整齐了。也许是他想起来，这一年他自己被机器编的文献坑过两次。也许只是蜂农电话里那种朴实的口气，跟这句话对不上。他没有直接说「这是假的」。他也不知道是不是假的。他做了一件很小的事：把那个论文题目复制下来，到学术网站上搜。搜不到。换着关键词搜，还是搜不到。期刊是真的，那一期里没有这篇。他回到机器那里，问：「你上面引的这篇研究，能给我原文链接吗？」机器回了一段话，大意是：很抱歉，它无法确认这篇研究的存在，之前的引用可能不准确。

到这里，换一个人，也许就掉头了：它会编，不用了。姜鸣没有掉头。他接着问了第二句：「卖普通食品的广告，能写哪些话，不能写哪些话？」机器列了一些。它说，大意是：普通食品一般不能宣称治疗疾病或者保健功效，具体以当地的法规为准。姜鸣又去查了一下他能查到的规定原文，对了几处，大体对得上〔待核：具体条款以现行法规为准〕。这一回，机器那一边没有编，它给的是一个方向；姜鸣这一边去对了，对上了。两个来回下来，至少有一件事定了：「免疫力提升 30%」这句话，不管有没有那篇论文，都不能放进去。蜂蜜总还得卖。那该写什么？

姜鸣给蜂农打了个电话，问了半个钟头：蜂箱放在哪座山上，一年摇几次蜜，为什么冬天的蜜会结晶，城里人常问什么。蜂农讲得很高兴，说到他家的蜂箱放在半山腰的油茶林里，每年十一月油茶开花，蜂子出去得最早。挂了电话，姜鸣把这些话原样打给机器，说：「用这些料，写三版，不写功效，只写这片山和这个人。」

三版出来了。第一版太煽情，他删了一半。第二版写得平，可是里面有一句「冬天结晶，是因为它没有被加热过」，他觉得这句好。他又去查了一下蜂蜜结晶的道理，大体是这么回事，不过「没加热」只是原因之一，他把话改得留了余地。第三版里，机器把油茶花写成了「春天」开，他一眼就看出来，划掉了。最后交出去的文案，有一句是这么写的：「十一月，山上的油茶开花，我们家的蜂子出门最早。」这句话，算谁的？油茶林和十一月，是蜂农的。把它从半小时的电话里挑出来，是姜鸣的。把它压成这样一句短话的句式，是机器给的。把「春天」改回「十一月」，又是姜鸣碰出来的。

拆开看，谁都没写出这句。合起来，它长出来了。请再对照一下小郑那一版。那一版里，机器说了，小郑就收了。判断那一段路，被整个省掉。要是那段文案上了网，被人举报，被平台下架，小郑会说「是它查的」，机器那一头，没人能叫来问话。姜鸣这一版里，没有谁坐上座。他没有跪着收，也没有一怒之下扔掉不用。机器被他问了五六次，每一次都被顶回去一点；他自己，也被机器那几版稿子推着，想到了「只写这片山」这条路。

这一个下午，复合体里长出了两个新的位置。机器的位置，从「出答案的那一方」，变成了「出料、出版本、提醒规矩的那一方」。姜鸣的位置，从「要文案的人」，变成了「问出处、找现场、改一个字的人」。这两个位置，在那个下午之前都不存在。是一来一回里长出来的。后来组里开会，小郑问姜鸣：「你怎么知道它是编的？」姜鸣想了想，说：「我不知道。我只是搜了一下。」这句话，听着平常，其实就是这一章的全部。他没有一种看穿机器的神通，他只是没有把自己那一边撤掉。

过了一个星期，小郑接了另一单，给一家做手工挂面的小作坊写文案。这一回，他把机器给的第一版发到群里时，后面跟了一句：「里面说挂面是明朝传下来的，我还没查，谁知道去哪儿查？」组里有人回他，可以先问作坊的老板，再去翻县里的地方志。小郑这一句「我还没查」，比他上一回那句「它查的，有文献」，少了一点底气，多了一截路。那一截路，是他、机器、组里的人和那位老板之间，接下来要一起走的。

◆十二、同一张图上的几个邻居

神谕崇拜，在本书的十种思潮里，有几个邻居，住在同一张图上。最近的邻居，是第 6 章的意识之争。那一章里，有人说「它里面有一个心」，有人说「它里面只是统计」。两边都在敲同一扇门，都认定里面装着一样现成的东西。神谕崇拜，是把这扇门后的东西再往上抬了一级：它里面不光有，还装着真理。第二个邻居，是第 2 章的末日失控论。怕它醒来、怕它统治的人，和跪它的人，前面已经对过：一个往外推，一个往上捧，手上拿的是同一张两个圈的图。

还有一个不太起眼的邻居，是第 5 章附带讲的提示词万能论。那一种说法认为，只要咒语念对了，它就会吐出对的答案。听起来比跪多了一点主动，可是那份主动只花在问之前；问完了，答案一到手，照样照单全收。念咒和求神，在德尔斐本来就是一套：先献祭，再听神谕。对一个只研究怎么念咒的人来说，答案出来以后那一段路，同样是空的。第三个邻居，乍一看像对头，是第 4 章的工具中立论。那一种说法是：它只是一个工具，判断全在用的人手里。神谕崇拜正好倒过来：判断全在它手里，人只是一个取件的。

一个说「全在人」，一个说「全在它」。听着势不两立，其实两边都相信，判断是一件可以整个放在某一边的东西。都没看见那一段来回的路。往后看，还有第 8 章。那一章要讲的技术决定论，把「未来」整个交给技术，人只需等它送达。把判断交给神谕，和把未来交给技术，是同一个动作放大了一圈：先认定答案在那边已经写好了，人这边只剩下等和取。

第 9 章的作弊论，在这张图上站在另一个角落。它的问题是「这段话算谁的」，硬要拆账。神谕崇拜其实早就把账拆完了：全算它的。蜂蜜那一句广告词，在作弊论眼里是一笔糊涂账，在神谕崇拜眼里压根不用算。两种眼光，看漏的是同一处——那句话是在来回里长出来的。把这几个邻居排在一起看，会看出这本书的一个反复出现的样子：思潮和思潮吵得越凶，越容易让人以为它们隔得很远。可是它们隔着的，往往只是座次。图，还是那一张。

◆十三、尺子从抽屉里拿出来了

回到姜师傅那个星期三。那天夜里，姜鸣没跟他爸争。他知道争不出来。他只说了一句：「爸，明天能不能把那本老县志拿来，你量量看。」第二天是个阴天。姜师傅从厂里的资料室翻出了那本三十年前的县志，一页一页地翻，翻到正文，戴上老花镜，把那把铜边字号尺压在字上。他量了好一会儿，没吭声。然后他说：「不对。」不是手机不对，也不是他记的不对。是那本书上的字，比他记得的五号字略小一点，比手机给的数又大一点。他想起来了：三十年前厂里用的那批铅字，是从外省一家老厂调来的。那批字，跟后来的标准件本来就有一点差〔待核：不同厂家铅字尺寸确有出入，具体差多少因厂而异〕。

这件事，他自己忘了。机器也无从知道。要不是机器给的那个数跟他心里的数对不上，他也不会想到要去量。他让姜鸣帮他把量出来的字宽打给手机，问：「老书上一个字这么宽，排成新版要多少磅，行距怎么配，才能跟老书一样？」机器这回给的，是一道算式和一个数，还说了一句：不同软件里磅数的算法可能略有不同，最好打一页样张对一对。姜师傅哼了一声：「这句倒是老实话。」他让排版员照这个数打一页样张，拿来跟老书叠在一起，对着窗户看。差一丝，又调了一点。第三张，叠上去，字和字严丝合缝。那天下午，他打电话给县志办，说按老书量的，样张已经出来了，请他们来看。

姜鸣后来跟姐姐姜岚说起这件事。姜岚想了一会儿，说：「那个数，最后到底是谁定的？」姜鸣也答不上来。尺子是爸的，算式是机器的，老书是三十年前的厂子留下的，样张是排版员打的。那一丝的差，是窗户的光透出来的。这个数，是在这一圈来回里长出来的。它不在任何一个人的抽屉里，也不在任何一台机器的「全网」里。那个周末，一家人回老屋吃饭。饭桌上，朵朵又说起学校里的事，说到一半，习惯性地加了一句：「音箱说的。」姜师傅放下筷子，难得开了一句玩笑：「音箱说的，你量了没有？」一桌人都笑了。朵朵不知道大家笑什么，问外公量什么。

姜师傅想了想，没讲字号，也没讲县志。他讲起了他十九岁那年，沈师傅每天问他的那一句话。讲完了，他说：「它说的，跟沈师傅说的一样，都得过一遍尺子。尺子量完了，它那句话才算数，我这把尺子也才算数。」姜鸣在旁边听着，没插话。他想，他爸这一年，从不碰它，到跪它，再到今天这样，好像走了三十年里没走过的一段路。这段路，他爸一个人走不出来，那台机器也替他走不出来。如果你身边也有一个姜师傅，或者你就是，下面几件事明天就能试。都很小，也都不需要你先变成一个什么都懂的人。

1. 它给出一个答案，多问一句「这是从哪儿来的」，然后挑一处，自己去敲一下。敲一处就够，敲出来对得上，再信也不迟。
2. 问它之前，先在纸上写下自己猜的答案，哪怕很粗。它答完，看看两边差在哪里。差出来的那一块，常常就是最该去量的地方。
3. 它说得最笃定的那一句，回一句：「要是这句错了，最可能错在哪儿？」它给的提醒，有时比它给的答案更有用。

这几件事，做的都是同一件事：让来回的那一段路，别在你这边断掉。那把字号尺，后来没再放回抽屉。姜师傅把它挂在了排版间的墙上，旁边就是那台新电脑。

未来不会自己送上门

◆一、短视频里的那句「再过五年」

十月底一个星期六的晚上，姜鸣从省城回了县城。吃过饭，姜师傅靠在沙发上刷短视频。屏幕里，一个穿黑 T 恤的人站在一块巨大的屏幕前，背后是四个发光的字：未来已来。他语速很快，像在赶一班车。他说，再过五年，机器看片子会比最好的专家还准；再过十年，每个孩子都会有一位不知疲倦的私人老师；看病难、上学难、老了没人陪，这些事，技术会一样一样替我们解决。视频底下，评论一排一排往上滚：「未来可期」「赶上好时代了」「等着就行」。姜师傅把手机递过来。「你们干这一行的，这话靠谱不？」姜鸣接过手机，没有马上答。他想起的是这天上午。

他自己的饭碗，也被这样的视频许诺过好几回。去年公司开年会，台上放的片子里说，再过两年，文案这一行就不需要人了。台下的同事有人笑，有人低头看手机。两年快到了，他还坐在那张折叠桌前，每天跟 AI 来回几十趟，活儿没少，只是换了一种干法。上午他陪他爸去县医院拿体检报告。医院大厅刚换了新样子，墙上挂着一条红底白字的横幅：智慧医院，让数据多跑路。大厅中间立着三台自助机，屏幕亮得晃眼。原来的四个人工窗口，关了三个。

一位老太太站在第一台机器前，手里捏着医保卡，翻来覆去地找插口。屏幕上的字她看不清，凑近了看，又被后面的人催。她回头说了一句什么，姜鸣没听清，只看见她把卡攥得更紧了。姜师傅自己也站了快一刻钟。机器让他扫码，扫了码又让他在手机上做人脸识别。他摘了眼镜，又戴上，把脸凑近，又拉远，手机就是认不出他。最后还是姜鸣接过来，三下两下弄好了。姜师傅当时没说话。回家的路上，他才嘟囔了一句：「这东西是给年轻人造的。」厂里的事，也差不多。

两年前，印刷厂上自动排版系统那天，厂长在全厂大会上讲话，讲的也是这一套：系统一上，效率翻番，以后什么都不用愁。系统确实是好系统。规整的稿子丢进去，一本两百页的书，喝杯茶的工夫就排好了。可客户送来的稿子，多数不规整。有的是 Word 里套了七八层格式，有的是微信里转了三道的截图，有的干脆是手机拍的手写稿，歪着，还带着一个大拇指的影子。系统认不出，最后还得姜师傅一页一页地手调。愁的事没少，只是换了几样。所以姜师傅递过手机的那一问，里面其实装着两幅画。一幅是视频里的：一条往上翘的曲线，曲线的尽头，病都好治，书都好读，日子都好过。

另一幅是这天上午的：一位老太太攥着医保卡，站在一台很聪明的机器前面，不知道该把卡往哪里插。他不是不信那条曲线。他是想不通：视频里说的那个未来，和医院大厅里的那个上午，是不是同一个未来？如果是，中间那段路，谁来走？如果不是，那个未来又是给谁的？你大概也刷到过这样的视频。听完心里一热，觉得日子有了奔头；关掉手机，回到排队的窗口、卡住的小程序、教不会父母用的那个软件，又觉得哪里对不上。这股思潮有两副面孔。一副是安静的。它说：技术有它自己的方向，社会跟在后面走，你着急也没用，等着就好。这叫技术决定论。

另一副是着急的。它说：既然方向早就定了，那就别磨蹭，踩油门，越快越好；拦在路上的，都是迟早要被冲掉的旧东西。这叫加速主义。一个等，一个催。等的人和催的人，脾气相反，盼的却是同一样东西：一个已经写好了的未来。这一章要问的就是这件事：未来，真会自己送上门吗？

◆二、替它把话说足

先别急着摇头。这股思潮手里有很多真东西，先替它把话说足。第一样，是历史的账本。你往前翻三代人的日子看看。姜师傅小时候，县城里打一个长途电话，要跑到邮电局去排队，按分钟计费，说话得掐着表。今天，姜鸣在省城的出租屋里，随手就能和他爸视频，看得见他爸身后墙上那张褪了色的年画。天花这种病，在人类历史上杀过无数人。1980 年，世界卫生组织宣布它被根除了〔据常见记载〕。抗生素让很多从前要命的感染，变成了吃几天药的小事。化肥、良种、灌溉，让很多地方第一次不再年年担心饿肚子。

这些事，不是哪一场演讲劝出来的，也不是哪一代人咬牙熬出来的。东西一来，日子就变了。你很难不承认：技术推着人走，这是真的。姜师傅自己就是证人。他刚进厂那几年，一本书从交稿到印出来，要两三个月；现在，快的一个星期就能拿到样书。他嘴上不说，心里是认这个账的。第二样，是技术自己的「下一步」。有了蒸汽机，就有了火车；有了晶体管，就有了电脑；有了电脑和电话线，就有了互联网。一样东西出来，下一样东西好像就排在后面等着。

还有一件很奇怪的事：很多发明，是几个人在差不多同一时候、互不知情地各自做出来的。电话的专利申请，据说有两个人在同一天递了上去〔据常见说法〕。微积分，英国和德国各有一个人几乎同时琢磨出来，后来还为此吵了很多年。这种事多了，就让人觉得：时候到了，东西自己会来。谁来发明，只是谁先伸手接住而已。技术像一条河，人只是河上的船。还有一条曲线，常被拿来作证。1965 年，一位做芯片的工程师写过一篇短文，大意是：一块芯片上能放下的元件，每过一两年就会翻一番（摩尔，1965 年〔核：大意〕）。后来人们把这叫作摩尔定律。

这条曲线，后来跑了几十年，大体上没有走样〔据常见说法〕。你手里那部手机，比当年把人送上月球的那台计算机，算得快得多。一条曲线能连着几十年不走样，就很容易让人相信：曲线才是主角，人只是在曲线上排队。第三样，是它解释了为什么禁不住。第 3 章讲过那些砌墙的人：禁小说，禁电视，禁计算器进课堂。墙砌了一道又一道，最后都没挡住。技术决定论对此只说一句：挡不住的，因为方向不在你手里。第四样，是加速主义多走的那一步。

它说：既然挡不住，那么挡，只会让过渡期变长。过渡期越长，旧的行当半死不活，新的东西半通不通，夹在中间的人最受罪。一刀切过去，疼一下就过了；钝刀子割肉，才是真残忍。它还说：今天人类最难的那些题——气候、衰老、癌症、能源——靠修修补补是解不开的，只有更强的技术才解得开。拦着技术，等于拦着解药。第五样，是它给人的心气。第 2 章讲过另一种看法：怕它醒来，怕它统治我们。和那种整天提心吊胆比起来，「技术会解决」至少给了人一个奔头。一个县城的父亲，听完视频，心里一热，觉得孙辈的日子会比自己好——这一热，不是坏事。

对年轻人，它还多给一样东西：一个出口。房租、加班、考不完的证，日子像一条看不到头的走廊。这时候有人说，别急，曲线马上就要拐上去了，到时候这些都不算事——这句话听着，像走廊尽头忽然开了一扇窗。谁会不想往那扇窗那边看一眼呢？这样摆下来，你大概会点头：对啊，历史不就是这么一路过来的吗？这股思潮最结实的一句话是：技术打开的门，一旦开了，就很难再关上。这句话本书不打折，后面还要用它。

◆三、一八五八年，海底的那根电线

先讲一根电线。1858 年 8 月，第一根横跨大西洋的海底电报电缆接通了。一头在爱尔兰，一头在纽芬兰，中间是三千多公里的海底。英国女王和美国总统互发了贺电〔据常见记载〕。那一年的纽约，像过节一样。游行，礼炮，烟火。据后来的记载，庆祝的烟火放得太猛，把市政厅的屋顶都点着了。同一年出版的一本讲电报的书里，有一段话后来常被人引用。大意是：这根线把世界上的各个民族连在了一起，旧的偏见和敌意，不可能再存在下去了（布里格斯、马弗里克《电报的故事》，1858 年〔核：大意〕）。请注意那几个字：不可能再。

一根铜线，一头系着欧洲，一头系着美洲。写书的人看着它，看见的是一个已经写好的结局：话能跑过大洋了，误会就没处藏了，战争就打不起来了。那根电缆，只工作了三个星期左右，信号就断了〔据常见记载〕。后来又试了几次，到 1866 年，才铺成一条耐用的。电报后来确实改了世界。新闻从几个星期变成了几个小时；伦敦的股价，纽约当天就能知道；一个国家的外交部，可以一天之内和另一个国家来回好几趟。可是，五十多年以后，1914 年的夏天，欧洲还是打起来了。

更扎手的是，那年夏天，各国首都之间的电报来来回回，比以往任何时候都密〔据研究文献〕。最后通牒是用电报发的，动员令是用电报传的。有研究战争起源的人说，大意是：消息跑得太快，留给人冷静下来的时间太短了〔据研究文献，大意〕。电线没有错。它让话跑得更快了。可跑得更快的话，是一句和解，还是一份最后通牒，电线管不着。那要看说话的是谁，他们背后是什么样的国家、什么样的盟约、什么样的怨气，那年夏天的报纸在煽什么火。写书的人错在那句「不可能再」。他把一根线能打开的一种可能，当成了一个已经送到门口的结局。同一根电线，到了中国，又是另一副样子。

据常见的记载，十九世纪七八十年代，清朝朝廷里为要不要架电线，争过好些年。有人担心电线杆破坏风水，有人担心洋人借电线刺探消息。后来终于架起来了，头几条线，多半用来传军情、传公文、传官府的命令〔据常见记载〕。同样是电报，在纽约是放烟火的节日，在这里是衙门里的一件要紧家什。它先长成了什么样，要看它落在了一个什么样的朝廷、一种什么样的担心、一群什么样的用它的人中间。这样的话，后来每一代人都说过一遍。

◆四、爱迪生说，课本快要用不着了

再讲一块银幕。1913 年，爱迪生接受报纸采访时说过一段话，大意是：书本在学校里很快就要过时了；孩子们以后要靠眼睛学；人类知识的每一个门类，都可以用电影来教；十年之内，学校会彻底变样（1913 年报纸访谈〔核：大意〕）。说这话的人，是发明了留声机、改进了电灯、亲手推着电影往前走的人。他不是在空口说白话。他看见了一样真东西：会动的画面，比一页页的字更抓人。十年过去了，课本还在。一百年过去了，课本还在。后来是收音机。再后来是电视。每一次，都有人说差不多的话：把最好的老师，送进每一个家庭的客厅。

再后来，是 2012 年前后的网上公开课。名校把课程录下来，免费放到网上，全世界谁都能看。有报纸把那一年叫作「慕课之年」〔据常见说法〕。有人预言，大学的校园很快就会空掉。后来常被引用的一些研究说，注册这些课的人里，真正学完的只占很小的一部分；学完的人里，又有很多本来就上过大学〔待核〕。也就是说，管道通到了每一个人的门口，可真正接住它的，多半是那些家里本来就有书桌、有台灯、有人督促、有过学习习惯的人。姜岚对这件事有切身的记忆。

几年前，她教的那个班也上过一阵子网课。同样的直播，同样的课件，同样是她对着摄像头讲。班上有的孩子，坐在自己的小房间里，用平板听，作业整整齐齐。有的孩子，和上夜班回来的爸爸挤在一部手机前，爸爸要睡觉，他就把声音调到最小。还有一个孩子，连着一个星期都没上线，后来才知道，家里那部手机被奶奶带去了乡下。同一根管道，在三张不同的桌子上，流出了三样不同的东西。那个一个星期没上线的孩子，后来是怎么回来的，姜岚记得也很清楚。

不是来了一部更好的手机。是她骑着电动车，去了一趟那孩子的奶奶家，把一周的作业纸打印出来，放在他家的饭桌上。后来，班上几个家长凑了一部旧手机，留在那孩子家里，专门上课用。网课这根管道，到了那张饭桌上，是靠一辆电动车、一沓打印纸和一部别人家淘汰的旧手机，才接上的。请注意，这里没有一样是坏技术。电影是好东西，电视是好东西，网课也是好东西。出问题的，是那句「十年之内」。它把学习想成了一件靠管道送达的货：管道一通，货就到了。可学习不是货。它长在一个孩子、一张桌子、一盏灯、一个陪着的人、一套考什么就学什么的规矩中间。管道只是其中的一根。

◆五、一张写好年份的时间表

在银幕和慕课之间，还隔着一段原子的梦。1954 年，美国原子能委员会的主席在一次演讲里说过一句后来常被拿出来说的话，大意是：我们的孩子将享用便宜到不必计量的电（1954 年演讲〔核：大意〕）。那是核电站刚刚起步的年代。一小块铀，能顶几列火车的煤。照着这个算法，往后的电费单，好像真的可以不用印了。后来的核电，确实成了很多国家电网里一块很大的砖。可电费单一直在印。

建一座核电站要多少钱，要多少年，选址时附近的人同不同意，出了事故谁来担，用过的燃料往哪里放，这一样一样，都不在那一小块铀里。它们是在后来几十年里，跟着一座座电站、一场场听证会、几次让全世界都紧张的事故，一点一点冒出来的。那句「不必计量」，又一次只算了一端：铀有多大的力气。另一端，土地、钱、人心、规矩，被留成了空白。到了今天，这股思潮有了一张更细的图。

1993 年，美国数学家、科幻作家文奇写过一篇文章，后来流传很广。他说，大意是：三十年之内，人类将有能力造出比人更聪明的智能；那之后不久，人的时代就结束了（文奇《即将到来的技术奇点》，1993 年〔核：大意〕）。「奇点」这个词，是从物理学里借来的。意思是到了某一个点，以前所有的规律都不管用了，你站在这一边，看不见那一边。请注意这个比方里藏着的一样东西。站在这一边的人，看不见那一边；那么，那一边是什么样，就只能等着它来。这个词本身，就把人放在了一个只能等的位置上。

后来，有人把这个说法推成了一张更细的时间表：哪一年机器追上一只老鼠的脑子，哪一年追上一个人，哪一年追上全人类加起来。画在图上，横轴是年份，纵轴是能力，一条曲线先平后陡，到最后几乎是直着往上冲。文奇说的三十年，到今天已经走完了。它算不算应验，各人有各人的说法，本书不来裁这件事。本书只看这张图的形状。你仔细看那条曲线。曲线上标着年份，标着芯片，标着算力。曲线上没有一个县城，没有一家医院，没有一位排版师傅，也没有一位攥着医保卡、找不到插口的老太太。

你再看看那张图底下的评论区。「等着就行」「躺赢」「赶上好时代了」。写下这些话的人，很多大概跟姜师傅一样，正排着队，正对着一个转不动的小程序发愁。那条曲线给他们的，是一份很安心的许诺。许诺里，他们什么都不用做，只要活到那一年。这张时间表只写了一端的年份。另一端，被留成了空白，等着在曲线走到的时候，被一起带过去。在这张图的旁边，又站着一种更急的说法，叫加速主义。它的意思大致是：既然曲线往上翘，那就别拦着。不但不拦，还要给它加油。旧的规矩、旧的习惯、旧的行当，越快被冲掉越好；拖拖拉拉，只会让每个人都多疼几年。

这种说法有好几个版本，彼此的立场差得很远。有人想借着加速冲掉现有的经济制度，有人想借着加速冲掉一切监管〔据研究文献，大意〕。方向几乎相反，用的却是同一张图：曲线在那里，终点在那里，剩下的问题只有一个——快一点，还是慢一点。等的人和催的人，在这张图前面握了手。

◆六、先说它对在哪儿

说它错之前，先把公道还给它。技术确实推着很多事往前走，这一句，本书一个字都不打折。没有疫苗，天花不会被根除；没有手机，姜鸣不会在省城每天看见他爸；没有自动排版系统，规整的稿子不会一杯茶的工夫就排完。技术打开的门，也确实很难再关上。你很难让一个县城回到没有手机的日子，就像你很难让一个识了字的人重新变回不识字。从这一点说，技术决定论看见了一样很多人不愿看见的东西：门一开，人就会往门里走，回不去了。加速主义也有它对的地方。拖着不改，代价同样是真的。一个行当半死不活地拖十年，夹在里面的人，可能比痛痛快快转一次行更受罪。很多改革，确实是慢了比快了更疼。

那么，「技术自己会把一切解决」这句话，在什么条件下是完全对的？有一个很具体的条件：别的几样，都已经到位了，而且站得很稳，只差技术这一样。打个比方。一家医院，医生够，护士够，钱够，来看病的人个个会用手机，挂号、缴费、取报告的规矩早就理顺了，唯一卡住的，是那台老机器太慢。这时候，换一台新机器进来，问题就真的解决了。新机器一到，日子就变了，中间不需要谁再多做什么。用抬沙发来说：两个人早就配合熟了，楼梯量好了，拐角也试过了，只差把沙发换成一张轻一点的。换了，就过去了。在这个条件下，「等着就好」是对的，「越快越好」也是对的。技术真的就是最后那块拼图。

加速主义里，还有一样东西值得留下：它对拖延的那份不耐烦。很多时候，弯拐不过去，不是因为技术不够好，是因为大家都在楼梯上站着不动，谁也不先挪一步。一项早就该改的规矩，拖了十年；一个早就该换的系统，因为「怕出事」一直不换。这种时候，有人在后面喊一声「快一点」，是有用的。本书要拆的，不是这份不耐烦，是它背后那张图。可是，你回头看看前面那几个故事。1858 年的那根电线，接上的是两块彼此猜忌、各有盟约的大陆，不是两块只差一根线的大陆。1913 年的那块银幕，照的是一群家境不同、课桌不同、考法不同的孩子，不是一群只差一部电影的孩子。

今天县医院的那三台机器，面对的是一大厅不会扫码的老人、关掉的三个窗口、在外地打工的子女，不是一个只差一台新机器的医院。三处地方，离「只差技术这一样」，都还差着一大截。差的那一截，恰恰是最费工夫、最没人愿意写进演讲稿的那一截。就连那些看上去「技术一来就成了」的事，细看也不全是这样。你看县城菜市场里的扫码付款。好像只是几年工夫，卖菜的大妈、修鞋的大爷，摊子上都挂起了一张塑封的二维码。这件事，常被拿来当技术自己铺开的例子。

可你要是问一问摊主，故事就多出好几样。手机在那之前已经差不多人手一部了；不用找零、不收假钞，是摊主自己早就想要的；码是平台的推广员一个摊一个摊上门贴的，还送了一个会报「到账多少元」的小音箱；不会弄的，是在外地上班的女儿过年回来，手把手教会的。几样东西正好都在，又一起推了一把，那个弯才拐过去。它拐得快，不是因为技术自己会走，是因为楼梯那几年正好宽。那个「只差技术这一样」的条件，在真实的日子里，很少成立。更多的时候，技术一来，别的几样不但没有到位，还被它一起搅动起来了。

◆七、未来被当成了一件快递

这一刀，切在哪里？切在「未来」上。你看技术决定论和加速主义共同的那张图：一边是技术，一个已经写好路线、自带方向的推进者；另一边是社会，一大群等着它到来的人。中间是一条单行道，路的尽头，是一个已经打好包的未来。用快递来说，最清楚。未来是一件包裹，在别处已经装好了；技术是快递员，沿着写好的路线送过来；社会是收件地址，人是等着签收的人。技术决定论说：别急，会送到的，等着就行。加速主义说：太慢了，打电话催，让它加急。一个等，一个催，谁都没问一句：这件包裹，是在哪里装好的？里面装了什么，是谁定的？

把未来当成在别处打包好的货，技术就成了送货的人，你就成了等着签收的人。

借一道老式子来说，会更清楚。旧的知识论，常把知识写成一个式子：知识＝F（主体，客体，互动）。主体和客体被摆在括号里，当成在互动之前就已经站好了的两个自变量。可主体、客体真的先于互动存在吗？这道题，几百年来没有人证成过。这股思潮，用的是同一个式子，只是换了字：未来＝F（技术，社会）。技术是一个自变量，社会是另一个自变量，两个都在碰面之前就已经做好。连「互动」那一项，都被省掉了。这就是本书说的那一刀。

本书的母题是：把正在发生的复合体，当成两个已经完成的实体来处理。在这一章，被切开的复合体，是技术和制度、习惯、具体人群缠在一起的那一大团；切出来的两个成品，一个叫「技术」，一个叫「等着的人」。「技术」被写成了一个成品。它的方向，在它和任何一个县城、任何一家医院碰面之前，就已经定好了。它像一个自带意志的东西，只管往前走。这一点，和第 2 章那个「会醒来的 AI」很像，只是第 2 章给它装的是想统治人的意志，这一章给它装的是一条注定往好处走的路线。

「等着的人」也被写成了一个成品。他们是谁、会用什么、不会用什么、住在哪里、靠什么吃饭，好像都不要紧。他们只需要在曲线走到的时候，被一起带过去。跟不上的，叫「掉队」。可是，你回到医院大厅里看一看。那三台机器，装进来的那一天，它会变成什么样的东西，并没有定。它可能变成老人们绕着走的一堵墙，也可能变成年轻人省下半小时的好帮手。它还可能变成一个新岗位的起点：一个站在机器旁边、专门帮人点屏幕的人。哪一种会长出来，要看医院怎么排班、窗口留不留、子女在不在身边、厂家改不改界面、老人们自己愿不愿意试第二次。

同样，那一大厅等着看病的人，也不是一群「已经定好的人」。今天不会扫码的老太太，下个月可能就会了，也可能从此不来复查了。她会变成哪一种人，也是在这场来回里定的。请注意，这里说的不是「人要把方向抢回来」。那种说法，只是把那一刀翻了个面：原来是技术先在、人等着；现在改成人先在、技术听话。两端还是两个做好了的成品，只是换了谁坐上座。

医院大厅里真实发生的，是另一件事。机器和病人、窗口和排班、厂家的界面和子女的电话，缠成了一团还没有名字的东西。本书把这样一团叫作复合体。这团东西每来回一次，机器会变成什么、病人会变成什么，就跟着重新定一次。离开这场来回，两头的边界，你画不出来。未来不在别处。它就在这一大厅的来回里，一点一点地拐出来。这话听上去不如「未来已来」那么响亮。可它有一样好处：它让大厅里的每一个人，都还在故事里。那位攥着医保卡的老太太，不是等着被带走的一个数字；那个也许会站到机器边上、专门帮人点屏幕的人，也不是一个临时的补丁。他们都是这道弯的一部分。

旧的想法里，有一条很少被说出口的预设：先有一个东西，然后它去碰另一个东西。主体先在，客体先在，然后才有互动。这一章看到的，是同一条预设穿上了新衣服：技术先在，人群先在，然后才有「技术进入社会」。可在医院大厅里，你找不到一个碰面之前就定好了的「技术」，也找不到一个碰面之前就定好了的「病人」。你能找到的，只有正在碰的那一场。

◆八、顺着这一刀往下推

只切这一刀，会怎样？顺着它往下推几步，你会看见几样很具体的后果。第一样，跟不上的人，被写成了「掉队的人」。既然未来是一件送上门的包裹，那么没签收到的，就是自己没在家。不会扫码的老人，叫「数字难民」；学不会新系统的老师傅，叫「被时代淘汰」；网课没上线的孩子，叫「没有自律」。这些说法有一个共同的方向：问题在人身上。路线没错，曲线没错，错在你没跟上。

可姜师傅站在自助机前的那一刻钟，不是他一个人的事。机器的字号是厂家定的；关掉三个窗口，是医院定的；人脸识别认不出一张五十二岁、常年在车间里熬着的脸，是那套算法在别的脸上练出来的。这一大堆东西缠在一起，才有了那一刻钟。把这一刻钟全记在姜师傅自己的账上，是那一刀切出来的第一个后果。第二样，眼前的事，被推到了曲线后面。如果十年以后机器看片子比专家还准，那么今天县医院缺一个放射科医生，好像就不那么急了：反正快了，等等就好。如果再过几年每个孩子都有一位私人老师，那么今天镇上那所学校缺的英语老师，好像也可以先不补。

一张写好年份的时间表，有一种很奇怪的力气：它让眼前的窟窿显得暂时。可窟窿是今天的，孩子是今天的，病也是今天的。今年没被看出来的那片阴影，等不到十年以后的那台机器。朵朵的学校，就有一个这样的窟窿。她们年级的英语老师，去年调去了城里，到现在也没补上，英语课由一位教数学的老师兼着。开家长会的时候，有家长问起这件事，得到的答复里有一句：以后都有 AI 口语陪练了，这个问题慢慢会解决的。这句话也许不假。可朵朵今年十一岁，她的五年级只有一次。那位兼课的数学老师，每周多上六节英语，自己备课备到半夜。慢慢会解决的那一天，落在朵朵已经升上初中以后。

第三样，「谁来定方向」这个问题，被悄悄拿走了。如果方向是技术自己带着的，那就没有什么好商量的。医院装不装自助机，留不留窗口；学校用不用 AI 批作业，怎么用；厂里上了系统，老师傅干什么——这些本来都是要坐下来商量的事，现在只剩一句话：跟上就行。一个本来要大家一起拐的弯，被写成了一条早就修好的直路。修路的人是谁，不必问。姜岚的学校，今年也接到了一套 AI 批改作文的系统。说明会上，来讲解的人说得很顺：这是大势所趋，各地都在上，早用早受益。

语文组的老师们坐在下面，心里其实有一堆问题：它给的分，要不要算进期末成绩？一个孩子写得歪歪扭扭、却有一句真话的作文，它会怎么判？家长看到机器的评语和老师的评语不一样，听谁的？可「大势所趋」这四个字一出来，这些问题好像就不好意思问了。问了，就像是在拦路。第四样，加速主义推得更远：疼，被写成了必须交的学费。在它的账本上，夹在过渡期里的人，是一个数字，一个比例，一段注定要付的成本。「疼一下就过了」，可疼的是谁、疼多久、疼完以后去哪里，这本账上没有。姜鸣的公司，去年就交过这样一笔学费。

老板从一场行业会回来，在周一的例会上宣布：全面拥抱 AI，三个月之内，文案组从十二个人减到五个人，剩下的活交给系统。他说的话，和那些视频里差不多：早转早主动，晚转就被淘汰，犹豫的代价最大。三个月以后，人是减下来了。可那几个跟了公司五六年的大客户，有两个慢慢不来了。不是系统写得差。是没人再半夜接他们的电话，没人再记得某个老板最讨厌别人用「匠心」这个词，也没人再在提案会上，看着对方的脸色临时改一句。

这些东西，从来没写在任何一张岗位说明书上。它们长在人和客户之间、长在一次次改稿的来回里。一刀减下去，减掉的不只是七个人，还有那七个人和客户之间来回了好几年才长出来的那一截。后来公司又悄悄招回了两个人，专门「对接客户」。老板没再提「学费」这个词。你回想第 1 章讲过的那些织袜工人和马车夫。他们的疼，是真的落在了具体的人身上，落在了具体的那几年里。在一张很长的曲线上，那几年只是一个小小的凹口；可对过那几年的人来说，那就是他的一辈子。第五样，也是最不容易被看见的一样：技术自己，也被写死了。你可能觉得奇怪：这股思潮那么看重技术，怎么会把技术写死？

可你想一想。如果技术的方向早就定了，那么它在一个县城里被怎么用、被怎么改、被怎么嫌弃、又被怎么修好，都不算数。用户的抱怨，是「还不适应」；老师傅的土办法，是「旧习惯」。这些本来能回头改技术的东西，全被当成了噪音。一个只会往前送、不会回头听的技术，是长不好的。就拿那套认不出姜师傅的人脸识别来说。它认不出，可能是因为光线，可能是因为他戴了几十年眼镜，也可能是因为它练的时候，见过的五十多岁、脸上有车间里熬出来的纹路的人太少。

要是这一刻钟被记成「老人不会用」，那么这套东西下一回还是认不出他。要是这一刻钟被当成一条回音，送回造它的人那里，下一回它也许就认得了。同一个一刻钟，记在哪本账上，决定了那套东西往后长成什么样。把这五样放在一起看：这一刀切下去，人被写成了等着签收的人，技术被写成了不听回音的快递员。那个本来正在被一起拐出来的未来，被写成了早就装好的一件货。

◆九、毕昇的泥活字，为什么没有走远

姜师傅对印刷史，比视频里那个人熟。他十九岁进厂，第一年干的是拣字。车间里一排排字架，铅字按部首排好，常用的字放在手边，生僻的放在高处。一天下来，十个指头都是黑的，洗也洗不干净。老师傅说，拣字拣到不用看字架，手自己就能伸到那个格子里，才算出师。那几年，车间里歇工的时候，老师傅们爱讲行当里的老故事。

他年轻的时候，厂里的老师傅给他讲过毕昇。北宋的沈括在《梦溪笔谈》里记过这件事，大意是：有一个叫毕昇的平民，用胶泥刻字，一个字一个印，用火烧硬；排版的时候，把字一个个摆在铁板上，用松脂和蜡固定，印完了再烤化，把字取下来，下次还能用（《梦溪笔谈·技艺》〔核：大意〕）。那是十一世纪的事。比欧洲的谷登堡，早了四百年左右。可活字在中国，没有像在欧洲那样，几十年里铺满一整片大陆。后来的好几百年里，中国的书，很多还是用整块木板雕出来印的。活字也一直有人用，元代的王祯做过木活字，后来还有铜活字、泥活字，可它始终没有把雕版挤下去〔据研究文献〕。

如果技术自己带着方向，这件事就很难讲通。同一个想法，在一个地方走了四百年还是小路，在另一个地方几十年就成了大路。研究印刷史的人讲过好几层缘故〔据研究文献，大意〕。第一层是字。欧洲的字母，大小写加上标点，不过百来个，一套字模就够排一本书。汉字常用的就要几千个，一套像样的活字，要刻几万个，拣字的人要在一屋子的字架间来回跑。第二层是活法。中国的雕版，刻好了能存起来，哪一年要印，拿出来刷几百本就行，卖一点印一点。活字排一次就要拆，适合一口气印很多本的书。

第三层是买书的人。谷登堡那时候的欧洲，大学多起来了，教会要印大批的文书，城里有一大群想读书、也买得起书的人。后来，宗教改革的小册子，更是一印就是成千上万份。姜师傅讲到这里，会加一句他自己的话：「活字是好东西，可它得落在合适的地里。」请注意他这句话。它说的不是活字不行，也不是中国人不行。它说的是：一样技术，它会长成什么，要看它落进的是什么样的文字、什么样的生意、什么样的读者、什么样的朝廷和教会。离开这一大团，你说不清活字「本来」会长成什么。

谷登堡那边也一样。印刷机没有自己带着一场宗教改革来。是印刷机，碰上了一群对教会不满的人，碰上了一种可以大量印小册子的生意，碰上了一批刚学会读书的市民。几样东西一起缠了几十年，才缠出后来那个样子。同一样东西，落在两片地里，长出两种历史。这个故事，在姜师傅自己这一辈人身上，还有下半截。那几千个汉字，曾经是活字走不远的一个缘故。到了二十世纪七八十年代，同样是这几千个字，又逼出了另一条路。

据常见的记载，那时候国内立了一项专门的工程，要让汉字能用计算机排版。难处还是在字多：几千个字，每个字还有好几种字体、好几种字号，那时候的计算机根本存不下。后来，是研究的人想出了一套把字形压缩起来存的办法，再用激光一点一点打到底片上〔据常见记载〕。1987 年前后，有报纸第一次用这套办法整版出报〔待核〕。姜师傅进厂没几年，县里的厂子也开始从铅字往激光照排换。他记得最清楚的不是机器，是车间：铅字架子一排一排拆掉，熔铅的炉子熄了，屋子里第一回没有了那股铅味。

你看，同一样「字多」，在十一世纪是拦路的石头，在二十世纪成了逼着人另找一条路的那股劲。它不是技术自己定的，也不是汉字自己定的，是它们和那个年代的报纸、工厂、科研的人一起，缠出了一个新样子。

技术只给出可能；它跟制度、文化和具体的人怎样缠在一起，才决定会发生什么。

◆十、两个人抬一张沙发下楼梯

换一副眼镜看。还是那个比方：两个人抬一张沙发下楼梯。到了拐角，沙发太长，直着下不去。上面那个人把自己那头往高处一抬，下面那个人往墙那边一侧身，沙发斜着转了半圈，过去了。沙发怎么拐过那道弯，算谁的？拆开看，谁都没拐；合起来，弯拐过去了。现在，把这个比方往这一章的题上推一步。技术决定论讲的是另一种楼梯。它说：这张沙发自己会下楼，楼梯是一条滑道，你站在下面等着接就行。加速主义说：滑得太慢了，在上面推一把。可你真搬过家，就知道沙发不会自己下楼。

它能不能拐过那道弯，要看楼梯有多宽、拐角有多急、扶手碍不碍事、两个人的个头差多少、谁的腰不好、下面那个人有没有先把鞋柜挪开。沙发再轻、再好，楼梯不对，照样卡在那里。技术，就是那张沙发。它可以做得更轻、更窄、更好抬。这很要紧，本书一点不轻看。可它下不下得了楼，是沙发、楼梯、两个人一起在那个拐角上拐出来的。而且，拐的时候，沙发也在变：卡住了，有人把腿卸下来；还卡，有人把它竖起来转。卡过几回以后，厂家再出的沙发，就会把腿做成能拆的。这就是那一大团东西互相改的样子。用的人在改技术，技术在改用的人，规矩夹在中间也在改。未来，就是这道还没拐过去的弯。

它不是在楼下已经摆好的一张沙发，也不是在楼上等着往下滑的一张沙发。它就卡在拐角上，正被几双手、几副肩膀、一道墙和一张沙发一起拐着。拐成什么样，现在还说不准。再看那两种脾气，各自站在楼梯的哪里。等的人，站在楼下，抱着手，看沙发什么时候自己滑下来。催的人，站在楼上，在后面使劲推。一个在下面，一个在上面，可两个人都不在拐角上。沙发偏偏是在拐角上卡住的。所以，问「技术会不会解决一切」，就像问「这张沙发会不会自己下楼」。答「会」，是技术决定论；答「快推」，是加速主义；答「沙发是个祸害，别搬了」，又回到了第 3 章那道墙。

三种答法，都把沙发和楼梯、和抬的人，分成了几个已经做好的东西。放到 AI 身上，也是这样。一个县城里，人和 AI 正在一起抬着很多张沙发：医院的片子，学校的作业，厂里的稿子，姜鸣的文案。每抬一回，人这一头会被抬成什么样，AI 那一头会被抬成什么样，都在跟着变。问题不是去找人「原来」站在楼梯的哪一级，那一级早就不在了。问题是看这一回拐弯，会在楼梯上长出一个什么样的新位置。更好的问法是：这一道弯，眼下卡在哪里？谁的手，可以换一个地方使劲？

◆十一、一个县城的远程诊室

下面讲一个完整的例子。这个例子是把很多地方常见的情形拼起来的，不是哪一家具体医院的新闻，可它里面的每一个环节，你在县城里大概都见过。一个县里，给乡镇卫生院配了一套远程看片子的系统。乡里的卫生院拍了胸片，传到县医院；县医院有一套 AI 先看一遍，把可疑的地方圈出来，再由医生复看，出报告。上线那天，县里开了会，挂了横幅，讲话的人说：以后乡里人不出镇，就能享受到县里的水平。照技术决定论的说法，故事到这里就讲完了。机器装好了，片子能传了，AI 能圈了，剩下的，等着就行。可接下来的半年，事情是一样一样冒出来的。

先冒出来的是片子。乡卫生院的那台老机器拍出来的片子，有的偏暗，有的歪着。AI 是在大医院清楚端正的片子上练出来的，碰上这些片子，圈得乱七八糟，该圈的没圈，不该圈的圈了一堆。县医院的医生复看一张，比自己从头看还费工夫。再冒出来的是人。乡里会操作那台机器的，只有一位四十多岁的技师。她请假去县城照顾生病的母亲那两个星期，片子就一张也没传上来。接着冒出来的是钱和规矩。看一张远程片子，县医院的医生算不算工作量？报告出了问题，算乡里的，算县里的，还是算那套 AI 的？这几件事没人说清楚，医生们就能拖则拖。

最后冒出来的，是来看病的人。乡里的老人拿到一张打印出来的报告，上面写着「建议进一步检查」，不知道是什么意思，也不知道该去哪里查。有的人直接把报告塞进抽屉里。有一位七十多岁的老人，片子上被圈了一个小圈。他把报告看了两遍，只认得「建议」两个字，以为是建议他多吃点好的。那张纸，在他家电视柜的抽屉里躺了四个多月，压在一沓电费单下面。后来他咳得厉害了，儿子从外地回来，翻抽屉找医保卡，才翻出这张纸。机器那一头，事情是做对了的：它圈出了该圈的地方。可从圈出来，到老人坐上去县城的车，中间这一段，没有人走。

到这里，你大概已经猜到了：如果故事停在这一步，三年以后，会有人说，这套系统「没用」，「水土不服」，「老百姓素质跟不上」。另一些人会说：还是技术不够好，等下一代吧。两种说法，都在等一个从别处送来的答案。可这个县里，后来有几件小事，慢慢改了这个故事。县医院一位年轻的放射科医生，把那些拍歪了的片子攒起来。他每个月拉一个群，和乡里的技师一张一张对：这张为什么暗，那张为什么歪，下次站位怎么摆。半年下来，乡里的片子明显清楚了。

厂家的工程师来回跑了几趟，拿这些片子去重新调那套 AI。调过以后，乱圈的少了。医生们也慢慢摸清了它的脾气：哪一类阴影它圈得准，可以放心先看它圈的；哪一类它常常漏，要自己从头再扫一遍。这份心里有数，不在说明书上，是一张一张片子看出来的。卫生院又培训了一位年轻的护士，学会了操作那台机器，技师再请假，片子也不断。县里后来把远程报告算进了医生的工作量。出了问题，三方各自担哪一段，写成了一张表，贴在机房墙上。

乡卫生院还加了一样很土的东西：报告出来以后，由村医打一个电话，用本地话把「建议进一步检查」讲给老人听。电话里还要讲清楚：哪天去，坐哪一班车，到了县医院找哪个窗口。你看这几件事，没有一件是「技术自己解决的」。可也没有一件，离得开那套系统。那位年轻医生的群，是因为有了系统才拉起来的；那张三方的表，是因为出了问题才写出来的；那通村医的电话，是因为报告看不懂才加上的。系统把一道道弯逼了出来，一道道弯又回头把系统改了。同一套系统，在这个县里，长成了一样有用的东西。在另一个县里，同样的系统，可能真的就躺在机房里落灰了。

假如你三年以后去这两个县走一趟，你会听到两种完全不同的话。一个县的人说：远程看片子，就是好，技术改变了乡村。另一个县的人说：那东西就是个摆设，技术解决不了基层的问题。两句话，都会被当成「技术」的证据，一个当作技术决定论的证据，一个当作反对它的证据。可它们说的，其实都不是那套系统本身。它们说的是两道弯：一道被拐过去了，一道卡在了那里。区别不在系统。区别在那个拐角上，有没有人换了一个地方使劲。

请再注意一件事。那位年轻医生、那位技师、那位村医，他们也不是一开始就是现在的样子。年轻医生原来只会在大屏幕前看片子，现在多了一样本事：教乡里的人拍片子。村医原来只管量血压，现在多了一样本事：把一张报告翻成本地话。他们的新位置，也是在这半年的来回里，一点一点长出来的。那套 AI 也一样。它刚来的时候，是一套在大医院片子上练出来的东西；半年以后，它是一套见过很多乡里歪片子、被一位年轻医生的群「教」过、被厂家改过几回的东西。你很难说，它还是不是上线那天的那一套。人这一头和机器这一头，是在同一场来回里，一起换了样子的。

◆十二、它和隔壁两章，用的是同一张图

讲到这里，你可能已经发现：这一章的思潮，和本书另外几章，靠得很近。先看第 7 章。第 7 章讲的是「它说的，一定对」——把判断整个交给 AI，自己缺席。这一章讲的是「它自己会解决」——把未来整个交给技术，自己等着。一个交出的是今天的判断，一个交出的是明天的方向。座次一样：技术坐在上面，人坐在下面，人只负责签收。第 7 章里那位跟着导航开进河里的司机，和这一章里那句「等着就行」，是同一种缺席：一个在路口缺席，一个在时代面前缺席。

再看第 5 章。第 5 章讲的是效率至上：目的钉住不动，只换速度。加速主义和它，像是一对兄弟。效率至上说：同样的事，做快一点；加速主义说：同样的未来，来快一点。两边都把「要去哪里」当成已经定好的，只在「多快」上做文章。第 4 章的工具中立论，看上去和这一章正好相反，其实也在同一张图上。工具中立论说：箭头只从人指向工具，人想怎么用就怎么用。技术决定论说：箭头只从技术指向人，技术往哪里走，人就往哪里走。两个说法吵得很凶，可它们都只画了一根箭头，只是方向相反。

两个人抬沙发下楼梯的时候，你画得出那根箭头吗？上面的人在跟着下面的人调，下面的人在跟着上面的人调。那里只有一来一回，没有一根单向的箭头。还有第 2 章，方向正好相反，用的却是同一张底图。末日失控论说：技术会醒来，把我们带进深渊。技术决定论说：技术会前进，把我们带进天堂。一个怕，一个盼，可「技术自带方向，人只是被带着走」这一笔，是一模一样的。

第 3 章的封禁隔离论，和加速主义像是站在一条路的两头。一个说：把墙砌高，别让它进来。一个说：把墙推倒，让它越快冲进来越好。墙是砌是推，吵得面红耳赤，可两边都把「它」当成了墙外一个已经做好、自带方向的东西，只在门开多大上较劲。第 1 章的替代恐慌，和这一章也是一对。替代恐慌说：技术来了，我会被减去一块。技术决定论说：技术来了，我会被带进好日子。一个看见的是饭碗被拿走，一个看见的是馅饼掉下来；两个都觉得，自己只是在原地等着技术把一样东西交到手上，或者从手上拿走。

也就是说，从第 2 章的怕，到第 7 章的跪，再到这一章的等和催，脾气一路在变，那张地图一直没换。互动还没开始，一边已经摆好了一个做好的「技术」，一边已经摆好了一群做好的「人」。地图不换，换脾气是出不了框的。怕得少一点、盼得多一点、催得急一点，都还在同一张图上打转。要换的，是那张图本身：不再先摆好一个技术、一群人，再问它把人带向哪里；而是看技术和人在一次次碰面里，怎样一起被拐成了新的样子。

◆十三、放回日子里

回到那个星期六的晚上。姜鸣把手机还给他爸，想了想，没说「靠谱」，也没说「不靠谱」。他问的是：「爸，上午那台机器，你觉得卡在哪儿？」姜师傅愣了一下。他没想到儿子会这么问。他想了一会儿，说：「字太小。还有那个让你转头眨眼的，我一眨眼它就说不对。再就是没人。原来窗口那个小刘，你问她什么，她都告诉你。」姜鸣把这几样记在手机里，说下回他陪着去，先在家里用他爸自己的手机，把那套人脸识别练两遍。

姜师傅又说起厂里。那套排版系统，他这两年其实摸出了一些门道：哪一类稿子丢进去会乱，哪一类要先拿手调一遍格式再丢，哪一类干脆不用它更快。这些门道，他从来没跟谁讲过，觉得是「土办法」，上不了台面。姜鸣说：「你写下来吧。写一张纸，贴在机器旁边。新来的人一看就知道。」姜师傅笑了一下，说那有什么好写的。可第二天早上，姜鸣看见他爸在饭桌上，拿着一支圆珠笔，在一张旧日历的背面，一条一条地写。那张纸，后来贴在了厂里那台排版机的旁边。

你看，那天晚上，没有谁发明了什么新技术。曲线还在那里，视频还在刷。可那台机器、那家医院、那张旧日历背面的纸、一个父亲和一个儿子，在那个晚上，一起往一道弯上多拐了一点点。后来，厂里新来了一个二十出头的小伙子。他第一天上机，看着墙上那张纸，照着第三条，先把一份乱糟糟的稿子在电脑上清了一遍格式，再丢进系统，一次就排顺了。他问这张纸是谁写的。旁边的人指了指姜师傅。姜师傅没说话，回到自己的工位上，又拿起笔，在那张纸的最下面添了一条。

那张纸上的门道，不在系统里，也不全在姜师傅的脑子里。它是他和那台机器两年来回较劲，较出来的。现在，它又贴回了机器旁边，等着下一个人来接着改。姜鸣回到省城的那个星期一，也给自己留了一件小事。他把组里这半年用 AI 写坏了的几个案子翻出来，一个一个看，看它们是卡在哪一步：是客户没说清，是他问歪了，还是 AI 顺着一个老套路滑了下去。他把这些写成一张单子，周五的组会上念给大家听。没有人觉得这是一件大事，可那天的组会，比平时多开了快一个小时。那天晚上睡觉前，朵朵也来凑热闹。她在舅舅的手机上看完了那条视频，仰着头问：

「舅舅，以后都有 AI 老师了，那我还用上学吗？」姜鸣没有直接回答。他问朵朵：「你们学校那个口语软件，你用过没有？」朵朵说用过，可它老听不懂她说的话，她一着急，就改成打字了。坐在旁边的姜岚接过话头。她说，她班上那个口语软件也一样，有的孩子用得很好，有的孩子一用就躲。她这学期在试一件小事：每周挑一节课，让孩子两个人一组，一个跟软件对话，一个在旁边听，听完互相说说软件哪里没听懂、自己哪里没说清。她说，这样一来，孩子们跟软件说话的样子，变了；软件被孩子们「骂」出来的那些毛病，她也一条条记下来，打算交给学校去反映。

朵朵听得半懂不懂，只记住了一句：「原来它也会听错啊。」明天能试的两件事：

1. 下次再刷到「再过几年，技术会解决一切」的视频，先别急着点赞或者划走，问一句：「这道弯，眼下卡在哪里？」把你身边看得见的那一处写下来。

1. 找一样你家里最近换了新技术的事——一台新机器、一个新小程序、一套新系统——看一看家里谁卡在了那里。不教他「跟上」，先问他一句「你觉得是哪儿不顺手」，把他的回答，转给能改它的那个人。

◆第三编总账：把它抬上去，自己退下来

意识之争先把 AI 当成一个已完成的实体，再去敲门问里面有没有人。神谕崇拜论把判断整个交出去，自己缺席。技术决定论把未来当成写好的成品，人只管等，或者催。三个刀口是内里、判断权、未来。每一个都在同一个地方出了错：把正在长出来的东西，当成已经完成的东西。

这一编的总判断：抬高和压低，是同一只手的两面；两端之间那段来回，才是事情发生的地方。

三种思潮各留一样东西：谨慎，信任，对力量的承认。留下它们，拆掉先把座次排好的那个动作。最后一编，处理两个最贴身的错：这句话算谁的，和多学几样就够了吗。

这句话算谁的

◆一、你一定有过这样的时刻

那是十月里一个周四的晚上，十点多。姜鸣还坐在省城那家广告公司的工位上。整层楼只剩他一盏灯，空调已经停了，键盘边上放着半杯凉掉的豆浆。客户是一家做山区小米的公司，老板是他老家隔壁县的人。明天上午九点要提案，主标题一句都还没定下来。他已经在对话框里跟 AI 来回了一个多小时。一开始，他让它「写十句小米广告语」。十句都通顺，十句都像超市货架上的价签。他删了，换一个问法：这家的小米长在山坡上，一年只收一季，老板说他小时候喝小米粥，是他妈在灶台边站着熬的。AI 又给了十句，里面有一句提到了「灶台」。他盯着那两个字看了很久。

他接着问：要是不写小米，只写熬粥那四十分钟，你会怎么写？它给了一段话，有点啰嗦。他从里面抠出一个词，「守着」，又打了一行字过去：不要「妈妈的味道」，太多人用过了。它回了几种说法，他一种都不满意，却在其中一句的半截里，看见了自己想要的那个转弯。快十二点的时候，屏幕上的文档里留下了一句：「慢一点，等它熬到你回家。」他念了两遍，后背有点发热。这句话他认得，像是他一直想说、却说不出来的那句。第二天提案，客户老板听到这句，停了好几秒，说就它了。散会时，组长拍拍他的肩，顺口问了一句：「这句，是你写的，还是 AI 写的？」姜鸣张了张嘴，没答上来。

他说「我写的」，好像在撒谎；说「AI 写的」，又好像把那一个半小时一笔勾销了。他笑了一下，说「一起磨出来的」，组长也笑了，没再追问。可那天回家的地铁上，他心里一直有一个小疙瘩：要是真算起账来，这句话，到底算谁的？同一个周末，他回县城的家吃饭。外甥女朵朵十一岁，五年级，正趴在饭桌一角写作文。学校刚发了通知：禁止用 AI 写作业，一经发现，作文按零分算。朵朵写到一半，抬头问舅舅：「舅舅，我问 AI『秋天可以比作什么』，它说了五个，我一个都没用，我自己想了一个。这样算不算作弊？」姜鸣愣住了。这个问题，比组长那一句还难答。

你大概也有过这样的时刻。你用 AI 改过一封邮件、润过一段发言、理过一份报告，交出去时心里有一点虚，像是偷偷借了别人的力气，又说不清借了哪一部分。这一章，讲的就是这一点虚。这股思潮一句话就能说完：用 AI 写的，不算你的。

◆二、替它把话说足

说它之前，先把公道还给它。这种说法在很多人心里站得很稳，不是没有来由的。替它把话说足，大概是这样的。一篇文章署上你的名字，就是在对别人说：这些想法是从你的脑子里出来的，你为它们负责，你也因为它们得到夸奖。名字是一张收据，收据要和货对得上。货要是从别处搬来的，收据就成了假的。这是第一层：诚实。

第二层是学习。一个孩子写作文，老师要的不是那篇作文本身，世上不缺一篇写秋天的作文。老师要的是孩子在写的时候，脑子里那一阵翻找：秋天像什么？像一封信？像爷爷的咳嗽？这一阵翻找，就是孩子在长。你替他翻找了，作文交上去了，他却没有长。作弊偷走的，首先是作弊者自己的那一阵翻找。第三层是公平。一场考试里，四十个孩子坐在同一间教室，题目一样，时间一样。一个人偷偷带了帮手，另外三十九个人的分数就被他拉低了。分数要拿去分配名额、分配机会，帮手一进场，整张排名表就歪了。

第四层是功劳。三百多年前，英国哲学家洛克讲过一个道理，大意是：一个人把自己的劳动掺进了自然的东西里，那东西就成了他的（《政府论》下篇第 5 章）。树上的苹果谁都能摘，你爬上去摘下来了，这只苹果就是你的。思想也一样：你熬了夜，绞了脑汁，那句话才算你的。熬夜的是机器，功劳凭什么记在你头上？

第五层最深，也最少被说出来：一种对「自己」的守护。很多人心里有一个朴素的感觉，一个人之所以是这个人，就在于他想出来的东西是他的。我的字，我的句子，我的想法，这些是我和别人分开的那条线。AI 一进来，这条线好像被擦淡了。说「用 AI 写的不算你的」，其实是在说：请别把我擦掉。朵朵学校那张通知，读起来就是这五层的合订本。它说，作业是检验学习成果的，要真实反映学生自己的水平；用 AI 代写，对其他同学不公平，也让学生失去锻炼的机会。每一句都说得过去，姜岚第一次在家长群里看到时，也点了个赞。

五层叠在一起，这种说法就很难驳。你读到这里，大概也会点头：对啊，难道用 AI 写出来的东西，也能理直气壮地署自己的名字吗？还可以再替它补一句。有人会说：就算一句话是来回磨出来的，人和机器也不一样。人会累，会犹豫，会为一句话失眠；机器不会。人为那句话付出过代价，机器没有。付出过代价的那一方，才配得上那句话。这一句也很有分量。它说的，其实是「熬过」这件事的价值。本书不打算笑话这五层里的任何一层。它们都是真的。

可是请注意，这五层底下，垫着同一块木板。诚实，是说收据要对得上「谁」；学习，是说长的必须是「这个孩子」；公平，是说分数要记在「每一个人」头上；功劳，是说劳动要掺进「某个人」的手；守护，是说线要划在「我」和「别的」之间。每一层，都先假定有一个已经站好的「谁」，然后去问：这东西是不是从他那里出来的。这块木板，本章最后要掀开看一看。先看历史上，这块木板被搬出来过几次。

◆三、埃及国王的那一句话

两千四百多年前，雅典城外的一条小河边，苏格拉底和一个叫斐德罗的年轻人坐在梧桐树下聊天。聊到后半段，苏格拉底讲了一个故事，说是从埃及传来的。故事里，有一位叫图提的神，发明了很多东西：数字、算术、几何、天文，还有文字。他带着这些发明去见埃及的国王塔姆斯，一样一样献上去。献到文字的时候，图提很得意，说这东西能让埃及人更聪明，记性更好，是记忆和智慧的良药。国王听完，没有收下这份夸奖。

苏格拉底借国王的嘴说，大意是：你这个发明，会让学了它的人灵魂里生出健忘。他们信赖外面写下的符号，就不再从自己里面去回想。你给他们的不是记忆的药，只是提醒的药。他们会读到很多东西，没人教也像是懂了很多；他们看起来博学，其实大多一无所知，而且很难相处，因为他们不是有智慧，只是显得有智慧（《斐德罗篇》274c—275b）。

苏格拉底还接着说，写下来的字像一幅画，画里的人看起来活着，你问它一句，它却一声不吭。你问写下来的字是什么意思，它翻来覆去只会说同一句话，也不会替自己辩护（《斐德罗篇》275d—e）。真正的话，要写在学习者的灵魂里，那种话活着，会回答，会挑选对谁说、对谁不说（《斐德罗篇》276a）。你把这段话里的「文字」换成「AI」，几乎一字不用改。健忘：用惯了它，自己就不记、不想了。显得有智慧：交上去的文章头头是道，写的人却说不出个所以然。不会回答：抄来的句子，问一句「你为什么这么写」，就露了馅。

这是同一刀，第一次被清清楚楚地切下去。国王把记忆分成两份：一份长在灵魂里面，是你的；一份写在莎草纸上，是外面的。里面的算数，外面的不算。可是这个故事最有意思的地方，在故事外面。苏格拉底自己一个字都没有写。我们今天能读到他讲这个故事，全靠他的学生柏拉图把它写了下来。这段批评文字的话，正是用文字传了两千多年。没有那卷被国王嫌弃的莎草纸，国王的那一句话，早就随着梧桐树下的风散掉了。那么，这段关于健忘的名言，算苏格拉底的，还是算柏拉图的？算那位传说中的国王的，还是算那卷莎草纸的？

研究柏拉图的人争了很多年：书里的苏格拉底，有多少是真的苏格拉底，有多少是柏拉图借他的嘴说自己的话。这笔账，到今天也没有算清。还有一层，更值得停下来想。苏格拉底不写书，可他并不是一个人关起门来想事情的人。他一辈子都在雅典的街上、市场里、朋友家的饭桌边，拉着人说话。他说自己像一个接生婆，大意是：我自己生不出智慧，只是帮别人把他们怀着的想法接生出来，再看看生下来的是真东西还是一阵风（《泰阿泰德篇》150b—151d）。

你看，在他眼里，一个好想法从来不是从某一颗孤零零的脑袋里蹦出来的。它是在两个人一问一答、一驳一改的时候长出来的。那个被问的人原来并不知道自己怀着什么；那个问的人，也不知道下一句会问到哪里。批评文字的苏格拉底，和相信对话的苏格拉底，是同一个人。他担心的，其实不是「借了外面的力」，是「外面的东西不会回答」。一卷莎草纸只会翻来覆去说同一句话，所以他不信它。这一点，到了会回答的机器面前，就要重新掂量了。请记住这一点：连「作弊论」最早的那一句台词，都是一笔拆不开的账。

◆四、计算器进教室的那些年

再往近处看。二十世纪七十年代以后，便宜的电子计算器进了千家万户。一个问题跟着来了：孩子做数学，能不能用它？据后来的回忆和报道，大意是：在美国，这场争论吵了很多年。有的老师担心，孩子按惯了按钮，就再也不会笔算，连七乘八都要掏机器；有的家长觉得，用计算器算出来的答案，不算孩子自己算的。据报道，八十年代还有数学老师举着牌子抗议，反对过早把计算器放进小学课堂〔待核〕。另一边，美国的数学教师组织在 1980 年前后建议，各年级都应当用计算器，把省下的力气花在解题思路上〔待核〕。

中国的孩子对这场争论也不陌生。很多人小学时学过珠算，书包里背着一把算盘。后来算盘慢慢退出了课本，有人惋惜，说那是手和脑一起练的功夫，丢了可惜。你看，同一刀又切了一次。答案是你算出来的，还是机器算出来的？用了它，这道题算不算你会做？吵到后来，事情并没有按任何一方设想的样子收场。计算器没有被赶出教室，也没有把笔算完全挤掉。考试的规矩分成了几种：有的考试明确不许带，考的就是你脑子里那一套；有的考试许可带，题目随之换了样子，不再考你能不能把一串数乘出来，考你知不知道该乘哪一串。

请注意这个变化。不是老师们终于想通了「用计算器不算作弊」，是「什么算会做数学」这件事本身被改了。评估标准一改，同一个按按钮的动作，在一种考场上是作弊，在另一种考场上就是本事。还有一件更早的小事。计算器普及之前，工程师和理科学生的口袋里，常常插着一把计算尺；再早，书桌上放着厚厚的对数表。那时候，会用计算尺，本身就是一门要练的本事。后来计算器一来，计算尺几年之间就进了抽屉，很少有人再说「用计算器算的不算你会算」。

对数表和计算尺，当年也是「外面的东西」。它们帮人算，人用它们算，从来没有人去拆账，问这道题有几成是对数表的功劳。原因很简单：在那时的考场上，它们已经被写进了规矩。动作没变，账本变了。

◆五、封面上没有他的名字

姜鸣的父亲姜师傅，在县城印刷厂排了三十年的版。他经手的书，少说也有几百本。从前是铅字，一个字一个字从架子上捡下来，排进字盘；后来是电脑排版，一页一页调行距、调字号、躲开孤字和寡行。他知道一本书长什么样子，有一大半是排版的人定的：哪里该断，哪里该空，章首页留多宽的白。可是那几百本书的封面上，没有一本印着他的名字。这不是什么不公平的事，没有人觉得应当印。一本书的封面只印作者，这是一条老规矩。可你要是细想一下，这条规矩里藏着一个选择：在一本书长成的那么多只手里，只挑一只出来，记在账上。历史上，这只被挑出来的手，常常不是唯一出力的那只。

十七世纪佛兰德斯的大画家鲁本斯，有一间很大的画坊。据研究文献，他的很多大画，是助手们先画出大半，他再上手收拾、点睛；他给买主开价时，还会写明一幅画里有多少是自己亲手画的，价钱也跟着不同〔据研究文献〕。今天博物馆墙上的标签，写的是「鲁本斯」。十九世纪法国作家大仲马，写《三个火枪手》《基督山伯爵》这些大书时，有一位长期合作者叫马凯，据说很多情节和初稿出自他手。后来两人闹翻，马凯还打过官司，想在书上署名，大意如此〔待核〕。今天书店里那些书的封面上，通常只有一个名字。

再往东看。《论语》不是孔子写的，是他的学生和再传学生一条一条记下来、编起来的。孔子自己说，大意是：我只是传述，不去另造（《论语·述而》）。可两千多年来，我们说「孔子说」，从来没人觉得这是在作弊。二十世纪的美国出版界，有一位很有名的编辑叫珀金斯。据传记，他手下的小说家托马斯·沃尔夫，交来的稿子常常是一大箱，堆起来有半人高。珀金斯陪着他一章一章删、一段一段挪，删掉的有时比留下的还多〔据传记〕。书出来，封面上是沃尔夫的名字。后来有评论家说，这些书一半是珀金斯的，沃尔夫听了很不痛快，大意如此〔待核〕。

再看今天的科学论文。据报道，2012 年前后，宣布发现希格斯粒子的那几篇论文，每一篇的作者名单都有几千人，光名单就排了好几页〔待核〕。几千个人里，有人造探测器，有人写程序，有人管冷却系统，有人熬夜看数据。那一个发现，算谁的？没有人能把它拆成几千份。还有政治家的演讲稿、名人的回忆录、电影片尾那长长的一串名单。你会发现，「谁的名字」和「谁出了力」，在人类历史上很少一一对上。署名是一种约定，用来让人负责、让人找得到、让功劳有个落脚处。它从来不是对一件作品是怎样长出来的完整记录。

姜师傅退休前那几年，厂里上了自动排版系统。系统排出来的版，规矩是规矩，就是少了一点他说不清的「气」。有一回他对着屏幕叹气，说：「这一页要是我排的，这儿该留口气。」他说的「我排的」，其实是三十年里，他的手和铅字、和机器、和一本本书来回磨出来的那一点讲究。那一点讲究，算他的吗？算。可它离开了那三十年的铅字和书，就什么都不是。

◆六、先说它对在哪儿

说「那一刀」之前，先把这种说法完全成立的地方圈出来。第一，它在「欺骗」那里完全成立。一个学生让 AI 写了整篇论文，一个字没看就交上去，还在声明里写「独立完成」。这是撒谎，跟用不用 AI 没有关系。换成花钱请枪手，换成抄师兄的旧稿，性质一样。骗的是那张收据：他让别人以为，这里面有一段他没有走过的路。第二，它在「考的就是独奏」的地方完全成立。

一场闭卷考试，规定了不许带书、不许带计算器、不许带手机。它要量的，就是你一个人坐在那里、两手空空时，脑子里有什么。这是一种合法的量法，就像量一个人的心率要让他先坐五分钟。规矩写明了，你偷偷带了帮手，就是破了规矩。这种量法到处都有。钢琴考级，考官要听的是你一个人坐在琴凳上弹，旁边不能有人替你按踏板；驾照考试，教练不能坐在副驾驶上帮你打方向盘。没人会说这些规矩不讲理。量独奏的地方，就要独奏。第三，它在「署名透明」那里完全成立。

读者有权知道一篇东西是怎样来的。一篇医学报道，读者要知道里面的数据是不是查证过的；一份法庭文书，法官要知道里面的判例是不是真有其事。据报道，国外已经有律师把 AI 编造出来的判例写进了诉状，被法官发现后受了处罚〔待核〕。这种时候，「谁写的」背后真正要问的是「谁核过的」「谁担着的」。所以，这种说法的保底条件可以写清楚。在欺骗的地方，在规矩写明了「只考独奏」的地方，在需要有人站出来担责的地方，「用 AI 写的不算你的」这句话，完全站得住。那天朵朵问的那件事，恰好不在这三处里。

她没有骗谁，她问 AI 要了五个比喻，一个没用，最后自己想了一个。学校的通知也没有说清，「用」到哪一步算「写」。老师真正想要的，也许是她脑子里那一阵翻找；而那一阵翻找，恰恰是被那五个不合用的比喻逼出来的。本书要分清的就是这一条：欺骗是一回事，复合是另一回事。作弊论的力气，常常从前者借来，却打在了后者身上。

◆七、那一刀切在哪里

现在可以拿出本书的那把钥匙了：这一刀切在哪里？作弊论的刀口，在「归属」。它的动作是这样的：一件东西出来了，一句好话、一段好思路、一篇好文章。它不先看这东西是怎样长出来的，它先拿出一本账，账上只有两栏，一栏写「人」，一栏写「AI」。然后它要求，每一个字都必须记进其中一栏。记进「人」那一栏的，算你的；记进「AI」那一栏的，不算。回到姜鸣那一晚。「慢一点，等它熬到你回家。」这句话，记进哪一栏？

「灶台」是 AI 先说出来的。「守着」是姜鸣从 AI 那段啰嗦话里抠出来的。「不要妈妈的味道」是姜鸣的否决。那个转弯，是在 AI 一句话的半截里被姜鸣看见的。「熬到你回家」这几个字，是他最后自己敲下去的，可没有前面那一个半小时，他不会敲出这几个字。你试着把每一个字分进两栏，很快就会发现分不下去。不是分起来太麻烦，是这个问题本身问错了。

打个比方。物理学里有一类实验，一个电子打到探测屏上，屏上亮起一个光点。你问：这次闪光是属于电子的，还是属于探测屏的？没有电子，屏不会亮；没有屏，这一下闪光也不会出现。闪光不住在任何一边。它是两边碰到一起的那一下才有的。这一下闪光还有一个特点：它出现之前，电子打在哪里并没有一个现成的答案，探测屏上也没有一个等着被点亮的格子。是碰的那一下，才把「这里亮了」定下来。两端都在那一下里，被看见成了某个样子。那句广告语也是这样。它不住在姜鸣的脑子里，也不住在 AI 的参数里。它是那一个半小时里，一问一答、一删一留，碰出来的那一下闪光。

作弊论的刀，切在「谁的」这两个字上：它先认定一段思想必须属于某一个已经站好的人，然后才去查它是不是从他那里出来的。

先做一个小实验。假设那一晚，坐在姜鸣旁边的不是 AI，是他的同事小周。小周随口说了一句「灶台」，又说了一段啰嗦话，姜鸣从里面抠出「守着」，最后敲下那句广告语。第二天组长问起来，姜鸣说「跟小周一起磨的」，组长会怎么想？多半什么也不会想。办公室里管这个叫「头脑风暴」，叫「集思广益」，没有人会说姜鸣作弊。最多在请客吃饭时，姜鸣说一句：「那句话，小周也有功劳。」同样的一问一答，换了一个对面坐着的，为什么就从「集思广益」变成了「作弊」？

原因不在那一晚发生了什么。原因在那一晚开始之前，账本已经画好了。在这本账上，小周和姜鸣都被画在「人」这一栏里，两个人一起磨出来的，还算「人」的；AI 被画在另一栏里，跟它磨出来的，就要从「人」这一栏里扣掉。也就是说，作弊感来得比那一晚还早。它不是从那句话的来路里查出来的，它是从那张预先画好的两栏表里长出来的。这一刀切下去之前，它已经悄悄做完了一件事：把正在来回发生的那场复合，摆成了两个已经完成的成品。一个叫「姜鸣」，带着他固定的才华；一个叫「AI」，带着它固定的能力。两件成品各自往桌上放东西，账房先生只管记。

这就是本书从头到尾在找的那个动作：把正在发生的复合体，当成两个已经完成的实体来处理。作弊论把这个动作，做在了「归属」这一处。可是那一晚的姜鸣，是一个固定的成品吗？晚上十点的姜鸣，还不知道自己想要「守着」这个意思。是 AI 那段话把这个意思从他心里勾出来的；勾出来以后，他提问的方式变了，被他问着的 AI 给出的东西也变了。到十二点的时候，桌子两边坐着的，已经不是十点时那两个了。一种会问「只写熬粥那四十分钟」的姜鸣，是在这一晚被问出来的；一种会说出那个转弯的 AI，也是被这样的姜鸣问出来的。

老的知识论有一个式子：知识，是看的人、被看的东西、两者之间的互动，这三样的结果。式子写得很周全，却把「看的人」和「被看的东西」写成了互动之前就站好的两个自变量。作弊论把这个式子搬到了 AI 身上：先有一个站好的人，先有一个站好的 AI，再去分那一份结果。这里藏着一道从来没有被证明过的预设：两端，真的先于互动而在吗？这道题，不是 AI 出的。

几百年来，哲学家们一直在为「知识是谁的」吵架：是住在看的人心里，还是住在被看的东西身上？两边各有道理，谁也说服不了谁。原因之一，就是两边都默认，看的人和被看的东西，在看之前就已经各自站好了。从这样的起点出发，答案只能二选一，或者各分一半。作弊论问「这句话算你的，还是算它的」，是同一道老题，换了一身新衣服。AI 没有制造这道裂缝。它只是把这道裂缝，推到了每一个写周报、写作文、写广告语的普通人眼前。

◆八、账一拆，人就缩了

顺着这一刀推下去，会长出什么？先看朵朵。学校的通知一出来，她写作文就多了一层顾虑。她不敢问 AI，也不太敢问舅舅，怕问多了「也算作弊」。她坐在饭桌一角，咬着笔头，想了半个小时，写出来的还是「秋天像一幅美丽的画」。这一句她在三年级就会写了。问题不在她偷懒。她想要一点来回，一点被别的声音撞一下的机会，可那张账本告诉她：凡是撞出来的，都要扣掉。最安全的写法，就是只写自己本来就会的那几句。这是第一个后果：为了让账干净，人退回到一个人能独自完成的那么一小块里。账越干净，写出来的东西越小。

姜鸣自己也有一点这样的变化。那次提案以后，他发现自己在会上说起创意时，开始下意识地把「跟 AI 磨出来的」那一段跳过去，只讲结果。讲结果，大家鼓掌；讲过程，好像就要解释，好像就会有人皱眉。慢慢地，他连跟自己也不太说了。可那一段过程，恰恰是他这一年长得最快的地方。他问问题的方式变了，他知道了怎样从一段啰嗦话里抠出一个词，他学会了在一句话的半截里看见转弯。这些本事，不在任何一句交上去的广告语里，却真真切切长在了他身上。账本上看不见它们，他自己也就慢慢看不见了。再看姜鸣的同事。

据姜鸣说，他们组里有人用 AI 写了方案，交上去之前，要先花一个钟头把句子改得「不像 AI」：换几个词，故意加一两个不那么顺的句子，删掉太整齐的排比。他们改的不是方案的好坏，改的是方案的「来路痕迹」。这一个钟头，什么也没长出来，只是在给账本做假。这是第二个后果：力气从「把东西做好」，挪到了「把来路藏好」。姐姐姜岚那边，是同一件事的另一面。期中考试后的一个晚上，她坐在家里的书桌前批作文。四十七本作文本摞成两摞，台灯底下放着一杯枸杞茶。学校这学期发了一个检测网站，让老师把拿不准的作文拍照传上去，看看「AI 生成的可能性」有多大。

她批到第三十一本，停住了。那是班上一个平时不太说话的女孩写的，题目是《我家楼下的修车铺》。文章写得很干净，有一段写修车师傅的手，「黑得像一块用旧了的砚台」，她读了两遍。她犹豫了一下，还是把它传了上去。网站给出的数字是百分之七十几。那天晚上她没再往下批。她想起这个女孩的爸爸就是开修车铺的，想起她上学期交过一篇写砚台的作文，是写她外公练毛笔字的。她不知道这个数字是从哪里来的，也不知道这个女孩到底有没有用 AI；她只知道，要是按学校的规矩，这一篇该按零分算。

据报道，这类检测工具误判的事并不少见，有的连几十年前的名篇都被判成了「机器写的」〔待核〕。姜岚不知道这些报道，她只是觉得心里堵得慌。第二天，她把那个女孩叫到办公室，没有提检测的事，只问她：「那个砚台的比喻，你是怎么想到的？」女孩一下子红了脸，说：「是看我爸的手想到的。我外公家里有一块砚台，用了很多年，边上都黑透了。」姜岚点点头，让她回去了。那篇作文，她给了一个高分。

可这件事让她看清了一点：作弊论的账本，一旦交给机器去查，查的就不再是「这句话是不是你想出来的」，而是「这句话像不像机器写的」。写得好，就可疑。一个孩子越是写出一句超出老师预想的话，越容易被那张账本扣掉。还有一个后果，常常被忽略：账本越严，人越不敢说实话。一个学生要是知道，只要写明「用过 AI」就会被扣分，他最稳妥的办法，就是不写。用了的人藏起来，没用的人也说不清；老实交代做法的人，反倒最吃亏。一条本来为了守住诚实的规矩，最后教会大家的，是把来路藏好。你看，作弊论最看重的是诚实。可它那本两栏账，在复合已经到处都是的地方，偏偏把诚实逼到了墙角。

还有第三个，最隐蔽。一个人要是相信「只有完全出自我脑子里的，才算我的」，他会慢慢对一切合作都起疑。和同事讨论出来的点子，算谁的？听了一场讲座以后想通的事，算谁的？读了一本书改掉的一个看法，算谁的？他开始把自己的脑子当成一间要上锁的库房，进出都要登记。可是人从来不是这样长的。你会说的第一个词，是妈妈一遍一遍对着你说出来的；你写的第一个字，是照着描红本描出来的；你今天脑子里那些看起来最「自己」的想法，几乎每一个都有一段来路，来自一本书、一个老师、一次吵架、一个深夜。

要是按作弊论的账本，把这些来路一笔一笔扣掉，你会发现，账上剩下的那个「纯粹的你」，小得几乎看不见。这就是这一刀最后的样子：它本想守住「我」，却把「我」拆成了一个空壳。它要求每一个想法都要有一个干干净净的出处，可一个干干净净的出处，在人身上从来没有过。

还有一件事要说明。作弊论守护的那个「孤立的个人」，并不是人类历史上一直都有的观念。古代的工匠不在器物上签名，很多民歌、史诗、药方传了几百年，没有一个作者。把一部作品牢牢钉在一个人名下，把思想看作一个人的私有财产，这一套观念在欧洲大致是近几百年才慢慢成形的。它跟印刷术、版权法、作者的稿费一起长起来〔据研究文献〕。这不是说这套观念不好。它保护了很多写作的人，让他们能靠一支笔吃饭。只是要看清：它是一套长出来的规矩，不是天上掉下来的事实。规矩长出来，也就能接着长。

◆九、沙发是怎么拐过那道弯的

换一副眼镜看。你一定搬过家。两个人抬一张三人沙发，从五楼往下走。楼道窄，到了拐角，沙发卡住了。前面那个人往上抬了抬，后面那个人往左偏了偏。不行。前面的说「你那头放低」，后面的说「你往里收一点」。两个人喘着气，试了三四种角度，忽然沙发一斜，「咚」地一下，拐过去了。请你回答：这个弯，是谁拐过去的？你要是只看前面那个人，他一直在往上抬，他一个人抬不过这道弯；你要是只看后面那个人，他一直在往左偏，他一个人也偏不过去。拆开看，谁都没拐；合起来，弯拐过去了。

更要紧的是：前面那个人往上抬的那一下，是被后面那个人往左偏的那一下逼出来的。他刚下楼时并不知道自己要抬多高。他的那一抬，是在那道弯里、在另一个人的力气里，一点一点试出来的。后面那个人也一样。到拐过弯那一刻，两个人身上都多了一点东西：一种在窄楼道里抬沙发的手感。这点手感，算谁的？中国人有一句老话，叫「孤掌难鸣」。你拍一下手，「啪」的一声。请问这一声，是左手的，还是右手的？左手说是我拍的，右手说是我接的，吵上三天也吵不出结果。这一声不住在左手里，也不住在右手里，它住在两只手碰上的那一下。

更妙的是，拍手的时候，两只手都在动。左手往右来，右手往左去，谁也不是一块等着被拍的木板。抬沙发的时候，没有人会掏出本子来记：这一斜，我出了百分之六十的力，你出了百分之四十。你要是真这么记，下一个弯就过不去了。姜鸣那一晚，就是在抬一张沙发下楼。那句「慢一点，等它熬到你回家」，就是拐过去的那道弯。他每一次改问法，是被 AI 上一次的回答逼出来的；AI 每一次换说法，是被他那一句「不要妈妈的味道」推过去的。问的方式塑出了一种姜鸣，被激出的回应塑出了一种 AI。两端是在这场来回里，一起显出模样的。

这就是本书说的「人—AI 复合体」：不是人用 AI，也不是 AI 替人，是两端在互动里一起长出来，一起显影。放在这副眼镜底下，作弊论的问题就换了一个问法。它原来问：这句话，是不是从你脑子里出来的？现在要问：这一场来回里，长出了什么？长出来的东西，有没有人看过、挑过、担着？前一个问题，问的是一个已经站好的人；后一个问题，问的是一场正在发生的事。这副眼镜下，还能看见一件作弊论看不见的事：新的位置在长出来。

在没有 AI 的年代，写文案的人，要自己从一张白纸开始，一句一句憋出来。那时候，「写文案」这个位置，主要是一个「产句子的人」。那一晚以后，姜鸣在复合体里站着的位置，已经不太一样了。他不再是那个从零憋句子的人。他更像一个在一大堆句子里认出「就是它」的人，一个知道该往哪个方向再问一句的人，一个在半截话里看见转弯的人。这个位置，不是他原来就有、只是被 AI 找了出来；也不是 AI 分给他的。它是在一次次来回里，从这个复合体里长出来的。去问「人原来的位置在哪里」，是在找一样已经丢了的东西；去看「新的位置怎么长出来」，才看得见那一晚真正发生了什么。

作弊论只盯着那张两栏账，所以它只看见了一件事：「产句子」那一栏，人这一边变薄了。它看不见的是，复合体里冒出了一个它的账本上没有格子的位置。还有一点要补上，免得误会。说「产出无法归户」，不等于说「谁都不用负责」。抬沙发的两个人，谁松手砸了脚，还是要看谁松的手。在复合体里，责任不是按「谁出的字」来分，是按「谁站在哪个位置上、答应过什么」来担。签了字交上去的人，担的是「我看过、我认」这一份；这一份，是一个真实的位置，不靠拆账才有。

◆十、有车，还用腿走

再换一个画面。王德生博士在谈到这件事时，说过一句很家常的话，大意是：有车了，还有人坚持用腿走，是因为用腿走更有荣耀感。你想一想，确实是这样。一百多年前，汽车刚出现的时候，城里的人会说，坐车去是懒，走着去才是正经。到了今天，没有人会因为你开车上班说你「作弊」。可是城里的公园里，每天早上都有人在跑步，每年都有几万人报名去跑马拉松。四十二公里，开车半个多小时就到了，他们偏要用腿跑四五个小时。跑到终点，有人哭，有人举手，有人在朋友圈发一张奖牌。

姜师傅也是这样。他家离印刷厂三站路，家里有一辆电动车，姜鸣还给他买过一张公交卡。可他这些年上下班，一直是走着去的，二十多分钟，雷打不动。厂里的年轻人笑他，说师傅你这是何苦。他说：「走着舒坦。」他不会说这是荣耀。你要是看见他每天早上拎着保温杯、穿过菜市场、跟卖豆腐的老李点头打招呼，就知道这二十分钟对他来说，不是赶路，是一天里自己的那一段。没有人会说他坐车是作弊，也没有人会说他走路是笨。走路这件事，在他身上，已经从「怎么到厂里」，搬成了「怎么过这一天」。这份荣耀，是从哪里来的？

在没有车的年代，跑步首先是为了赶路。一个信使从这座城跑到那座城，他的荣耀在于消息送到了，在于他守了信。那是一种真的荣耀：把事办成；也是一种善的荣耀：对得起托付的人。车来了，赶路这件事交给了车。用腿赶路的那份「真」与「善」的荣耀，不在了。按作弊论的逻辑，这时候跑步的人应该垂头丧气才对：车比你快多了，你跑有什么用？可事实是，跑步没有消失，它的荣耀搬了家。

它从「把路走完」，搬到了「把身体练好」；从「有用」，搬到了「好看」「舒服」「自己跟自己较劲」。跑步变成了健身的艺术。人们不再为它能送达什么而骄傲，而是为它在身上留下了什么而骄傲。荣耀从真与善，搬到了美。中国人对这种搬家，其实并不陌生。很久以前，写字首先是为了记事、传话、办公文。一个县衙里的书吏，字写得端正清楚，公文才不会出错，这是一种「真」的本事；字写得规矩，上司看着舒服，事情也办得顺，这里也有「善」。后来有了雕版、活字，再后来有了打字机、电脑、手机输入法，记事传话这件事，交给了机器。

照作弊论的逻辑，手写的字该一路退场才对。可你去看今天的少年宫、老年大学，周末练毛笔字的人一屋一屋；朋友结婚，有人还会手写一副对子送去。手写没有消失，它从「把事记下来」，搬到了「把字写好看」，成了书法这门艺术。一个人在宣纸前站一下午，不是为了交差，是为了那一笔落下去的味道。姜师傅那一行，也走过这条路。据报道，有些城市里开起了活字印刷的小作坊和体验馆，年轻人花钱进去，亲手捡几个铅字，印一张明信片〔待核〕。当年捡铅字是为了把书印出来，现在捡铅字，是为了摸一摸那份手感。思考，也许正走在同一条路上。

在没有 AI 的年代，一个人独自想出一个好句子、一个好方案、一个好论证，荣耀在于他把事办成了，在于他靠自己的脑子交了差。AI 来了，很多「交差」的活，复合体做得又快又好。只用自己的脑子去交差的那份荣耀，会慢慢淡下去，就像用腿送信的荣耀淡下去一样。可是思考不会消失。一个人可能还是会愿意花一整晚，独自推一道数学题，独自磨一首诗，不用任何帮手。他这么做，不再是因为这样交差更快，是因为这样想的时候，脑子里有一种别处没有的舒展。思考，可能会变成健脑的艺术。

这件事，本系列《思考是谁的？——AI 时代的作弊感与荣耀的搬家》专门展开了。本章只取它和「拆账」相连的那一段。

◆十一、作弊感是哪儿来的

回到姜鸣地铁上的那个小疙瘩。他心里那一点虚，是从哪里来的？他没有骗谁，组长也没有怪他，客户还很满意。照理说，这件事已经圆满了。那一点虚，是他拿着一本旧账本，去对一场新的发生。旧账本是他从小学起就背在身上的：作文要自己写，作业要自己做，考试不许看别人。这本账，在他长大的那片土里，曾经是对的，也帮过他。那时候的写作，确实大多是一个人对着一张纸。可那一晚的写作，已经换了一种样子，他却还用旧账本去量它，于是怎么量都觉得自己「多拿了一点」。

作弊感，多半是自我在作祟：一个按旧规矩长成的「我」，在新的发生面前，守着一本已经对不上的账。

请注意，这里说的「自我作祟」，不是骂人心眼小。它是一种很常见、也很真实的感受，几乎每一次重大工具出现，都会有一轮。姜师傅自己就经历过一轮。九十年代中期，厂里第一次买进电脑排版设备。那几年，捡了一辈子铅字的老师傅们私下里说，电脑排出来的不算手艺，「点几下鼠标，谁不会」。姜师傅那时三十出头，是厂里最早学电脑排版的几个人之一。他记得很清楚，有一次一位老师傅看他排完一整本书，只说了一句：「你这是偷懒。」那句话让他难受了好几天。他明明在电脑前熬了好几个通宵，调字距、调版心，一点不比捡铅字轻松，可在老师傅那本账上，没有铅字的重量压在手上，就不算出力。

二十多年后，自动排版系统进了厂。轮到他站在屏幕前，看着年轻人点几下就排完一本书，心里冒出来的，几乎是同一句话。他后来跟姜鸣说起这件事，自己先笑了：「当年人家说我偷懒，现在我想说别人偷懒。说到底，是我手上那本账没换。」文字出现时，有国王担心人会健忘；印刷书多起来时，据说有人抱怨书太多太便宜，人人都能读，学问就不值钱了〔待核〕；计算器进教室时，有人担心孩子不会算数；搜索引擎出来时，有人说「查来的不算你知道」。每一轮，都有一批人觉得别人在作弊，也有一批用了新工具的人，自己心里发虚。再过一阵子，这一轮作弊感就淡了。它是怎么淡下去的？

不是因为大家想通了一个道理，是评估的标准搬了家。计算器那一段已经说过：考场上的题目一改，从「把这串数算出来」改成「知道该算哪一串」，按按钮就从作弊变成了本事。驾驶也是一样：没有人用「跑得多快」来评一个司机，大家评的是他稳不稳、懂不懂路。标准一搬家，原来叫作弊的那件事，就落进了新的规矩里，成了平常。所以这里有一个顺序：评估标准搬家，荣耀才跟着搬家，作弊感才会消。标准不搬，你怎么劝人「别有心理负担」都没用。他心里那本账一天没换，他用 AI 写出来的每一个好句子，都会在他心里记成一笔「借款」。

反过来，要是只喊「用 AI 不算作弊」，却不去改评估标准，也会出麻烦：旧考场上，确实有人在钻空子；旧的规矩还在量独奏，复合体却已经混进了考场。这就是为什么前面要把「欺骗」那一块圈出来。新的尺子长什么样？今天还没有定型，可已经能看见一些苗头。有的老师不再只收一篇成品，而是让学生当面讲一讲：这篇东西你是怎么想的，哪里卡住过，换了几次方向。一个跟 AI 来回磨过的学生，讲得出那些弯；一个整篇照搬的学生，问到第三句就讲不下去了。

有的单位不再问「这份方案是不是你自己写的」，而是问「这里面的判断，你能不能担着」。方案里的每一个数字，谁核过；每一个结论，谁拍的板。这样量出来的，是一个人在复合体里站住的那个位置。还有的场合，干脆把过程也当成作品的一部分来交，就像数学考试不只看答案，还要看步骤。这些做法未必都对，也会被改。可它们有一个共同点：不再去查「这一句住在谁的脑子里」，转而去看「这一场来回是怎样走的，谁站在哪里」。标准的搬家，不是把旧规矩一把撕掉，是一处一处地改：哪里要量独奏，写明；哪里允许复合，也写明，并且换一套量复合的尺子。

◆十二、一位学员的那一句话

讲一个完整的例子。下面这个例子，是照几位学员的情形拼起来的，人物和细节都经过改写。主角是一位四十多岁的中学老师。她参加一个用 AI 辅助写作的训练营，打算把自己教了二十年书的心得写成一本书。第一次交流时，她说了一句很多人心里都有的话：「用 AI 写论文、写专著，是不是作弊？我总觉得，写出来也不算我的。」她说这话时，手里攥着一个笔记本。里面密密麻麻，记着二十年里的课堂片段：一个总在最后一排睡觉的男孩，有一天忽然举手问了一个她答不上来的问题；一次期中考试后，全班有一半人哭了；她第一次带毕业班，在黑板上写了一句话，到今天还有学生记得。

训练营没有先劝她「放心用」，而是先让她做一件事：把这个笔记本里最让她放不下的一个片段，讲给 AI 听，然后让 AI 问她问题。她讲了那个最后一排的男孩。AI 问：他问的是什么问题？她说是一道几何题，问为什么辅助线一定要这样画。AI 又问：你当时答不上来，是因为不知道，还是因为从没想过有人会这么问？她停了很久，在笔记本上写了一行字：「我教了二十年，教的是『怎样画』，从没教过『为什么想到要画』。」

后面的几个星期，她每天晚上和 AI 来回一两个钟头。有时候 AI 给出的分析很空，她就直接说「这不对，我们班不是这样」；有时候 AI 提出一个她没想过的角度，她就接着往下挖。她让 AI 起草过一些章节，又一段一段推翻，改成自己的口气；有几章是她先写了一个很乱的草稿，让 AI 帮她理顺，理完以后又被她改回去一半。有一个晚上，她记得特别清楚。AI 根据她讲的几件事，归纳出一条「后进生转化的五个步骤」，写得条理分明。她读完，在屏幕前坐了很久，最后打了一句话过去：「不对。那个男孩不是被我转化的，是他那个问题把我转化了。」

这句话一打出去，后面的整整一章都换了方向。原来写的是「老师怎样改变学生」，后来写的是「学生的一个问题，怎样改变了老师」。那一晚，到底是谁写出了那一章？没有 AI 那条四平八稳的「五个步骤」，她不会被激得打出那句「不对」；没有她那句「不对」，AI 也只会接着写第六个步骤。那一章，是从一次碰撞里长出来的。三个月后，书稿成了。书的中心，是那一行字：从「怎样画」，到「为什么想到要画」。她再来交流时，又提起了那个问题。这次她自己先回答了一半：

「要是让我一个人写，我写不出这本书。可要是没有我那二十年，AI 也写不出这本书。这本书里最重要的那一句，是被它问出来的，可那句话是从我班上长出来的。」她停了一下，又说：「我现在倒是想问，这本书算不算『我们俩的』？」训练营里另一位学员接了一句，是个做财务的年轻人：「那以后写书，封面上要不要印 AI 的名字？」大家都笑了。可这个玩笑底下，是一个很认真的问题。印上 AI 的名字，好像又是在两栏账本上记了一笔，只是这回记给了另一栏。把一本在来回里长出来的书，硬塞进「作者甲」「作者乙」两个格子，无论塞给谁，都还是那一刀。

她最后的做法，是在封面上只印自己的名字，在前言里把做法写清楚。名字表示谁担着，前言交代它是怎样长出来的。两件事，各管各的。本书想替她把这个问题再推一步。按作弊论的账本，这本书要拆成两份：她的二十年，记在她那一栏；AI 的起草和追问，记在 AI 那一栏。拆完之后，她那一栏是一个装满片段的笔记本，AI 那一栏是一堆通顺的段落。两栏加起来，都不是这本书。

这本书，是在那三个月的来回里长出来的。更要紧的是：三个月之后的她，已经不是三个月之前的她了。她看自己二十年教书的眼光变了，「为什么想到要画」这个问题，从此会长在她以后的每一堂课里。被改写的不止那本书，还有她这个人。她在书的前言里写明了 AI 协作的方式：哪些部分是 AI 起草、她改写的，哪些是她口述、AI 整理的，全书由她逐字审定，观点由她负责。这一段说明，回答了「谁担着」，也守住了诚实。可它没有，也不必去回答「每句话属于谁」。她没有骗任何人。她做的是复合，不是欺骗。

◆十三、和隔壁几种说法共用一张图

作弊论不是一个人站着的。它和第 3 章的封禁隔离论，是一对兄弟。封禁论说：不碰它，就能保住纯正的人；作弊论说：碰了它，产出就不纯了，要扣掉。一个在门口砌墙，一个在账房里查账，守的都是同一个「纯人」。朵朵学校的那张通知，两刀一起切：先砌墙，不许用；墙破了，就查账，按零分算。

它又和第 4 章的工具中立论，站在一张地图的两头。工具中立论说：它只是个工具，产出全算你的；作弊论说：它不只是工具，产出要扣掉它那一份。一个说全归人，一个说要分家，看上去吵得厉害，用的是同一本两栏账。两种说法都认定，人和 AI 在互动之前就已经各自站好；它们只是在争，账本上那一栏该多记一点。它和第 7 章的神谕崇拜论，也连着一根线，只是方向反过来。神谕崇拜把判断整个交给 AI，自己缺席；作弊论把 AI 那一份整个扣掉，假装它缺席。一个让人这一端塌下去，一个让 AI 那一端塌下去，复合体都被压成了单边。

第 6 章那场「它到底有没有意识」的争论，也会在这里露一面。有人说，AI 没有心，所以它写的不算创作，只算拼贴；有人说，AI 有某种心，所以该给它署名。两种说法都先去敲它的门，看里面有没有一个「作者」坐着，再决定账该怎么记。往后看，第 10 章的技能囤积论，会把这本账再往前推一步：既然产出要记在个人名下，那就让个人多存几样技能，好让账上那一栏厚一点。账房的逻辑，从「查」变成了「存」。所以，说「用 AI 写的不算你的」和说「用 AI 写的全是你的」，看起来是两个答案，其实是同一张地图上的两个点。地图不换，怎么争都出不了框。

◆十四、放回日子里

回到县城那张饭桌。朵朵还在问舅舅，那样算不算作弊。姜鸣想了想，没有直接回答，先问她：「你最后想出来的那个比喻，是什么？」朵朵有点不好意思：「我写的是，秋天像奶奶晒在阳台上的被子，晒了一天，摸上去暖暖的，还有一股太阳的味道。」「AI 给你的那五个呢？」「一个是金色的画，一个是丰收的歌，还有一个是一封信……反正都不像我们家。」姜鸣笑了。他说：「那五个，都是你用来比的。你是看着它们不像，才想到了奶奶的被子。」朵朵眨眨眼，好像懂了一点，又好像没懂。

姐姐姜岚在旁边听着，没有插话。她是中学语文老师，她知道学校那张通知是怎么来的：有的孩子整篇整篇地交 AI 写的作文，老师们一时找不到更好的办法。可是她也知道，那张通知量不出朵朵这一晚那一阵翻找。那天晚上，姜鸣在回省城的车上，想起了组长那一句「这句是你写的，还是 AI 写的」。他心里那个小疙瘩还在，可是松了一点。他想，下次要是有人再问，也许可以不答「谁写的」，而是讲一讲那一晚是怎么磨出来的。第二周，姜岚在自己班上试了一个小办法。

她没有违反学校的通知，作文还是要求不用 AI。可她在作文本的最后一页，加了一张小小的「过程单」：你这篇作文，最先想到的是哪一句？中间改掉了哪一句？为什么改？有没有问过谁，问过什么？第一次收上来，大多数孩子写得很潦草。有一个男孩老老实实写：「问过我妈，我妈说开头太长，我就删了。」还有一个女孩写：「最开始想写春游，后来觉得没意思，改成写我奶奶腌咸菜。」

也有孩子写得很有意思。一个平时成绩一般的男孩，在单子上写：「我先让我哥帮我想题目，他说写游戏，我说不行老师不让，他说那写你打游戏输了以后，我就写了。」那篇作文写的是一个下午连输八局、最后关掉电脑去楼下打球的事，是他这学期写得最好的一篇。姜岚读着这些歪歪扭扭的字，觉得比作文本身还有意思。她第一次看见，一篇作文在交上来之前，走过了怎样的弯。这张单子量不出「哪一句是你的」，它量的是「这篇东西是怎么长出来的」。她把这件事讲给朵朵听。朵朵说：「那我也要写过程单，我要写我问过 AI，它给了我五个比喻，我一个都没用。」姜岚想了想，说：「好，你就照实写。」

饭桌另一头，姜师傅一直没说话。听到这里，他放下筷子，说了一句：「排版也是这样。好看的版，不在哪一个字上，在字和字之间。」不急着把账算清，先把那一场来回看清。这一家人可以明天试两件事。

1. 写完一样东西，不问「这句是谁的」，记下这一场来回里拐过的那几个弯：哪一次回答让你改了问法，哪一次你否掉了它，哪一个词是从半截里看见的。写在文档末尾三五行就够。
2. 交给别人看之前，写一句「这份东西是怎样做出来的」，并写明谁看过、谁担着。规矩要求独奏的地方，就照规矩独奏；规矩允许复合的地方，就把复合写在明处。

账，可以留给规矩去记；那道弯是怎么拐过去的，值得留在日子里。

多学几样就挡得住吗

◆一、周五晚上的那张课表

周五晚上九点，姜岚把一张 A4 纸铺在餐桌上。纸上是朵朵下学期的课表，用三种颜色的笔画过。蓝色是学校的课，红色是已经报了的补习班，绿色是还在犹豫的。红色已经占了周二、周四的晚上和周六一整天。绿色有三格：编程启蒙、书法、一门叫「未来思维」的新课。朵朵趴在沙发上写数学口算，写一会儿，抬头看一眼妈妈手里的笔。那支绿笔在「编程启蒙」上停了很久。

家长群里这一周在转一篇文章，标题大意是：AI 时代，孩子什么都要会一点，才不会被淘汰。底下几十条回复，有人晒孩子的机器人比赛奖状，有人问哪家编程课好，有人发了一个双手合十的表情。姜岚是中学语文老师，她知道这种文章多半是课程机构写的。可是她一边知道，一边还是把那篇文章看完了。她给弟弟姜鸣发了条微信：「你们公司现在招人，看重什么？」

过了十几分钟，姜鸣回了一张照片。是他同事小骆的工位隔板。隔板上用磁贴吸着一排证书的复印件。数据分析、新媒体运营、项目管理、一门外语、两个设计软件，还有一张心理咨询师培训结业证；最新的一张，是上个月考的「AI 提示词工程师」。姜鸣在照片下面写：「十张。他说，多一张，就多一块挡箭牌。」姜岚盯着那张照片看了一会儿，又低头看课表。那支绿笔落了下去，把「编程启蒙」涂成了红色。

你大概也有过这样的晚上。手里不一定是课表，可能是一个考证网站的报名页，可能是收藏夹里那十几门没看完的网课，可能是自己简历上「技能」那一栏，一行一行往下加。加的时候心里是踏实的，像往一面墙上又砌了一块砖。这一章，就从这面墙说起。墙后面站着一种很流行的想法：AI 来了，会的越多越安全；多学几样，就能挡住它。本书叫它「技能囤积论」。它听上去很朴素，甚至很勤快，一点也不像一种思潮。可它和本书前面拆过的几种想法，切的是同一刀。

◆二、技多不压身，这话有道理

先别急着站队。替这种想法把话说足。第一，它有一句老话撑腰：技多不压身。你的爷爷奶奶那一辈，会修自行车、会腌咸菜、会打毛衣、会给邻居写春联，日子紧的时候，哪一样手艺都能换一口饭。多会一样，就多一条路。这不是迷信，这是几代人在穷日子里攒下的经验。第二，它有一笔账算得清楚。招聘的人一天看几百份简历，没有工夫一个一个去认识你。证书就是一个信号：你在这件事上花过时间，过了一道门槛。十张证书摆在那里，至少说明这个人肯学、能坐得住。在一个看不清楚人的市场里，信号就是钱。

第三，它有一个道理听上去很硬。AI 会的东西越来越多，你会的那几样，迟早有一样被它拿走。只会一样的人，被拿走一样就是全部；会十样的人，被拿走三样，还剩七样。这像分散投资：鸡蛋不放在一个篮子里。第四，它还有一层安慰。焦虑来的时候，人需要做点什么。报一门课、考一张证，是一件看得见、摸得着、有截止日期的事。考过了，心里那块悬着的石头，就落下一点。比起坐在那里干着急，去学点东西总是好的。

第五，它甚至有一个教育学的底子。几千年来，好老师都讲因材施教：先看清这个孩子是什么材料，再决定教他什么、怎么教。今天的家长替孩子报班，也是在找孩子的材——试一试编程，看他是不是那块料；试一试书法，看他坐不坐得住。多试几样，才能找到那块料。把这五条放在一起，你会觉得：对啊，这有什么错？小骆要是听见有人说他囤证书是一种错误思潮，大概会很委屈。他每天下班还要刷两小时题，周末去考场，钱是自己掏的，时间是从睡眠里抠出来的。他说，大意是：我不跟 AI 比聪明，我跟它比全面。这句话本书记下了。后面还要回来。

姜师傅听说了小骆的十张证书，倒是说了一句不一样的话。他在饭桌上，大意是：我们那时候学手艺，师傅不发证，师傅说你出师了，你就出师了。这句话也替囤积论补了一块。在师傅说了算的年代，一个人会什么，要靠一个认识他的人来担保。证书把这件事交给了一张卷子：不用认识你，看纸就行。这是一种进步，它让一个没有师傅、没有门路的年轻人，也能拿出一样东西来证明自己。小骆就是这样的人，他是从一个小县城考出来的，在省城谁也不认识。

◆三、同一个问题，两个答案

这股想法，最深的根扎在一个很老的地方。两千五百年前，孔子的学生子路来问他：听到一件该做的事，是不是马上就去做？孔子说，大意是：你父亲、哥哥都还在，怎么能听到就做呢（《论语·先进》）。过了些日子，另一个学生冉有来问了同一个问题。孔子说：听到了，就去做。旁边的公西华糊涂了。同一个问题，怎么一个说不行，一个说行？孔子的解释，大意是：冉有做事畏缩，所以推他一把；子路一个人顶两个人的劲，胆子太大，所以拉他一下。

这个故事被讲了两千多年。后来的读书人给它起了一个名字，叫「因材施教」。朱熹注《论语》的时候，引程子的话，大意是孔子教人，各因其材〔待核〕。从此「材」这个字，就和教育绑在了一起。请注意这个字。材，本来是木头。山里的树砍下来，匠人围着它转一圈，看它直不直、硬不硬、有没有疤，然后决定它做梁、做椽、做门板，还是劈了烧火。木头是先在那里的，它是什么，在匠人看见它之前就定了。匠人的本事，是看得准、用得对。把人叫做「材」，就是把人当成这样一根已经长好的木头。老师的本事，是看得准：这个孩子是梁，那个孩子是椽；这个要推，那个要拉。

孔子当年未必是这样想的。他和子路、冉有之间，是一场一场的对话，有来有回，有时候还吵起来。子路常常顶撞他，当着面说他迂，说他不该去见某个人。后来的人把这些对话收拢成四个字，那四个字里，人就成了一样等着被认出来的东西。《论语》里还有一段，更有意思。子贡问孔子：您看我是个什么样的人？孔子说，大意是：你是一件器具。子贡追问：什么器具？孔子说：瑚琏（《论语·公冶长》）。瑚琏是宗庙里盛黍稷的贵重礼器，这话是夸他，夸他是一件好东西。同一部书里，孔子又说过另一句很短的话：君子不器（《论语·为政》）。大意是：一个真正成样子的人，不是一件只有一种用处的器具。

两句话放在一起，你会觉得有一点别扭。一边说你是一件好器具，一边说君子不该是器具。历来注家对这两句有各种调和的解释，本书不去裁判。可是这一点别扭本身，很值得记下来：孔子自己，大概也在「人是一件定了形的东西」和「人不该被定成一件东西」之间来回走。后来的两千年，「瑚琏」这一面被记得更牢。「不器」那一面，常常只剩下一句挂在墙上的话。

◆四、千里马是等出来的吗

一千多年以后，韩愈写了一篇很短的文章，叫《马说》。他说，大意是：世上先有伯乐，然后才有千里马；千里马常常有，伯乐却不常有。一匹能日行千里的马，落在不识货的人手里，跟普通的马一起在槽边吃草，吃不饱，力气使不出来，最后老死在马厩里，谁也不知道它本来能跑千里。这篇文章很多人小时候背过。它替怀才不遇的人说了一句公道话。不过你把它放在本章里再读一遍，会读出另一层意思：千里马是天生的。它在被伯乐看见之前，就已经是千里马了。伯乐什么也没有造出来，他只是认出来。马的才能是一样埋在地下的东西，等一个人来挖。这正是一种发现学：东西先在，人去找。

王安石写过一篇更短的文章，叫《伤仲永》，正好给千里马补上了后半截。江西金溪有个孩子叫方仲永，家里世代种地，没人读书。他五岁那年，忽然哭着要纸笔，提笔就写了四句诗，还写上了自己的名字。乡里人惊奇，请他父亲带着孩子去作客，指一样东西让他写诗，他立刻就写，写得有模有样。父亲觉得有利可图，天天领着他去各家转，不让他读书。王安石十二三岁时见过他，觉得他的诗已经不如传闻。又过了七年，再打听，大意是：已经和普通人一样了（《伤仲永》）。

这个故事，通常被读成「天才也要后天努力」。这样读没错。换一个角度看，它说的是另一件事：那块「材」并不是一样埋在地下、挖出来就永远在那里的东西。它在一个五岁孩子和纸笔、和乡人的惊奇之间冒了出来；后来它所在的那场互动，被换成了一场一场的表演，它就慢慢没了。材会冒出来，也会没掉。它不像一块木头，更像一簇火：要看它跟什么东西挨在一起烧。王安石自己的结论，大意是：仲永的天资远胜常人，最后成了普通人，是因为后来没有受教。他把功劳和过错都算在「教」上。这已经比千里马的故事往前走了一步。只是在他那里，天资仍然是先在的一份家当，教只决定这份家当守不守得住。

科举考了一千多年，也是一台巨大的找材的机器。全国的读书人按同一张卷子考，一级一级往上筛，筛出来的叫「人才」。这台机器很公平，也很粗：它只认一种材，就是会做那一种文章的材。会治水的、会种地的、会算账的、会造船的，在这台机器里都看不见。南京有一处江南贡院，今天还留着一排复原的号舍。一间号舍只够一个人蜷着坐，前面一块木板当桌子，晚上把木板放下来就是床。考生在里面一连待好几天，吃喝拉撒都在这一小格里，写一种格式定得很死的文章〔待核：号舍尺寸与考期〕。

那一小格，正好是「材」的样子：一个人被关进一个事先量好的格子，量他填得满不满。格子外面那片天，跟他是不是人才，没有关系。再往前，《庄子》里有一个故事，正好是反着讲的。一个叫石的木匠，带着徒弟路过一棵大栎树。那棵树大得能遮住几千头牛，看热闹的人像赶集一样。木匠连看都不看，径直走过去。徒弟追上来问：我跟您学手艺这么多年，没见过这么好的木材，您怎么不看一眼？木匠说，大意是：那是一棵没用的树。做船会沉，做棺材会烂，做器具会坏，做门会流树脂，做柱子会生虫。正因为没用，它才活得这么久（《庄子·人间世》）。

当天夜里，那棵树托梦给木匠，大意是：你拿什么跟我比？拿那些有用的树吗？梨树、橘树，果子一熟就被人打，枝子被折断；它们因为有用，所以早早死掉。我求「无所可用」求了很久，这才是我的大用。这个故事有很多种读法。放在这里，它说的是一件很简单的事：一棵树「是什么材」，是拿木匠手里那张清单去量出来的。清单上有船、有棺材、有门、有柱子；清单上没有的，就叫「不材」。可那棵树并不知道这张清单。它在山上长了几百年，跟风、跟土、跟来乘凉的人缠在一起，长出了一种清单上没有的用处。韩愈的千里马和庄子的栎树，一个等人发现，一个躲着人的清单。两个故事都碰到了同一个字：材。

◆五、稀缺年代的大智慧

说它错之前，先把公道还给它。因材施教，在它出生的那片土里，是一种了不起的智慧。你想一想孔子那时候的处境。一个老师，几十个学生，没有课本，没有黑板，书写在竹简上，一卷就很重。知识少，老师少，时间也少。在这种条件下，一个老师能做的最要紧的事，就是看准眼前这个人：他缺什么、多什么、该推还是该拉。看错了，就白费一年；看准了，一句话就能把人点醒。这种「看准」，在稀缺的年代就是最高的本事。

《礼记·学记》里有一段话，把这种本事说得很透。大意是：学生有四种毛病，有的贪多，有的贪少，有的图省事，有的半途而废；这四种毛病，出在心不一样上；先知道他的心，才能救他的毛病（《礼记·学记》）。「知其心」三个字，是因材施教的魂。它要的不是一张表，是一个老师对一个学生的长久留意。

姜岚自己也这样做过。她班上有个男生，作文永远只写三行，交上来像一张请假条。别的老师说他懒。姜岚留意了几个星期，发现他每天放学都去他爸的修车铺帮忙，讲起刹车片和链条来头头是道。她就给他出了一道单独的题目：写你修过的一辆车。那个男生交上来两页纸，错字很多，可是那是他第一次写满一页。这就是因材施教最好的样子。它有一样东西，到了今天也不该丢：老师的眼睛停在眼前这个具体的孩子身上，而不是停在一张平均分的表上。

再往后的一千多年，大体也是这个样子。一个村子出一个读书人，一个作坊带两三个徒弟。师傅教徒弟，先看他手稳不稳、眼尖不尖，再决定让他学雕花还是学打磨。一门手艺学会了，可以吃一辈子。因为外面的世界变得很慢，一根梁做出来，一百年都不用换形状。到了工业时代，技能清单又有了新的用处。工厂要工人，学校就按工种培养人；社会要会计、要电工、要护士，考试就按这些位子出卷子。一张证书对应一个岗位，一个岗位对应一份工资。在这样一个位子先定好、人去填位子的世界里，「多学一样」就真的等于「多一个位子可以填」。

所以，因材施教和技多不压身，在一个条件下完全成立：世界上的位子是事先排好的，而且排好之后很久都不动。位子不动，材就有意义。你是什么材，就去填什么位子；你多会一样，就多一个位子可填。一张清单写好了，人照着清单往上叠技能，叠得越多越保险。这个条件，人类守了几千年。今天它松动了。松动的不是某一张清单，是「位子先排好」这件事本身。AI 进来以后，一个岗位里哪一段由人做、哪一段由机器做、哪一段两边来回一起做，每个月都在重新划。清单还没印出来，上面的格子就已经挪了位置。这时候再拿一张旧清单去叠技能，就像拿着去年的列车时刻表去赶今天的火车。还要再还一笔公道。

有些证，是一定要考的。给人开刀的医生，接高压线的电工，开大客车的司机，替人看账的会计，他们手里的执照不是挡箭牌。那是一份担保：这个人在出了事要负责的地方，过过一道硬门槛。这类门槛守的是别人的安全，AI 来了也不该拆。本章拆的不是这道门槛。本章拆的是另一件事：把考证当成抵挡 AI 的办法，把一个人的分量算成清单的长度。前一种是对别人负责；后一种，是在一张旧地图上，给自己多砌几块砖。

◆六、这一刀切在「材」上

现在拿出本书的那把钥匙，问一句：这一刀切在哪里？技能囤积论的刀口，不在「学」上。学本身没有错，本书也不会劝你少学。刀口在学之前的那一步：它先认定，有一个叫「我」的东西已经在那里了，像一块木料，一块已经长好、尺寸量过的木料。然后它把技能当成钉子、当成漆、当成雕花，一样一样往这块木料上加。你仔细听小骆那句话：「多一张，就多一块挡箭牌。」挡箭牌是拿在手里的东西。拿着它的那个人，在拿起它之前就站在那里了。证书一张一张吸在隔板上，隔板后面坐着的那个小骆，好像从来没有被这些证书改过。他是那块木料；证书是贴上去的东西。

再听姜岚手里那支绿笔。编程启蒙、书法、未来思维，每一格都是一样「往朵朵身上加的东西」。朵朵是一块材，课表是一张加工单。请注意那支笔落下去的时刻。朵朵还没去上过一节编程课，还没碰过一块积木，也没对着屏幕上的一行代码皱过一次眉。互动还一次都没有开始，那一格就已经被涂成了红色。涂下去的那一下，替朵朵先回答了一个问题：她是一块需要多加一样东西的材。至于编程这件事碰到朵朵以后，会在她身上长出什么、又会被她改成什么样，那一格里没有位置。这一刀，同时切出了两个成品。

一边是「人」：一块先天给定的材，有长处、有短处、有上限，教育的任务是认出它、加工它。另一边是「AI」：一台已经做好的机器，会一些技能，不会另一些技能，它会的那张单子每年变长。两个成品摆好了，剩下的事就只是比单子。我的单子上有十项，它的单子上有九项，我还领先一项；明年它变成十二项，我就得考到十三项。这就是本书说的那个动作：把正在发生的复合体，当成两个已经完成的实体来处理。

技能囤积论没有说出这句话，它甚至不觉得自己做了什么判断。它只是很勤快地往清单上加东西。可是那张清单本身，就是那一刀切下去以后留下的刀痕：人是一张单子，AI 也是一张单子，两张单子可以并排放，可以逐项比，可以算出谁多谁少。你可以问一个很简单的问题：小骆考那张「AI 提示词工程师」证书的时候，考的是什么？

考的是一套固定的写法：角色怎么设、步骤怎么拆、格式怎么规定。这套写法被写成教材，印成题库，变成一张卷子。可是你只要真跟 AI 来回聊过一个下午，就知道那个下午最要紧的东西，卷子上一道题也没有：它第一次答偏了，你是怎么发现的；你换了一个问法，它冒出一个你原来没想到的角度；你顺着那个角度又追问了一句，这一句是你一个钟头前问不出来的。那个下午长出来的东西，既不在小骆身上，也不在机器里。它在两边来回的那一段里。证书只能考到落在纸面上的那一小块。

◆七、证书越多，墙越矮

顺着这一刀推下去，会长出一串后果。每一个都落在具体的人身上。第一个后果：证书会贬值。先看一个周六的早晨。小骆七点半就到了考点。那是一所职业学院的教学楼，门口已经排了两百来人，有人拿着手机刷最后几道题，有人捧着一杯豆浆，有人蹲在花坛边上背口诀。排在小骆前面的一个姑娘，说她这是今年考的第四张。后面一个中年人，说是单位要求，不考不让评职称。队伍里没有一个人看起来是闲的。

这件事不用等 AI 来，过去二十年已经发生过很多次。一种证书刚出来的时候，持证的人少，它是一个响亮的信号。考的人一多，信号就弱了；招聘的人开始要两张、三张。等到人人都有，它就从「加分项」变成了「门槛」，没有不行，有了也不算什么。经济学里管这叫「文凭通胀」〔待核：术语与相关研究〕。小骆隔板上那十张证书，有好几张，在他考的那一年就已经是门槛了。第二个后果：墙砌得越高，人越累，心越慌。

囤积论里藏着一场追赶赛。AI 的单子每年变长，人的单子就得跟着变长。可是人一年只有三百六十五天，一天只有那么几个钟头不困。追到后来，学习从一件有意思的事，变成了一种还债：今年没考出来的那张，像一笔欠款挂在心上。大家都这样追，就是人们常说的「内卷」：每个人都多付出一点，所有人的位置却没有变，只是一起更累了。有一个老画面，常被拿来讲这件事。剧场里，前排一个人站起来看戏，后排的人看不见，也跟着站起来。一排一排站下去，最后全场都站着。谁也没有比坐着的时候看得更清楚，只是所有人的腿都酸了。这时候谁先坐下，谁就什么都看不见。

证书就是剧场里的站起来。小骆不是不知道腿酸，他是不敢坐下。第三个后果，最要紧：囤的恰恰是对面最擅长的那一类东西。你想一想，什么样的技能能写成教材、印成题库、考成证书？是那些边界清楚、步骤固定、答案可以对照的技能。偏偏这一类技能，正好是机器学得最快的。一样东西越能被写成标准答案，就越容易被一台读过无数标准答案的机器接过去。于是囤积论走进了一个怪圈。它想用技能挡住 AI，囤的却是最容易被 AI 学走的那种技能。墙砌得越整齐，越像一张给对面看的说明书。第四个后果落在孩子身上。

朵朵的周二晚上，是一节奥数课；周四晚上，是一节英语课；周六上午是作文，下午是钢琴。每一节课都有一个老师，一张讲义，一个标准。朵朵在每一个格子里都学着同一件事：找到那个标准，然后靠近它。一个十一岁的孩子，一周里有七八个钟头在学「靠近标准」。她却很少有一个钟头，去碰一件没有标准的事：一个她自己冒出来的问题，一个没有人布置的、做砸了也不扣分的小试验。课表上的格子是满的；可那种「从来没有过的东西冒出来」的时刻，在格子里找不到位置。第五个后果更隐蔽：人开始用清单来认自己。

小骆跟姜鸣喝酒的时候说过一句话，大意是：我也不知道自己到底擅长什么，反正证书上有的，我都会一点。这句话很老实，也很让人难过。一个人把自己摊成一张清单，清单上每一项都「会一点」，合起来却说不出自己是谁。这不是小骆不够努力，恰恰是太努力了：他一直在往木料上加东西，却从来没问过，这块木料是不是本来就是木料。还有第六个后果，来得最晚，也最出人意料：AI 本身，正在被做成一台更精细的「因材」机器。

你也许见过这样的学习软件。孩子做一套题，系统记下他哪一类题错得多、哪一步卡得久，画出一张「知识图谱」，红的是弱项，绿的是强项。第二天，它推给他的题，全都对准那几块红色。家长看着那张越来越绿的图，很放心。这是有史以来最精细的因材施教。孔子要观察子路好几年，才知道该拉他一下；这台系统一个晚上就能把一个孩子拆成几百个知识点，一个个打上分。请你看清它在做什么。它把孩子当成一张早就画好的图，图上的每一格都是事先定好的知识点，它的任务是把红格涂绿。它很聪明，也很勤快，却从来不会问：这个孩子会不会长出一格图上本来没有的东西？

于是一件怪事发生了。人用技能清单去挡 AI；AI 进了学校，又反过来用一张更细的清单去量人。两边都在用清单，谁也没有离开那张图。本书说的那一刀，在这里被机器原样接了过去，切得更快、更准。这不是说这类软件没用。练熟一种题型，查出一个漏洞，它比一个累了一天的老师做得好。问题只在于，把它当成教育的全部，就等于把孩子永远留在那张图里。最后一个后果，藏在一个人的口气里：囤得越多，越不敢说「我不会」。小骆开会的时候，有一个习惯。别人提到一个他没听过的词，他不问，先点头，散会以后偷偷去查。他说，大意是：我简历上写了那么多会，当面问「这是什么」，多丢人。

清单越长，「不会」就越像一个漏洞，要赶紧补上，不能让人看见。可是你回头看酱菜厂那个周末，它的每一步，都是从一句「不会」「不知道」开始的：年轻人为什么不买，不知道；这家厂能不能做小包装，不知道；一口缸跟年轻人有什么关系，更不知道。复合体里，新的东西常常从一句老老实实的「不知道」里长出来。囤积论把这句话变成了羞耻，也就把那扇门从里面闩上了。

◆八、一块超材料

这一章，我们换一副眼镜。先回到本书的老比喻：两个人抬一张沙发下楼梯。楼梯拐角很窄，沙发横着过不去，竖着也过不去。前面的人往上抬一点，后面的人往左歪一点，沙发斜着转过来，蹭着墙角，过去了。你问：这个弯，是谁拐的？拆开看，谁都没拐。前面那个人只是抬高了一点，后面那个人只是歪了一下。合起来，弯拐过去了。现在换一个问法：这个弯，是哪一项技能拐的？

前面那个人会不会「抬」？会。后面那个人会不会「歪」？也会。可是拐过这个弯的本事，不在任何一个人的技能清单上。他们俩事先谁也不会「拐这道弯」。这个本事是在楼梯上、在那一抬一歪之间、在沙发蹭到墙的那一下，临时长出来的。下一次换一道楼梯，它还要重新长一次。技能囤积论想做的事，是让两个人在下楼之前，各自多学几样：多学抬、多学推、多学转。学得再多，拐弯这件事仍然不在他们俩任何一个人身上。再给你一样东西看。

材料科学里，有一类东西叫「超材料」。大意是：拿一些很普通的材料，比如金属丝、塑料片，按一种特别设计的小结构排起来。一格一格重复下去，整块东西就会表现出原来那些材料都没有的性质，比如让某种波绕着走、往反方向折〔核：大意〕。这种性质不在金属里，也不在塑料里，它在排布里，在那一格一格的结构里。把一块超材料拆开，你只会得到一堆普通的金属丝和塑料片。你在任何一根金属丝上都找不到那种新性质。

技能囤积论看人，是在看一根金属丝：它有多粗、多硬、导电好不好，再往上镀一层、再镀一层。换一副眼镜，你会看到另一件事：人和 AI 一来一回的那一段，就像那一格一格的排布。新的本事，不在任何一端的清单上，它在排布里长出来。这就是本书说的「人—AI 复合体」：不是人用 AI，也不是 AI 替人，是两端在互动里一起显影。另一端也一样。同一个 AI，被小骆用一段规整的模板问，和被一个追着问「为什么不搭」的人问，冒出来的东西不一样。前一种问法激出一台很会填格子的机器，后一种问法激出一个会换方向的对手。你说哪一个才是「它」？离开那一场问答，这道题答不出来。

所以，拿一张写好的单子去量 AI「会什么」，和拿一张写好的单子去量人「是什么材」，犯的是同一个错。两张单子量的，都是互动停下来以后留在桌上的一小块。有一点要说清楚。复合体长出新本事的时候，两端也在被改。沙发拐过那道弯以后，前面那个人对「抬多高」有了新的手感，后面那个人知道了自己的肩膀能歪到什么角度。下一次下楼，他们已经不是上一次的那两个人了。所以「材」这个字，在这里要松开。再看一样厨房里的东西。和面的时候，面粉是干的，水是湿的，两样都没有筋。你一边加水一边揉，揉上十来分钟，面团忽然变得有了弹性，拉得开、扯不断。那股劲叫面筋。

面筋在面粉里吗？干面粉一捏就散。在水里吗？更没有。它是在揉的那十来分钟里，面粉里的东西和水缠在一起，一下一下被手推出来的。揉得不够，它就出不来；揉的手法换了，出来的劲道也不一样。你不会去问：面筋算面粉的，还是算水的？你也不会说：多往面粉里加几样添加剂，就有面筋了。人不是一块事先长好的木料，等着被认出来、被加工。一个人「是什么材」，有一大半是在一场一场的互动里长出来的：跟谁一起干过事，碰过什么样的难题，在哪一道楼梯上拐过弯。AI 进来以后，这种互动多了一个特别的对手：它反应快、知道得多、不怕被问傻问题，一个晚上可以陪你来回三百次。

这里也要打一个预防针。三百次来回，不一定长出新的材。一个孩子要是每一次都只说「告诉我答案」，机器每一次都给，三百次以后，长出来的只是一个更会要答案的人。第 7 章讲过这种样子：一端把判断整个交出去，复合体就塌成了单边。来回要是只剩下单程，什么也长不出来。所以要紧的不是用不用 AI，也不是用得多不多，是那一来一回里，有没有一句话让两边都停下来、都改了一点。问题于是换了。旧的问题是：这个人是什么材，该怎么教？新的问题是：这一场互动，能不能长出原来没有的材？

从「因材」到「生材」：材不在互动之前，材在互动里长出来。

本系列《AI 时代的新教育使命：从因材施教到超材创造》专门展开这一步，本章只把门推开一条缝。

◆九、一个旧问题：材是哪来的

这里有一个疑问，你也许已经想到了：人总有些天生的东西吧。有的孩子耳朵好，有的孩子手巧，有的孩子一看数字就兴奋。这些难道不是「材」吗？是有这些东西。本书不否认一个人出生时带着一副身体，有些地方敏感，有些地方迟钝。请你再往下看一步。一副耳朵好的孩子，生在一个家里天天有人唱山歌的村子，和生在一个家里只有电视声音的城市小区，长出来的「耳朵好」不是同一种东西。前一个可能成了一个会即兴编调子的人；后一个可能只是在音乐课上音准比别人好一点。那副耳朵是同一副吗？出生那天也许差不多，可是它从第一天起，就和周围的声音缠在一起，被一首一首歌、一次一次的应和改着。

你说那是「材」，指的是哪一天的它？这就是本书在导论里提过的那道老题。旧的说法写成一个式子：本事＝F（人，环境，互动）。人和环境是两个先在的东西，互动是它们之间发生的事。可是人和环境真的先于互动而在吗？一副耳朵从娘胎里就开始听母亲的心跳和说话声，它是什么时候「先在」过的？「材」这个字，就是把这道题封住的那一下：它说，人身上有一部分东西，是在互动之前就定好的，那一部分叫材，教育只能认它、顺它、用它。

在稀缺的年代，这一封很有用。老师精力有限，先认准一个孩子的长处，顺着它推，事半功倍。可是这一封也有代价：它让人以为，那一部分本来就在那里，不会长，不会变，只能被找到。AI 时代把这个代价放大了。机器可以在一个晚上，陪一个孩子做三百次她从来没做过的尝试。三百次以后，冒出来一个她自己都没料到的兴趣，你说这是她的「材」被找到了，还是一块新的材长出来了？照发现学的看法，那块材一直埋在那里，三百次只是挖出来了。照发生学的看法，那块材是在三百次里长出来的；没有那三百次，它不会在那里。这两种看法，平时好像差不多。落到一个家长手里，就是两张完全不同的课表。

本书要老实交代一件事：这一节的说法，是本书的解释，待验。它在什么情况下算错？如果有人能拿出这样一种本事：不管孩子在什么样的家里长大，碰过什么样的人和事，有没有那三百次尝试，到了某个年纪它都原样冒出来，强弱也大致不变。那么在这一种本事上，「材是先在的」就站得住，本书要收回这一处。本书并不认为这种事实一样也没有。身高、某些病的易感，可能就很接近。本书只是说：在一个人「能干成什么」这件事上，这种原样冒出来的情形，比囤积论以为的少得多。

◆十、五笔字型的那张证

再讲一段不太远的往事。二十多年前，很多城市的街边都有电脑培训班。门口贴着红纸，写着「五笔打字速成」「计算机等级考试包过」。下了班的年轻人挤在一间屋里，一人一台方头方脑的显示器，背字根口诀：王旁青头戋五一，土士二干十寸雨……姜鸣的姐姐姜岚，上大学的时候就考过一张这样的证。她现在还记得，为了练到一分钟打多少字，宿舍熄灯以后，她在床上用手指敲枕头。那张证在当年是真有用的。会打字的人少，能用电脑写文件的人更少。一个会五笔的文员，和一个只会手写的文员，在办公室里的位子不一样。

后来发生的事，你都知道。拼音输入法越来越聪明，会猜你下一个词，会记住你常用的说法。五笔还在，用的人少了。那张证没有被谁宣布作废，它只是慢慢地，变成了抽屉里的一张纸。更早一点，还有算盘。很多银行、供销社、财会学校，过去都看重珠算，有的地方还有珠算的等级鉴定〔待核：具体制度与年代〕。一个打得一手快算盘的会计，在单位里是被人高看一眼的。后来计算器、电脑一来，那一手噼里啪啦的功夫，就从「吃饭的本事」慢慢变成了「一门老手艺」。

算账这件事没有消失，会计这个行当也没有消失。消失的，是「算得快」在会计身上占的那一格。腾出来的那一格，被别的东西填上了：看懂一张报表背后的生意，判断一笔钱该不该花，跟老板说清楚风险在哪里。这些东西，从来没有一张珠算证考过。请注意，被换掉的不是「打字」这件事。打字的人比二十年前多了几百倍。被换掉的，是「打字是一项需要单独练、单独考的技能」这一格。人和输入法之间，来回磨出了一种新的写法：打几个字母，看它猜得对不对，不对再挑；写着写着，句子是在人和输入法的一来一回里出来的。这种写法，没有哪个培训班教过，也没有哪张证书考过。

姜岚后来跟学生聊起这段，说过一句话：「我那时候以为自己学的是一门手艺。现在想想，我学的是一台机器还不够聪明的那几年。」这句话说得有点狠，也说出了一件事：很多技能，是两边的关系在某一个时间点上的样子。那时候机器笨，人就得多会一样；机器变聪明，那一格就挪了。把这一个时间点上的样子，当成人身上一块永远的材，囤起来，等它挪的那一天，就会觉得被拿走了什么。姜家还有一个人，对这件事体会更深，就是姜师傅。

他十九岁进县城印刷厂，学的第一门手艺是捡铅字。一排排木架子上，铅字按部首码好，左手拿字盘，右手一个一个往里捡，捡错一个，整版重来。他练了两年，闭着眼睛都知道「的」字在哪一格。后来厂里上了电脑照排，铅字架子拆掉，当废铅卖了。姜师傅那门捡字的手艺，一夜之间没了用处。他记得那一阵很难受，觉得自己白练了两年。不过他没有被换掉。他在电脑前面坐了三十年，成了厂里最好的排版师傅。年轻人排出来的版，他扫一眼就知道哪里不对：标题压得太低，一行末尾孤零零剩一个字，图片和文字挤在一起「透不过气」。这些毛病，没有一本教材写全过。

这份眼力是哪来的？他自己说，大意是：捡了两年铅字，又在电脑上排了几千版，看着看着就会了。请注意，这份眼力不是「捡铅字」这门技能升了级，也不是「会用排版软件」那张证。它是在铅字、照排机、一版一版的报纸、一个一个来改稿的编辑之间，三十年里慢慢长出来的。第 1 章讲过，今年厂里又上了自动排版系统，姜师傅又慌了一回。那一章问的是饭碗；这一章只问一件事：如果他当年认定自己就是「一个会捡铅字的人」，把捡字的本事当成自己这块材，后来的三十年还长得出来吗？

今天的证书热，规模比当年大得多，挪得也快得多。当年五笔从有用到冷落，走了十几年。今天一门「AI 应用」课程，从开课到教材过时，可能只要一两个季度。

◆十一、一份酱菜厂的方案

现在讲一个完整的例子。从头到尾讲完。姜鸣的公司接了一个小单子。客户是县城里一家开了六十多年的酱菜厂，老板的儿子刚接手，想做一套新的包装和宣传，预算不多，要求一句话：「让年轻人愿意买。」组长把单子分给两个人：姜鸣和小骆，各出一版方案，下周一比稿。

小骆的做法很有章法。他打开自己整理的工具清单，一项一项过：先用数据分析的办法，拉了一份「年轻人消费趋势」的报告；再用新媒体运营那套框架，列出目标人群、渠道、内容日历；然后，他照考提示词证书时学的模板，给 AI 写了一段很规整的指令。角色是资深品牌策划，任务是为传统酱菜品牌做年轻化方案，输出格式是五个部分，每部分不少于三百字。AI 很快给了一份方案，结构齐整，用词漂亮：国潮风包装、联名、短视频挑战赛、「妈妈的味道」情感营销。小骆又用他的设计软件，套了两张效果图。方案周五下午就做完了。小骆很满意。每一步都对得上他的一张证书。

姜鸣那边慢一些，也乱一些。他先没有写方案。他问 AI 的第一句话是：一家县城酱菜厂，六十年没换过配方，年轻人为什么不买？AI 给了几条常见的原因：太咸、包装土、渠道老、和外卖时代的吃法不搭。姜鸣看着「和外卖时代的吃法不搭」这一条，愣了一下，追问：年轻人点外卖，配菜里有没有酱菜的位置？AI 说，大意是：很多外卖的米饭套餐，会附一小包榨菜或咸菜，那是一个现成的位子，只是品牌通常不显眼。姜鸣想起自己点的猪脚饭，盒子边上确实总有一小包东西，他从来没注意过是哪家的。

他又问：这家厂能不能做这种小包装？成本大概怎样？AI 说它不知道这家厂的具体情况，给了几个要问厂里的问题。姜鸣把这几个问题抄下来，周六坐大巴回了一趟县城，找到酱菜厂，跟老板的儿子在车间里转了一下午。车间里有一件事，是他在网上怎么也查不到的：厂里有一口用了四十多年的老缸，酱料的味道一大半靠它。老师傅说，换了新缸，头一年的味道都不对，要等缸「养熟」。姜鸣回来以后，把这件事讲给 AI 听，问它：一口要养熟的缸，跟年轻人有什么关系？

AI 先给了几个平常的答案：匠心、传承、时间的味道。姜鸣说，这些太常见了，每家老字号都这么说。AI 换了一个方向，大意是：养缸是一件「要等」的事，而外卖是一件「不等」的事；也许可以把这两样放在一起说。这一句，让姜鸣停了很久。后来的方案，是在这一句上长出来的。不卖「妈妈的味道」，也不做国潮包装。做一小包外卖配菜，包装背面印一行小字，大意是：这包咸菜，等了四十年；你的饭，只等了三十分钟。再配一个小活动：每一批酱料出缸的日子，在小程序上放一张老缸的照片，让人看见这一缸「养」到了第几天。

周一比稿，组长和客户都选了姜鸣这一版。客户说：「这个像我们家的东西。」这里也要说一句公道话。小骆那一版并非一无是处。比稿前一天，姜鸣拿不准外卖配菜到底有多少人在吃。是小骆用他的数据分析办法，帮他拉了一份公开的外卖平台榜单，看出米饭套餐的确占了一大块。那一张证书在这里派上了用场。可是请注意它是怎么派上用场的。它不是一块事先砌好的砖，挡在姜鸣前面；它是在姜鸣的问题已经长出来以后，被拉进来，去核一个具体的猜测。技能在复合体里有用，用法却换了：从挡箭牌，变成了一根拿来敲一敲墙的锤子。故事讲完了。现在用本章的眼镜，回头看一遍。

小骆那一版，是一张清单做出来的方案。每一项技能都用上了，每一项都用得对。只是这些技能，是在他碰到这个酱菜厂之前就备好的；酱菜厂只是被放进了一个现成的模子里。AI 在他手里，也被放进了一个现成的模子：角色、任务、格式。两边都是成品，碰在一起，出来的是一个成品的平均数。姜鸣那一版，没有哪一步用的是他清单上的技能。他不会做数据分析，也没考过提示词证书。那个「等四十年对等三十分钟」的点子，你很难说是谁的：AI 先提了「外卖时代」，姜鸣想起了猪脚饭；姜鸣去了车间，带回一口老缸；AI 把「等」和「不等」放在了一起；姜鸣在那一句上停下来，认出了它。

拆开看，谁都没想出这个点子。合起来，点子出来了。还有一件事更要紧：这一个周末以后，姜鸣和他手里的 AI，都和周五不太一样了。姜鸣知道了外卖配菜那个小小的位子，知道了一口缸要养熟，也知道了自己在哪一句话上会停下来。他和 AI 来回的那种问法，也被这个周末改了：下一次接单子，他大概会先问「这个东西跟今天的日子有什么不搭」，再去写方案。这就是一块新的材。它不在姜鸣出生时的那副身体里，不在他考过的任何一门课里，也不在 AI 的参数里。它是在一个周末、一口老缸、三百来句来回里长出来的。小骆后来问姜鸣，你那个方案是怎么想出来的。

姜鸣想了一会儿，说：「我也说不清。聊着聊着就出来了。」这句「说不清」，不是谦虚。你要是让他把那个点子拆成几项技能，拆完一看，每一项都很平常：会追问，会坐大巴，会在车间里多看一眼，会在一句话上停下来。哪一项单拿出来都不值一张证。合在那个周末里，就值一份方案。小骆说：「那你下次能再想一个吗？」这个问题问得很准。在囤积论的地图上，一种本事只有在能「再来一次」的时候才算数，才能写成证书。可是姜鸣那一次的本事，换一个客户、换一个下午，要重新长一次。它不能被囤起来。

能囤的，是另一样东西：一种让这样的周末更容易发生的习惯。先问不搭，再去现场，把听来的东西讲给 AI 听，在它说出平常话的时候再推一下，在某一句上停下来。这些都不是技能清单上的一项。它更像是一条路，走得多了，路就宽了。小骆那种做法，也是一条路，只是路的方向不一样。他每一次接单子，先打开清单；每一次用 AI，先套模板。走得多了，这条路也会变宽，宽到他再接到一个奇怪的单子，第一反应还是去清单里找一项对得上的。

两条路都在回写走路的人。一条路把人越写越像一张清单；另一条路，把人越写越像一个会停下来、会追问、会去现场的复合体的一端。差别不在谁聪明，在于每天走的是哪一条。

◆十二、它和怕饭碗的人用同一张地图

技能囤积论在这本书里不是孤零零的一种。它有几门近亲。最近的一门，是第 1 章的替代恐慌论。替代恐慌论说：它会抢走我的饭碗。技能囤积论说：那我多学几样，它就抢不完。一个是慌，一个是防，听上去是两种态度。可是你把两种说法摊开，会看见它们底下铺着同一张地图。人是一张技能清单，AI 也是一张技能清单，两张单子摆在一起，重叠的那一块，就是人被拿走的那一块。第 1 章说过，替代恐慌论把人的价值钉在一张清单上；技能囤积论没有拔这颗钉子，它只是在钉子旁边又钉了十颗。钉子越多，人越被钉牢在那张清单上。

所以这两种想法常常长在同一个人身上。小骆夜里刷题的时候是慌的，刷完了、考过了，那一阵子是防的。慌和防，轮流值班，地图从来没换过。另一门近亲，是第 5 章的效率至上论，尤其是那篇附在后面的提示词万能论。小骆考的那张提示词证书，就是两种想法握手的地方。效率至上论相信，目的钉住不动，只要做得更快；提示词万能论相信，只要掌握一套正确的写法，机器就会照单交货。把这套写法考成证书，囤进清单，就成了技能囤积论里最新的一块砖。

第 5 章已经说过：提示词只是表面，差别在能不能看见一个问题的结构。酱菜厂的例子正好接上那一章：姜鸣那一版方案，没有一句漂亮的提示词，它的力气全花在「这个问题到底卡在哪里」上。第 4 章的工具中立论，也站在旁边。工具中立论说：AI 只是一把锤子，看你怎么用。技能囤积论顺着这句话往下走：那我就多备几把锤子，锤子、扳手、螺丝刀，一样一样挂在腰上的工具袋里。两种说法里，拿工具的那个人都是不动的，工具袋越来越重，人还是原来那个人。

第 4 章讲过，工具会回写用它的人：用惯导航的人，认路的方式变了。证书袋里的每一样东西，也在回写小骆：他越来越习惯先去袋子里摸一样对得上的，而不是先抬头看一眼眼前这件事。还有一门远一些的亲戚，是第 3 章的封禁隔离论。乍一看，这两种想法是反着的：一个要孩子离 AI 远一点，一个要孩子多学几样去对付 AI。不过朵朵的学校一边发了「禁止用 AI 写作业」的通知，一边在家长会上推荐了一门「AI 素养」兴趣班。这两件事落在同一个学期，并不矛盾。在两种想法里，孩子都是一块要被保护好、加工好的材：墙砌在外面，是封禁；砖叠在身上，是囤积。

本书第三编里讲过的神谕崇拜论（第 7 章），和这里也有一个暗暗的接头。囤积论的人很少跪 AI，他们跪的是证书：一张纸上写着你会，你就会了。判断交给了发证的机构，就像神谕崇拜论把判断交给了机器。把这几种放在一起看：怕它、防它、躲它、用它、信它，座次各不相同，手里拿的却是同一张图。图上，人和 AI 在互动开始之前，就已经各自是一个成品了。和第 9 章的作弊论，它还有一层更深的关系。作弊论问：这段文字是谁写的？技能囤积论问：这个本事是谁的？两个问题都要求一个答案落在某一个人的账上。证书就是一张写好名字的账单：本事归你，盖章为证。

可是酱菜厂那个点子，你把它记在谁的账上都不太对。它既不能写进姜鸣的证书，也不能写进 AI 的说明书。第 9 章说过，这正是「拆账」走不通的地方。能拆账的本事，才能被囤；长在来回之间的本事，拆不开，也就囤不住。

◆十三、放回周五晚上

回到开头那张课表。又是一个周五晚上。姜岚没有再拿出那三支笔。她给朵朵倒了一杯水，问她：「这学期这么多课，你最喜欢哪一节？」朵朵想了想，说：「都还行。」「那你最近有没有自己想弄明白、又没人教的事？」朵朵这回想得久一点，说：「我想知道，为什么我们楼下的流浪猫，每天下午四点都在那棵树底下。」姜岚差一点就要说：这跟学习有什么关系。话到嘴边，她咽了回去。

那个周末，朵朵和妈妈一起，用家里的平板问 AI：流浪猫为什么会每天同一时间出现在同一个地方？AI 说了几种可能：有人固定时间喂食，那个位置下午有阳光，附近有它的窝，等等。朵朵不满意，她说楼下的阿姨都是晚上才喂。AI 又问她：那棵树底下，下午四点有什么别的时候没有的东西？朵朵答不上来。周日下午三点半，她搬了一个小板凳，坐到楼下去看。四点过五分，一辆送快递的三轮车停在树底下，快递员拆箱子，把一堆碎泡沫和纸壳丢在旁边。猫钻进了纸壳堆。朵朵跑上楼，眼睛发亮：「它是去睡纸箱的。」

这件事不在任何一张课表上，也不会变成一张证书。可是那个下午，一个孩子、一台平板、一只猫和一辆快递三轮车之间，长出了一样东西。一个她自己冒出来的问题；一次她自己下楼去看的验证；一个答案，它推翻了 AI 的第一轮回答，也推翻了她自己的第一个猜想。那个周末以后，姜岚的绿笔没有再落下去。「未来思维」那一格，空着。这不是说补习班都该退。朵朵的英语课还在上，钢琴也还在练。课表上的格子还是满的，只是周日下午那一格，留给了一件没有标准的事。

至于小骆，他还在考证。姜鸣没有劝他别考，只是有一天下班，把酱菜厂那一周的聊天记录导出来，发给了他。小骆看了一晚上，第二天说了一句：「原来你是这么问的。」这句话里，已经有一点东西在挪位置了。姜鸣自己那天晚上，也打开了他的简历。「技能」那一栏，他原来写着：文案撰写、熟练使用办公软件、熟练使用 AI 工具。他看了一会儿，把最后一行删了。

不是不会，是这一行说不出任何东西。一个人「熟练使用 AI 工具」，跟一个人「熟练使用电话」一样，什么也没说。他在下面另起一行，写了一句很不像简历的话：做过一个酱菜厂的外卖配菜方案，跟 AI 来回聊了一个周末，去了一趟车间。写完他自己笑了。这一行，没有哪一张证书能盖章。如果你的日子里也有一张课表，或者一张越来越长的技能清单，明天能试这两件事：

1. 在你的清单旁边，再写一张很短的单子，只记一样东西：最近一次，你和别人、或者和 AI 来回聊着，冒出了一个你一个人想不出来的点子，是什么时候？那次聊天里，是哪一句让你停下来的？这张单子上记下的，就是你正在长出来的材。
2. 下一次替孩子或者替自己报一门课之前，先留出一个下午，让一个没有标准答案的问题在家里发生一次：一只猫、一棵树、一口锅、一个不会修的旧收音机。让 AI 也参与进来，但别让它第一轮的答案收场。看那一个下午，长出来了什么。

这两件事都很小。它们不会让清单变短，也不会替你挡住任何东西。它们只是给另一种材，留一个能长出来的位置。

◆第四编总账：我的和你的，材与技

作弊论要把产出记在某一块的账上；技能囤积论把人当成一块先天给定的材，往上叠技能。两者都默认，有一个现成的、孤立的「我」，思考和能力是装在里面的东西。这是十种思潮里最深的一刀，因为它切在人自己身上。可是一旦看见产出是从来回里涌出来的，作弊感就失去了立足的地方；一旦看见材是在来回里长出来的，囤积的焦虑也就松开了。

这一编的总判断：「我」也是来回里显影的，不是来回之前就备好的。

十种思潮读完，回到最初那张沙发。