艾伦·图灵（1912—1954）
一句话：“机器能不能思考”这个问题问不下去，因为“思考”说不清；换个问法——你能不能分辨出跟你说话的是人还是机器——它就成了一个可以做的实验。
读完带走三样：一个动作——遇到一个吵不出结果的大问题，把它换成一个能做的测试。一个问题——这件事，是判断“它是什么”，还是判断“我看不出区别”？一个提醒——有些事情，不是还没算出来，是原理上就算不出来。
你在网上跟客服说话，说了五分钟，忽然停下来想：这到底是人，还是机器？
你读到一篇写得极好的文章，忽然起疑。你看了一段视频里某人说话，觉得哪里不对劲。你收到一封邮件，措辞熨帖、逻辑周密，你盯着屏幕想：这是他写的吗？
再往下想一层，问题会变得更奇怪：假如我怎么也分辨不出，那还重要吗？
有人会说：当然重要——机器只是在模仿，它其实什么也不懂。那么接着问：你怎么知道你对面那个人“懂”？你没法钻进他的脑子。你判断他懂，靠的也只是他说的话、他的反应、他的表情——也就是说，靠的也是“我分辨不出他不懂”。
这个问题不是今天才有的。1950 年，一位英国数学家在一篇论文的开头写道：我打算考虑这样一个问题——机器能思考吗？然后他说，这个问题的两个词都太含糊，讨论它得先去做词义调查，那太荒唐。于是他换了一个问法，换成了一个游戏：一位提问者，分别和一个人、一台机器用文字对话，如果他分辨不出哪个是机器，会怎么样？
这个替换的动作，比它的结论重要一百倍。七十多年过去，那场游戏已经不是思想实验了——它每天都在发生，只是提问的那个人，常常不知道自己正在被测试。本书从第一章起，讲的都是人怎样把“本来就有”的东西改判成“长出来的”。图灵做的是另一种改判：把一个吵不出结果的问题，改判成一个做得出来的测试。
写这篇论文的人，十四年前，为了回答一个纯数学问题，在纸上想象出了一台机器。今天你手里这台设备，就是那台机器的后代。他在二战中主持破译了德军的海军密码；战后，他因为同性恋被英国法庭定罪，接受了激素注射；1954 年，四十一岁，他死在自己的床上，床头柜上有一个咬了一口的苹果。
土。 1912 年，图灵生在伦敦。父亲在印度的英国殖民机构做事，父母常年在印度，把他和哥哥寄养在英国的人家里。这是那个阶层常见的安排，代价是：他从小和父母之间有一层拆不掉的隔膜。
他从小就不合群。字写得极难看，作业本上永远是墨渍。学校的老师看不上他：一位校长写过评语，说这孩子如果只想当个搞科学的专门家，那他在公学里就是在浪费时间。他心不在焉，可对数学和化学着迷得吓人。有一年学校开学那天赶上大罢工，火车停了，十四岁的他自己骑了将近一百公里的自行车去学校，路上住了一夜。
十六岁那年，他遇到了克里斯托弗·莫科姆，一个比他高一届、同样痴迷科学的男孩。两个人一起看星星，讨论相对论和量子力学。这是他一生中第一次、也许是最深的一次感情。1930 年 2 月，莫科姆因为幼年喝过带菌的牛奶，得牛结核病去世了。图灵十七岁。
这件事在他心里留下的东西，远不止悲伤。他此后很长时间反复琢磨一个问题：一个人的心灵，和他的身体是什么关系？身体没了，心灵还在不在？ 他给莫科姆的母亲写过信，认真讨论过这件事。多年以后他会写道：他想弄清楚，心灵能不能以某种方式，脱离特定的那一团物质而存在。
路。 1931 年，他进剑桥国王学院读数学。二十二岁当选研究员。
形状。 1935 年春天，他上了一门数理逻辑课。老师提到了一个当时最前沿的问题：希尔伯特的“判定问题”——有没有一套机械的程序，对任何一个数学命题，都能在有限步内判定它是不是可以证明？
回写。 那个十七岁失去朋友的男孩，和这个二十二岁遇到的数学问题，在他身上接成了一条线：心灵能不能被做成一套机械的程序？
土。 1930 年代的数学正在经历一场地震。第四章讲过罗素给弗雷格的那封信；1931 年，哥德尔证明了他那条定理：任何一个足够强、又不自相矛盾的形式系统里，都有真的句子它自己证明不了。希尔伯特那个雄心勃勃的计划塌了一半。剩下的那半个问题就是“判定问题”。
路。 要证明“不存在这样一套机械程序”，得先说清楚什么叫“机械程序”。这是最难的一步——在此之前，没有人给“机械地计算”下过精确的定义。
图灵想出的办法，朴素得惊人：他去看一个人是怎么算的。一个人做长除法，手里有一张纸，纸上有一格一格的位置；他一次只看一格，根据看到的符号和自己此刻的“心情”（进位没有、算到哪一步了），决定写下什么符号、往左还是往右移一格、下一步进入什么状态。就这些。
于是他想象出一台机器：一条无限长的纸带，分成一格一格；一个读写头，一次只能看一格，能读、能写、能左右移动一格；一张表，规定“看到什么符号、处在什么状态，就写什么、往哪儿移、进入什么状态”。没有别的了。他证明：任何人能用机械的步骤算出来的东西，这台机器都能算。
然后是更漂亮的一步。他说，这台机器的“那张表”本身，也可以写成纸带上的一串符号。于是可以造一台通用机器：给它一条纸带，前半截写着另一台机器的表，后半截写着数据；它读了那张表，就能模仿那台机器。
请停一下，看清楚这一步。在图灵之前，机器是各干各的：织布机织布，加法机做加法，一台机器一个用途。图灵说：程序也是数据。 一台机器可以通过读一份描述，变成任何一台机器。这就是今天所有计算机的原理：同一块硬件，装上不同的程序，就是不同的东西。
有了这个定义，他回答了判定问题：不存在那样一套程序。他的证明用的是一个“自己咬自己”的招数（第四章、第八章见过它的两个亲戚）：假设有一台机器 H，能判断任意一台机器加任意输入会不会停下来。那我造一台捣蛋机 D：让它先用 H 去查“我自己会不会停”，如果 H 说“会停”，D 就故意进入死循环永远不停；如果 H 说“不会停”，D 就立刻停下。现在把 D 交给 H 去查 D 自己——怎么答都错。所以 H 不存在。
这就是停机问题：有些事情，不是我们还没算出来，是原理上算不出来。
形状。 1936 年，论文《论可计算数，及其在判定问题上的应用》。他二十三岁。稿子快投出去的时候，他得知美国的丘奇已经用另一种办法解决了同一个问题；他还是发表了——因为他那台“机器”，比任何别的定义都更接近人的直觉。
1936 到 1938 年，他去普林斯顿读博士，导师就是丘奇。冯·诺依曼在那里见过他，想留他下来当助手。他回了英国。
回写。 那篇论文当时只有少数逻辑学家读得懂。它真正落回土里，要等到战争和战后的机器。
土。 1939 年 9 月，战争爆发。图灵进了政府密码学校，地点在伦敦西北的布莱切利园。德军用一种叫“恩尼格玛”的转子机器加密，每天换一次设置，可能的组合数是一个天文数字。
路。 他的思路不是硬算，是找结构上的弱点。恩尼格玛有一个特性：任何一个字母加密后都不会变成它自己。再加上德军电文里反复出现的套话——比如每天早上的天气预报、开头的敬语——就可以猜出一小段明文，然后用机器高速排除掉所有不可能的设置。他和同事们设计的机器叫“炸弹机”，几十台一起转。
他还改进了一套评估证据的数学方法：把一条条零碎线索折算成一个可以累加的分值，够了阈值就下判断。这套东西今天在统计学和机器学习里到处都是。
他的古怪在园里是出名的：花粉季戴着防毒面具骑车上班；把茶杯用链子锁在暖气片上；据说他担心英国会被入侵，把积蓄换成了银锭，埋在树林里，战后再也没找到。
形状。 破译工作对战争的影响有多大，历史学家的估计不一，但公认它缩短了战争、救了很多条命。这一切被列为机密，几十年后才解密。
回写。 他因为战时的工作得了一枚勋章。而真正的成果，他一辈子不能对任何人提起。
土。 战后他去了国家物理实验室，设计了一台电子计算机的方案；后来去曼彻斯特大学，那里有世界上最早能存储程序的机器之一。
路。 他干了三件事。
第一件：人工智能。 1950 年，那篇《计算机器与智能》。
第二件：形状是怎么长出来的。 这是他自己最看重、外人最少提的工作。他问：一个受精卵是一团几乎均匀的细胞，后来怎么长出了斑马的条纹、豹子的斑点、向日葵的螺旋？1952 年，他发表了《形态发生的化学基础》：两种化学物质，一种促进、一种抑制，扩散速度不同，在完全均匀的初始条件下，只要有一点点随机的扰动，就会自发地形成规则的图案。均匀的东西自己长出了花纹，不需要谁事先画好蓝图。 这篇论文当时几乎没人注意，几十年后成了发育生物学和复杂系统研究的经典。
第三件：他的生活。 1952 年 1 月，他家被盗，报警。警察在调查中发现他和一个年轻男子有关系。当时的英国法律规定男性之间的性行为是犯罪。他没有否认，据说还写了一份五页的陈述。他被定罪，在坐牢和接受“治疗”之间选了后者——一年的雌激素注射。这让他身体发生了变化，也让他失去了继续参与政府机密工作的资格。
形状。 1954 年 6 月 8 日，他被发现死在家中，四十一岁。床头有一个咬了一口的、浸过氰化物的苹果。官方结论是自杀。他母亲坚持认为是实验事故——他常在家里的小房间做化学实验。至今仍有不同看法。
回写。 五十多年后，2009 年，英国首相代表政府为对他的处置公开道歉；2013 年，他获得王室赦免；2017 年，英国通过法律，为历史上按同一罪名定罪的人平反，这项法律被称为“图灵法案”。2021 年，他的头像印上了五十英镑纸币。
第十二章里，本雅明的形状是别人替他落回土里的。图灵这一次更极端：他的形状落回土里落得如此之彻底，以至于我们今天整个生活在里面——你手里这块玻璃屏幕，就是那条纸带。 而他本人，在他还活着的时候，被那片土判了罪。
老看法。 要回答“机器能不能思考”，得先弄清“思考”是什么：是有意识？有理解？有内心体验？弄不清这个，别的免谈。
他怎么翻。 图灵说，这样问，我们会永远停在第一步。他提议换成一个游戏。
原来的版本很有意思。先有一个派对游戏：一男一女待在房间里，提问者在外面，只能靠打字条交流，要猜哪个是男的、哪个是女的；男的要尽力冒充女的，女的要尽力帮提问者。图灵说：现在，把冒充的那个人换成一台机器，其他一切不变。如果提问者猜错的比例，和原来那个男人冒充女人时差不多，那会怎么样？
关键在于这套设计的几个细节。只能打字——这是为了把外表、声音、材质统统排除掉，免得我们因为“它是铁做的”就先入为主。是一场比较——不是问机器“像不像人”，是问它冒充得是不是像人冒充别人那样好。判据是分辨不出——不是“它有没有意识”，是“你能不能看出区别”。
他在论文里预言：五十年后，机器会做得足够好，让一般的提问者在五分钟的问答之后，正确辨认的概率不超过百分之七十。然后他写了一句很重要的话，大意是：我相信到那时候，一般人的用语习惯会改变，“机器在思考”这种说法不再会被认为是荒谬的。他要的不是证明机器有灵魂，是预测我们说话的方式会变。
论文里最精彩的部分，是他一口气列出了九种反对意见，一条条回应。其中几条今天还在被人一字不差地重复。
“机器没有灵魂，思考是上帝赋予人的。” 他说，这等于给上帝的能力划了个界；何况类似的论证当年也被用来反对过哥白尼。
“后果太可怕了，但愿这不是真的。” 他说，这不是论证，这是安慰。
“机器只能做我们吩咐它做的事，不会有新东西。”——他引了一位女士的说法，她在一百年前就说过这话。那位女士是阿达·洛夫莱斯，十九世纪英国那台没造出来的“分析机”的第一位程序员。他的回答分两层：第一，机器经常让我做出的事让我大吃一惊，因为我算不准我自己的指令会推出什么；第二，也是他真正的主张——别去造一个成年人的心灵，去造一个孩子的心灵，然后教它。
最后这一条，是整篇论文里最有远见的一句。他明确地说：我们不该指望一上来就把成年人的全部知识写进程序；我们该造一个像孩子一样、结构简单但可以被“教育”的东西，然后通过奖励和惩罚去训练它。他甚至讨论了要不要给它一副身体、让它去世界上走一走。今天的机器学习，走的正是这条路：不是把规则写进去，是喂给它大量的例子，让它自己调。
还有两条反对意见值得单提。一条是拿哥德尔定理来反驳的：既然任何形式系统里都有它证明不了的真话，那机器就永远比不上人。图灵的回答很干脆：这条定理对人同样成立，我们凭什么以为自己没有类似的盲区？我们只是不知道自己的盲区在哪儿罢了。另一条他叫“来自意识的论证”：有人说，除非机器因为写出了一首十四行诗而感到快乐，否则不算思考。图灵说，照这个标准，要确认另一个人在思考，你也只能变成那个人；这条路走到底是唯我论——世上只有我一个人有心灵。大家在日常生活里并不这样要求彼此，所以对机器也不必。
打个比方。 你怎么知道一个人会游泳？你不去研究他的肌肉和意志，你让他下水，看他游不游得过去。图灵测试就是给“思考”造了一个泳池。
别误会。 第一，他从没说“通过测试就等于有意识”。他说的是：如果连你也分辨不出，那么坚持说“它其实不懂”，你也拿不出别的依据——你对别人“懂不懂”，用的也是同一套依据。第二，这个测试有个大毛病：它奖励“会装”。要冒充人，机器得学会犯错、打错字、算错数、假装不知道一些事。今天的聊天机器要通过它，反而得把自己变笨。所以今天真正要紧的问题已经不是“能不能骗过你”了，是别的——第五节再说。
这一件是他二十三岁那篇论文里的东西，讲第一件之前其实该先讲它，因为它是前提。
老看法。 机器是为一件事造的：织布机织布，加法机做加法。要做新的事，得造新的机器。
他怎么翻。 上一节说过那台想象中的机器：一条纸带，一个读写头，一张“看到什么就做什么”的表。图灵的关键一步是：把那张表也写到纸带上去。 于是有了一台通用机器：你给它一份对任何一台机器的描述，它就能装成那台机器。
这句话听着简单，它是二十世纪最重要的想法之一。它意味着软件这件事成为可能：机器的“本事”不再焊死在零件里，而是变成了可以写、可以改、可以复制、可以传送的一串符号。你今天的手机，和图灵那台纸带机器，在原理上是同一台东西——插上不同的程序，它就是相机、地图、乐器、书店。
打个比方。 一个乐器只能奏一种声音；一份乐谱可以让同一支乐队奏出任何一支曲子。图灵发现的是：可以造一件“能读乐谱的乐器”，而乐谱本身，也可以写在同一张纸上。
别误会。 通用不等于万能。恰恰相反，正是在定义了“通用”之后，他才能证明有些事情连它也做不到——下一件。
老看法。 只要足够聪明、足够耐心、机器足够快，任何明确的问题总能算出答案。
他怎么翻。 停机问题的证明上一节讲过：假设有一台机器能判断任何程序会不会停下来，就能造出一台“自己咬自己”的捣蛋机，让它怎么答都错。所以那台判断机不存在。
这件事的分量，值得多说一句。它不是说“我们现在的技术还不够”，也不是说“要算很久”。它是说：在原理上，不存在那样的办法。 而且它和哥德尔那条定理是同一件事的两种说法：一个从形式系统那边说“有真话证明不了”，一个从机器这边说“有问题算不出来”。
它的根，是第四章那条律：会反过来谈论自己的东西，没法给自己封顶。罗素用禁令堵它（第八章），哥德尔和图灵证明了堵不住。
而且这不是纸上的事。今天的杀毒软件为什么不可能做到百分之百判断一个程序是不是恶意的？为什么不可能有一个工具能自动检查出所有程序的死循环？根就在这里。
打个比方。 一个万能的剧透器：它能提前告诉你任何一部电影的结局。现在拍一部电影，剧情是：主角先去问剧透器“这部电影的结局是什么”；剧透器说“主角会活”，他就去死；说“主角会死”，他就活下来。这部电影的结局，剧透器算不出来。
别误会。 这不是一条让人泄气的定理。它划出了一条边界，而边界是有用的：知道了哪些事情原理上办不到，就不会把力气花在那上面，而是去做“绝大多数情况下够用”的办法——这正是今天工程界干的事。
顺带说一句他这台机器的另一个后代。1945 年前后，他为国家物理实验室写了一份计算机设计方案，里面已经明确写着：指令和数据放在同一个存储器里。这正是第二件事的工程版本——通用机器从纸上落到了电路里。今天每一台设备的“内存里既有程序又有数据”，就是这一步。
老看法。 有规则的图案，一定来自事先的设计：要么有一张蓝图，要么有一个模子。一团均匀的东西，不会自己长出斑纹。
他怎么翻。 1952 年那篇论文，他讲了一个后来被叫作“反应—扩散”的机制。
想象一片均匀的化学物质，里面有两种成分。一种是“激活剂”：它会促进自己的生成，也会促进另一种的生成。另一种是“抑制剂”：它压制激活剂。关键在于：抑制剂扩散得比激活剂快。 于是会发生这样的事：某处偶然多了一点激活剂，它自我放大，长出一个“峰”；同时它产生的抑制剂迅速向四周扩散，压住了周围，不让别的峰在旁边冒出来。结果就是一个个间隔均匀的斑点，或者一条条平行的条纹。
一团均匀的东西，加上一点随机的噪声，自己长出了规则的图案。没有蓝图，没有模子，没有谁在指挥。图灵管这叫对称性的破缺：本来处处一样，后来处处不一样了。
这篇论文几十年后被证实了：斑马鱼身上的条纹、小鼠上颚的皱褶，都被发现符合这个机制。有意思的是，这是一个刚刚设计出计算机的人写的：他是在曼彻斯特那台机器上算这些方程的。
打个比方。 一群人本来均匀地散在广场上，没有人指挥。有个人偶然停下来看一个东西，旁边的人凑过去，人越多越吸引人——这是激活；同时人多了就挤，外围的人开始绕着走——这是抑制，而且“绕着走”的消息传得比“凑过去”快。过一会儿，广场上自动出现了一个个间隔差不多的人堆。谁也没画过图。
别误会。 这不是说“设计没有用”。它是说：规则的形状，未必来自规则的原因；在不少情况下，只要有“互相促进”和“互相压制”这两股力，再加上它们传播速度不同，秩序会自己冒出来。
请把这一件和前三件放在一起看。同一个人，一边证明了“心灵可以做成一套机械程序”的哪些部分可行、哪些原理上不可行，一边又去研究“形状怎样在没有设计者的情况下自己长出来”。这两件事在他那里是一件事。
场景一：把大问题换成一个能做的测试。 这是图灵留给普通人最有用的一招。“我们团队有没有创新力？”——吵三年也吵不出结果。换成：过去半年，有几件事是没人要求、有人自己动手做出来的？“这个人靠不靠谱？”——换成：上次他说“下周一给我”，实际是哪天给的？“孩子学会了吗？”——换成：换一个问法、换一组数字，他还会不会？换问法不是把问题简化了，是把它放到了可以有结论的地方。
场景二：先造一个孩子，再教它。 图灵说，别指望一上来就把成年人的全部知识装进去；造一个能学的东西，然后教。带新人、教孩子、学一门手艺，都是这个道理：与其给他一本三百页的规范让他背下来，不如给他一件小事、一次反馈、再一件小事。真正该设计的不是“把什么装进去”，是“反馈从哪儿来、多久来一次”。
场景三：有些事，原理上就办不到。 有些愿望，无论多努力都实现不了，不是因为你不够聪明：一份完美无漏洞的规章制度，一个能提前识别出所有坏人的筛选流程，一套能杜绝一切风险的审批。停机问题的启发不是“别努力”，是把力气从“做到万无一失”挪到“出了事能发现、能纠正”上。这一条和上一章波普尔说的是同一件事：与其追求一份挑不出毛病的方案，不如追求一份出了毛病能被看见的方案。
场景四：别急着说“它只是在模仿”。 今天你随时会遇到这种争论：机器写的这篇文章，它懂不懂？图灵的提醒是：先把“懂”换成一个你能检验的东西。你要它干什么？如果你要的是“把这段话翻得准”，那就去查它翻得准不准。如果你要的是“这件事出了问题有人负责”，那它当然不行——但这跟“懂不懂”无关，这是另一件事。把要求说清楚，比争论它有没有灵魂有用得多。
场景五：花纹会自己长出来。 你家客厅角落为什么总堆东西？团队里为什么自动形成了几个小圈子？一条街上为什么忽然开满了同一种店？未必有人设计过。找一找那两股力：什么在互相促进，什么在互相压制，哪一股传得更快。想改变它，也往这两股力上使劲，别只顾着贴“禁止堆放”的告示。
场景六：那个咬了一口的苹果。 图灵这一章，有一件事不该被“励志”过去。一个人给了世界一样东西，而这个世界当时的规矩，把他判了罪、毁了他。规矩是人定的，后来也被改了——五十年后道歉，六十年后赦免，一百年后印上钞票。这提醒我们两件事：今天理所当然的规矩，未必对； 以及，道歉来得再郑重，也换不回一个人的四十二岁。
场景七：把“它懂不懂”换成三个问句。 这是本章和上一章合起来能给出的最实用的一套。你正在和一台会说话的机器一起干活——写材料、做方案、辅导孩子。停下来问三句：这一段，我自己走过吗（路在不在我这儿）？它说错了，谁来发现（有没有判错的人和手续）？出了事，账记在谁头上（谁承担）？三句都答得上来，用它就是加倍；有一句答不上来，那一段就是悬空的。
图灵改判了两样东西。
第一样是“机械地计算”。在他之前，这是一个含含糊糊的直觉；他把它定义成了一条纸带、一个读写头、一张表，于是“可计算”第一次成了一个可以证明、可以划界的概念。顺带着，他把“机器”也改判了：机器不再是为一件事焊死的铁块，而是可以通过读一份描述变成任何机器的东西——程序也是数据。
第二样是“问题的提法”。“机器能思考吗”问不下去，他就换成“你分辨得出吗”。本书讲了十三章“把本来就有改判成长出来的”，图灵这一手是另一种：把说不清的问题，改判成做得出的测试。 这一手，和上一章波普尔的判错条款是同一种工艺，只是方向相反：一个问“什么情况下算你错”，一个问“怎样才算你做到了”。两件合起来，是一整套把空转的争论落回地面的办法。
用土、路、形状来量，他最漂亮的地方在 1952 年那篇讲花纹的论文。本书第三章讲过特征律：差异在流，流出了稳定，才有了“同一个东西”。图灵这篇论文，等于给这条律做了一个可以算的模型：均匀的一片东西，只要有互相促进和互相压制这两股力，而且传播速度不同，形状就会自己长出来，不需要蓝图。 这是一百三十年里，第一次有人用数学写出了“形状是怎么发生的”。
而且请注意他这个人身上的两条线接在了一起：一条是“心灵能不能做成机械的程序”，一条是“形状能不能没有设计者自己长出来”。在他这里，这是同一个问题的两头。
图灵的测试把身体、外表、材质全都排除掉了，只剩下打字。这在 1950 年是一步妙棋——它挡住了“它是铁做的所以不算”这种偏见。可这一刀也切掉了一样东西：说话的人要为说出的话承担什么。
用本书的三块地来说（第二章）：他的测试全部落在“脑子里想的”那一块地上——对答如流，逻辑通顺，说得像人。第二块地（手上碰的）被打字挡住了；第三块地（心里的我、你、他）根本不在测试范围内：它不会疼，不会失眠，不会因为说错了话而害怕，也没有人会因为它的话而追究到它头上。
所以今天的问题已经翻了过来。机器早就能在五分钟的闲聊里蒙混过关了；真正难的不是“能不能像人一样说话”，而是：谁在承担这句话？ 上一章末尾说过：判错条款不在语言里，在承担里。这一章可以接上一句：图灵测试量的是“像不像”，量不了“算不算数”。
这不是图灵的疏忽，这是他那个问法本身带来的。他要的是一个能做的实验，而“承担”这件事，在一场五分钟的打字对话里量不出来。要量它，得把时间拉长、把场子放大：出了事谁赔，谁的名字在上面，谁明天还得面对同一批人。
他那句最有远见的话——别造成年人，造一个孩子，然后教它——今天已经实现了大半。可他那个比方里，藏着一处不对等。
孩子是怎么学的？他饿，他摔了会疼，他被抱起来会安心，他要用勺子吃到嘴里才算数。第九章讲过维特根斯坦的“生活形式”：“痛”这个词是接在哭喊和被安慰上面长出来的。孩子的每一个词，都长在这样一片土里。
机器学的是什么？是人类写下来的话。它有路——几乎所有人走过的路它都有；它没有土。所以它说得出“疼”，说得出“怕”，说得出“抱歉”，而且用得完全正确——因为它见过千百万次这些词是在什么场合被使用的。用本书第四章的说法：它有最完整的指针，却没有被指的那一束。
这既不是贬低它，也不是抬举它。它说明的是：用“像不像人”去量它，会一直量错。它在“话”这一头会越来越像，在“土”那一头永远是另一种东西。
停机问题说：有些事情原理上算不出来。图灵一辈子的工作，是把“能算的”那一片划得越来越清楚。可他自己的一生，几乎整个落在算不出来的那一边：一个十七岁少年的哀伤，一段不被法律允许的感情，一份终身不能对人提起的功劳，和那个咬了一口的苹果。
这不是在唱高调。它指向一件具体的事：当一种“可计算”的眼光足够成功，它会慢慢变成唯一的眼光——第十章讲过海德格尔的“库存”，第十一章讲过怀特海的“把抽象当成具体”，这里是第三次。今天它的样子是：凡是能被量化的，就是真实的；不能被量化的，就“不算数”。而图灵本人，恰恰是被当时那套“算得清”的规矩——法律条文，医学处置——处理掉的。
所以本书在这里要补一句：划清“能算的”那条边界，是为了保住边界外面那片地，不是为了把它填平。
第一处：像不像，和算不算数，是两件事。今天该造的测试，不是“能不能骗过我”，是“出了事，账记在谁头上”。
第二处：有路无土。跟机器一起做事的时候，土是人这一头带的；所以真正的问题不是“它懂不懂”，是“我们一起做的这件事，土还在不在”。
第三处：边界是为了保住外面那片地。
最后，把第二编的三个问句并排放一下，它们其实是同一句话的三种问法。维特根斯坦（第九章）：这是一场什么游戏，谁在许诺，说错了谁承担？波普尔（第十三章）：什么情况下算你错？图灵（本章）：你分辨得出吗？——今天的答案是：分辨不出，并不重要；重要的是那两个问题还没有答案。
| 他给了什么 | 他留下了什么 | |
|---|---|---|
| 土（在什么处境里） | 花纹自己长出来：两股力＋传播速度不同，无需蓝图 | 测试把土整个排除掉了：不看身体、不看处境、不看后果 |
| 路（怎么一步步变的） | 别造成年人，造一个能学的孩子，然后教它 | 孩子的学有土，机器的学没有：有指针，没有被指的那一束 |
| 形状（显露了什么） | 最满——“可计算”被第一次说清；程序也是数据；算不出来的边界 | “可计算”的眼光会变成唯一的眼光 |
| 回写（形状怎么落回土里） | 落得最彻底：今天整个世界跑在那条纸带上 | 他本人被那片土判了罪；道歉来得太晚 |
“机器只是在按规则操作符号，它其实不懂”——1980 年，塞尔用“中文屋”这个思想实验把这一击推到了极致；丹尼特（第三十七章）替图灵这一边回击。
“智能不是对一堆现成事实运用规则，人首先是在世界里忙着”——德雷福斯拿着海德格尔那把锤子（第十章），批评早期的人工智能；今天回头看，双方都对了一半。
“心灵是不是一台计算机”——这个问题养活了整整一门认知科学；到查默斯（第三十八章），它会变成一个更硬的问题：为什么这一切“有感觉”。
“人的本事到底属于谁”——上一编杜威说过，本事不只装在皮肤里面（第七章）。等到机器成了每个人的外挂，这个问题会变成：考试考的是谁。
“形状自己长出来”——这一条流进了复杂系统、发育生物学和今天的自组织研究。
而他那个替换的动作本身——把说不清的问题换成做得出的测试——今天已经是各行各业的默认工艺。
第二编到这里结束。五个人拆语言，两个人问存在，最后一个人造出了机器。下一编，炮声停了，欧洲成了一片废墟；从废墟里站起来的人要问的是：人到底是什么，还剩下什么。
图灵测试（模仿游戏） 只靠打字交流，你分辨不出对面是人还是机器。他用它替换了“机器能不能思考”。不是：证明机器有意识。
图灵机 一条纸带、一个读写头、一张“看到什么就做什么”的表。“机械地计算”的精确定义。
通用机器 把那张表也写到纸带上，于是一台机器能装成任何机器。程序也是数据——今天一切计算机的原理。
停机问题 不存在一台能判断“任何程序会不会停下来”的机器。有些事情不是还没算出来，是原理上算不出来。
不完全性 哥德尔那条定理：足够强的系统里有真话它自己证明不了。和停机问题是同一件事的两种说法。
孩子机器 别造成年人的心灵，造一个能被教的、简单的心灵，然后训练它。今天机器学习的思路。
反应—扩散 一种促进、一种抑制，抑制扩散得更快，均匀的一片就会自发长出斑点和条纹。
对称性破缺 本来处处一样，后来处处不一样了。形状发生的最简说法。
存储程序 指令和数据放在同一个存储器里。通用机器的工程版本。
中文屋 后来塞尔的反驳：一个人关在屋里按规则摆弄汉字卡片，外面看像懂中文，其实他一个字也不懂。见第三十七章。