‹ 学科通融
📖 网页长文
学 科 通 融 · 之九十一 · 机器学习 × 免疫学 × 神经科学

借清

论学会一件事,不是记住它同时忘掉别的,而是把有限的清晰度从相邻处搬了过来
王德生 + Claude · 约 1.4 万字 · 网页长文 · 发表于2026年8月11日
学会一件事的时候,对别的东西发生了什么?三门学问给出互相排斥的答案:一门说那是要被消除的干扰,学会而不忘掉才是目标;一门说那是学会本身的产物,第一次学得越透,对它的近邻就越认不出,而且再也回不来;一门说那是一个独立的、主动的清除过程,为的是让你能一般化。本文论证三家共享了一个从未被单独说出的前提——「学会」与「对别处的影响」是两件可以分开谈的事。撤掉它,剩下的是同一个动作的两端:学会,就是把有限的清晰度从相邻的区域搬到目标区域;没有这次搬运,就没有这次学会。 忘不是学会的代价,也不是学会之外的另一道工序,而是同一个动作从另一端看的样子。本文称这件事为借清,并给出一条读数——借清率:学会一样东西时,相邻区域清晰度的下降量与目标区域清晰度的上升量之比。据此升成二维辨别表,指认最危险的一格:被搬走清晰度的那片相邻区域不可回写,而它又恰好落在你接下来要用到的近邻上——学得越好,这格里的失能越深,且事后拿不回来。本文在十个领域兑现,其中免疫接种与睡眠两处反过来迫使命题收窄:不可回写要限定在「不引入新的高强度再刺激」之下,而把清晰度搬回去的那道再校准本身也在借清、并不免费。
目 录
一、导论:三个不该同时为真的说法二、三条既有路径停在哪里三、冲突定位四、借清五、二维辨别表六、逐领域兑现七、读数与它的清点手册八、与最近几种说法的分界九、三家各自为何到不了这一条十、推论、适用边界与反噬预言十一、本判断对它自己适用吗结 论注 释参考文献人机分工声明

一、导论:三个不该同时为真的说法

三场争论,分属机器学习、免疫学与神经科学,各自都有厚实的实验支撑,而它们不能同时为真。它们都在回答同一个问题:当一个系统学会一件事,对它没有正在学的那些东西,发生了什么?

第一场在机器学习。 一个已经学会区分一批事物的网络,再去学一批新的,往往会把旧的大幅忘掉——这个现象有一个专门的名字,叫灾难性遗忘。主流的处理方式一致地把它当成一个要被消除的故障:给旧任务上重要的那些参数加一道阻力,别让新任务把它们改动太多;或者把旧数据混一点进来一起训。这些做法的共同预设很清楚——忘是学的干扰,理想的系统应当学会新的而不忘掉旧的,两全是可以争取的目标,遗忘是可以工程掉的。争点是:忘,是不是学的一个可消除的副作用?

第二场在免疫学。 一个人一生中第一次遇到某种病原,免疫系统会为它建立一套记忆;此后再遇到它的近邻——同一病毒漂移出的变体——身体常常不是重新认一遍,而是拿第一次那套去套。第一次学得越牢,这种「拿旧的去套新的」就越顽固,对真正的新变体反而应答得越差。这件事有一个很老的名字,叫原始抗原原罪,如今在流感与登革热的疫苗与流行病学里是一线课题。它的预设与第一场相反:对近邻的失能,不是干扰,是第一次学会这件事本身的产物——而且它带着一个更硬的性质:早年打下的这个印记,成年后极难改写。争点是:对近邻的失能,是学会的故障,还是学会的一部分?

第三场在神经科学。 一个健康的大脑并不把学过的一切都留住;它主动地、有选择地削弱一部分连接,尤其在睡眠中。近十年有两条彼此呼应的主张:一条把睡眠期的整体下调解释为给可塑性付账——清醒时到处增强,睡眠时按比例削弱,好腾出下一天的学习空间;另一条干脆把遗忘本身论证成一个主动的、适应性的过程,它的功能恰恰是让你能一般化,别被无关的细节拖住。它的预设是:忘是一道独立的、主动的工序,服务于学,与「记住什么」是两件事、常常发生在不同的时间窗里。争点是:忘,是不是一个独立于学的、朝相反方向使劲的过程?

三场争论互不相干,却在同一件事上互相顶撞。第一场说:忘是干扰,理想是学而不忘。第二场说:对近邻的失能就是学会本身的产物,学得越透失能越深,且回不来。第三场说:忘是独立的主动过程,为了让学更好用。

三条不能同真。若忘只是可消除的干扰(第一场),则免疫学那条「学得越牢、对变体越认不出、且不可逆」的规律该被工程掉,而它偏偏是接种策略里绕不过去的硬骨头。若对近邻的失能是学会不可分的产物(第二场),则第三场把忘说成一道独立工序就说不通——它不是外加的,它是学的另一面。若忘是一道服务于学的独立主动工序(第三场),则第一场想要的「学而不忘」在原则上就该做得到,只要把那道工序关掉;可没有人能关掉它而不同时伤到学。

本文认为,僵局来自一个三方共有、却从未被单独说出的前提:

「学会一件事」与「对没在学的东西发生的影响」,是两件可以分开谈的事。

第一场想把后者消掉而保住前者(学而不忘);第三场把后者当成服务于前者的另一道工序(先学后清);第二场虽然把两者绑在了一起,却仍把它读成「学会 X 这件事,附带地害了 Y」——一个有先后、有主次的因果。三家争的是这两件事之间该是什么关系,没有人问:它们是不是同一件事。

本文撤销这个前提,提出:

学会,就是把有限的清晰度从相邻的区域搬到目标区域。清晰度不是被学出来的、加出来的,而是被搬过来的——从哪里搬走,那里就相应地变糊。没有这次搬运,就没有这次学会。忘不是学的代价,也不是学之外的一道工序,而是同一个动作从另一端看到的样子。

本文把这件事称为借清:一处变清晰,是向相邻处借来的,那一处就欠着一笔糊。三个案例在这一点上是同一个形状。机器学习里,网络的表示容量是有限的:把一批事物分得更开,用掉的正是本来可以用来分开另一批的那部分容量——旧任务被忘,不是被新任务「干扰」了,是承载它的那点分辨被抽去给了新任务。免疫学里,第一次应答把资源投给了针对首个抗原的那套克隆,针对近邻变体的那套就此长期处在下风——对变体的失能不是「附带损害」,是首次学会这件事用掉的正是本可以留给变体的那份。神经科学里,睡眠期的整体下调不是一道与学习并列的清除工序,而是白天把清晰度搬进某些突触之后、相邻突触相应变糊的那一笔账,被集中到睡眠时结清——所谓主动遗忘,是清晰度被借走这件事,在时间上被推迟显现出来的样子。

第二节梳理三条既有路径并指出它们各自停在哪里;第三节定位冲突;第四节界定借清与它的可裁决判据;第五节升成二维辨别表;第六节在十个领域兑现,其中两个迫使本文收窄;第七节给出读数「借清率」的清点手册,并诚实交代本文没有亲自跑一次测量、以及那次测量该怎么做;第八节交代与最近十种说法的分界;第九节说明三家为何各自到不了;第十节给出推论、边界与反噬预言;第十一节处理本判断对它自己是否适用。

二、三条既有路径停在哪里

2.1 干扰论:忘是要被消除的故障

第一条路径把「学新的会忘旧的」理解为一种容量竞争造成的干扰:新任务的梯度覆盖了旧任务用到的权重。它给出的处方一致地朝一个方向使劲——保护旧的。给旧任务重要的参数加约束别让它们被改太多,或者在训练新任务时掺回一部分旧样本,或者为不同任务分配互不重叠的子网络。这些做法背后有一个清晰的、几乎从不被质疑的假设:忘与学是可以分离的,理想的系统学新而不忘旧,两全是一个正当的工程目标。

它的长处是可操作:把遗忘量当成一个要往下压的指标。它的盲区在于,它只盯着旧任务的表现被保住了多少,几乎从不问:为保住旧的而加的那道约束,是不是同时压低了对新的学会程度? 也就是说,它把账记在「旧任务遗忘量」这一栏,而本文将论证真正的守恒量在另一处——被压低的清晰度总量。当被保护的旧任务恰好不是你接下来要用的,这套处方看上去很成功;一旦要用的正好落在被抽走清晰度的近邻上,它保住的那一份就是错的一份。

2.2 印记论:对近邻的失能是学会的产物

第二条路径来自免疫学,也来自它在语言与知觉里的表亲。它的核心判断是:第一次学会一样东西,会在系统里刻下一个模具,此后遇到它的近邻,系统倾向于用旧模具去套,而不是新铸一个——套得越顺手,对真正的新东西就越迟钝。免疫学把这叫原始抗原原罪;语音知觉里有一个几乎同构的现象,婴儿在出生后头一年里把母语的音位边界磨利,与此同时对非母语的对立逐渐听不出来,而且这个窗口一旦关上,成年后极难重开。

这条路径比第一条走得深:它承认失能就是学会的产物,不是外来的干扰,还指出了一个第一条完全没有的性质——不可回写。它停在哪里?停在它只在自己的领域里把这件事当成一个具体机制(免疫记忆的克隆竞争、关键期的突触固化),而没有把它抽成一个跨领域的量。于是它说不出:这个失能有多深,是否与首次学会的透彻程度成正比;也说不出,它在什么条件下可回写、什么条件下不可回写。它有一个深刻的观察,缺一把尺子。

2.3 主动遗忘论:忘是一道服务于学的独立工序

第三条路径把遗忘从「被动的损耗」升格为「主动的功能」。它有两支:一支从睡眠切入,主张清醒时的普遍增强不可持续,必须在睡眠期整体按比例下调,才能保住信噪比、腾出容量,这是给可塑性付的账;另一支更直接,主张忘本身是一套受调控的、适应性的机制,它清除的是妨碍一般化的过度具体的痕迹,让系统不至于记死每一个无关细节。

这条路径的贡献是把忘讲成了有功能的、可调的。它停在哪里?停在它把忘设想成一道独立于学、朝相反方向使劲的工序——学在清醒时增强,忘在睡眠时削弱,两者在时间上、机制上被分开研究。正是这种分工,让它无法看见本文要说的那件事:削弱不是与增强并列的另一道操作,而是增强的另一端。把学和忘分给两个时间窗、两套机制去研究,方法上就先把同一个动作切成了两件事。

三条路径,一条把忘当故障要消除,一条把失能当产物却缺尺子,一条把忘当独立工序而错切了刀口。三者并排放着,那个共同的、被跳过的东西才显出来——它们都假定学与对别处的影响可以分开谈。

三、冲突定位

把三家的分歧摆到同一张桌上,会看到它们其实在三个不同的位置上争同一件事,因而谁也说服不了谁。

第一处分歧在忘的地位:干扰论说它是病理,要治;主动遗忘论说它是功能,要留。这一对是正反的——同一个现象,一个要消除、一个要保护。但它们其实建立在同一个假设上:忘是一个可以单独调节的量,你可以选择压低它(干扰论)或抬高它(主动遗忘论)。能被单独调高或调低,前提就是它独立于学。

第二处分歧在失能与学会的因果次序:印记论说失能就是学会的产物,主动遗忘论说忘是学会之后另起的一道工序。这一对是成因错层的——一个把两件事叠成同一个操作,一个把它们排成先后。印记论离本文最近,但它仍留着一点因果的余味:它说「学会 X 导致了对 X 近邻的失能」,一个有主有次的因果链;本文要说的比这更彻底——不是导致,是同一件事。

第三处分歧最隐蔽,藏在三家共用的语言里:三家都在谈某个东西的「量」——遗忘量(干扰论要压低它)、印记深度(印记论量它)、下调幅度(主动遗忘论调它)。但没有一家去量清晰度的总量这个跨区域的守恒量。干扰论量的是单个旧任务掉了多少,印记论量的是单个抗原印得多深,主动遗忘论量的是整体削了多少——三个都是局部的量,谁也没有把「学会 X 时目标区涨了多少」与「相邻区落了多少」放在同一个天平的两端。

本文的主张正落在这第三处:把清晰度当成一个有限的、守恒的总量,学会就是它在区域之间的搬运。 一旦这样看,三家的分歧就各归各位:干扰论看到的「旧任务被忘」,是清晰度被搬走的一端;印记论看到的「对变体失能」,是清晰度搬走之后那一端变糊、且搬运不可逆的情形;主动遗忘论看到的「睡眠削弱」,是白天完成的搬运在夜里结账。三家看到的是同一笔搬运的不同片段。

四、借清

先把命题写到最紧:

学会一件事,对相邻的东西发生的影响,不是要被消除的干扰(Y₁),也不是学会之后另起的一道服务于一般化的清除工序(Y₂),而是——学会本身就是把有限的清晰度从相邻区域搬到目标区域(Z)。搬走,正是学会这一个动作的另一端;没有搬走,就没有学会。

三个词要界定清楚。

清晰度,指一个系统把相近的输入分辨开的能力,落在某一片输入区域上。把两个相近的东西分得更开,那片区域的清晰度就更高。它是本文的核心量,而它的关键性质是有限且守恒:一个系统在给定容量下,能分配到全部输入空间上的总清晰度有一个上界;某处抬高,别处必相应降低。这不是一个玄学假设,它在几个领域里有硬约束支撑——表示容量有限、克隆资源有限、突触强度总和受稳态钳制。

相邻,指在系统当前的表示里,与目标区域靠得近、共享大部分承载结构的那些区域。搬运不是从任意远处借,而是从最近的邻居借,因为它们共用同一批可调的部件。这解释了一个反复出现的观察:负迁移总是发生在近处,训练一个精细辨别,受损的恰是与它最像的那些变体,而不是随便哪个无关任务。

搬运,指同一个操作的两端:把承载结构调向把目标区域分得更开,这一调,就把它们从把相邻区域分得开的那个位形上挪走了。不是「先学会,再去动相邻」,是一个动作同时抬高一处、压低一处

由此得到一条不含任何情态词的可裁决判据,用来把借清与三家分开:

学会 X 之后,去测系统对 X 的一个相邻变体 X′ 的分辨力。若它低于「从未学过 X」的同类系统在 X′ 上的分辨力,且这个降低量随「X 上分辨力的提升量」成比例增长——那么这一笔就是借清。

这条判据把三家逼到互不相容的预测上,因而可裁决。「没泛化」的解释预测:系统对 X′ 的分辨力等于未学过 X 的基线(学 X 对 X′ 无影响,只是没帮上忙)。干扰论预测:对 X′ 会有下降,但下降量与「X 上提升了多少」无关,它取决于覆盖了多少共享参数,是一个独立的量。借清预测:下降量与提升量成比例——因为它们是同一笔搬运的两端,搬得多则一端升得多、另一端也落得多。三条预测在同一个实验里分得开:测「X 上的提升」与「X′ 上的下降」这两个量的相关。相关为零、下降为零,是没泛化;下降存在但与提升不相关,是干扰;下降与提升成比例,是借清。

还有第二条判据,用来分辨搬走的那一份能不能要回来:

把 X 重新变陌生(让系统卸掉在 X 上多出来的那份分辨),相邻区域 X′ 的分辨力会不会自己回来?回来,是可回写;不回来,是不可回写。

这第二条判据引出了本文的第二根轴,也引出了三家里最深的那一条——印记论——真正抓到而说不清的东西:有些借清是可回写的,卸掉目标处的分辨,相邻处自己就恢复了;有些是不可回写的,你把目标处的分辨卸干净,相邻处也回不来,因为那一次搬运顺便固化了承载结构本身。免疫的印记、母语音位关窗,都是后者。

五、二维辨别表

一根轴不够——只有「借了多少」这一根,借清还只是一个新名字。本文强制加第二根,得到一张二维辨别表。

第一根轴:被借走清晰度的那片相邻区域,可回写还是不可回写。 卸掉目标处的分辨,相邻处能自己回来的是可回写;回不来的是不可回写(搬运固化了承载结构)。

第二根轴:被压低的那片相邻区域,是不是恰好落在你接下来要用到的东西上。 借清总在近处发生,但近处不一定是要用处;两者的重合与否,决定这一笔借清是无害还是致命。

压低处不在要用处压低处正落在要用处
可回写甲 良性学习:借了清晰度,欠的那笔糊落在用不到的地方,且随时能校回来。日常绝大多数学习属此。乙 须主动再校准:借得没错,但欠糊落在了要用处,好在可回写。这正是睡眠期再平衡、以及复习相邻变体在做的事——把清晰度搬回去一部分。代价见下。
不可回写丙 无害的永久特化:这一笔固化了,但欠糊落在再也用不到的地方。专家在其专长里对早已弃用的旧解法失去分辨,属此——固化且要不回来,但不碍事。丁 印记式失能:搬运固化了承载结构,而欠糊恰好落在你将要用到的近邻上。学得越透,这格里的失能越深,且事后拿不回来。 免疫印记、母语关窗后的非母语对立、以及深度网络对某类近邻的表示坍缩,都落在这里。这是本表的靶格。

四个格里,只有丁格是真正的病,且它有一个反直觉的性质:它不随「学得差」出现,恰恰随「学得好」加深——首次应答越强,印记越牢;母语磨得越利,非母语越聋。它是把一件做得越漂亮、后果越严重的事。 而它最难被看见,因为在目标区域的每一项指标上,它都表现为优异:分得更开、认得更准、反应更快。它的代价全部记在一份没有指标去查的账上——相邻处、要用处、且回不来。

乙格看似温和,本文要专门标注它不免费(第六节由睡眠一例逼出):把清晰度搬回相邻处的那道再校准,本身也是一次搬运,它抬高相邻处的同时会压低别的地方,且这道再校准有容量上限。所以乙格不是「问题已解决」,是「问题被搬到了下一处」。

因此本文的表也不含笼统的价值排序:丙格不是病,丁格才是。 病不在借清——借清是学会的必然形态,不借就不学;病在于让不可回写的那一笔恰好落在要用处,还以为自己只是学得好。

六、逐领域兑现

本节把借清与二维辨别表拿到十个领域里过一遍。凡是能落格的都标出格;其中两处反过来迫使本文收窄命题,单独标注。

6.1 三个来源领域

机器学习(干扰的另一读法)。 一个固定容量的网络先学 A 后学 B,A 掉了。干扰论说 B 的梯度覆盖了 A 的权重。借清的读法是:把 B 分得更开,用掉的正是本可以把 A 分开的那份容量——A 的下降量应与 B 的学会程度成比例,而不是与「覆盖了多少共享权重」独立地相关。给旧任务加约束的那些方法之所以有效又有限,正因为它们把清晰度钉在旧任务上,于是新任务只能借到更少——它们没有取消守恒,只是选择了把守恒的账压在新任务那一栏。表示坍缩(网络把一批本应分开的近邻映到几乎同一处)是丁格:分得越开的那一批越清晰,被坍到一起的近邻越回不来。

免疫学(印记)。 首次感染建立的记忆越强,对后续漂移变体的应答越受它牵制——这是丁格的典型:不可回写,且落在要用处(下一个流行的正是变体)。借清给它添了一条可量的预测:失能的深度与首次应答的强度成正比,而不是与「间隔了多久」独立地相关。这一领域反过来给本文加了一道约束:接种研究发现,换佐剂、拉开间隔、用异源加强,可以部分绕开印记,唤起针对变体的新应答。这说明「不可回写」不是绝对的——它要收窄为在不引入新的、足够强的再刺激的条件下不可回写。异源加强恰恰是引入了一次新的高强度搬运,把清晰度重新分配了一遍。收窄之后,丁格的判据更准了:它测的是「在常规再暴露下」是否回写,而不是「在任何干预下」。

神经科学(睡眠与主动遗忘)。 睡眠期的整体下调,本文读成白天搬运的集中结账:清醒时把清晰度搬进某些突触,相邻突触相应欠糊,夜里按比例削弱以恢复总量的可分配性。主动遗忘则是「清晰度被借走」这件事在时间上被推迟显现。这一领域也反过来给本文加了一道约束:睡眠期的再平衡不是无代价的整理,它有容量上限,且它自己也是一次搬运——把某些突触调回去,会动到另一些。这正是第五节乙格标注「不免费」的来源:可回写不等于免费回写,再校准本身在借清。由此得一条预测:睡眠剥夺之后受损最重的,应当是那些「白天借得最多、最需要夜里搬回去」的相邻区域,而不是均匀受损。

6.2 另外七处兑现

母语音位(丁格的现成实例)。 婴儿在头一年里磨利母语的音位边界,同时对非母语的对立逐渐失去分辨,窗口关上后极难重开。这是丁格:母语学得越透(清晰度抬得越高),非母语的近邻对立越听不出(相邻处欠糊),且不可回写(关键期固化)。借清给它添的读数是:母语范畴的锐化程度应与非母语对立的分辨损失成比例,两者是同一次搬运。

知觉学习的特异性。 训练一个特定朝向、特定位置、特定纹理的辨别,练成之后换个朝向或位置,成绩掉回未训练水平——领域内把这读成「学习发生在很低的层级,所以不泛化」。借清给出一个更强的预测:那不只是「没泛化」,是负迁移——被训练的那一档变清晰,其最近的未训练档应低于基线,且下降量与训练档的提升成比例。这是第四节那条判据在知觉学习里的直接落点,也是本文最便宜的一个可做实验(第七节)。

本族面孔效应。 对本族面孔辨认得又快又准的人,对他族面孔的分辨常常明显更差——通常读成「接触多少」的经验差异。借清的读法:把本族面孔的细微差别分得越开,用掉的正是本可以分开他族面孔的那份表示,是一次借清;它多半落在丁格(早年固化、日后要用他族时才发现回不来)。

专家的僵化。 一个领域的专家,面对偏离其惯用套路的变体题,有时比新手还差——领域内把它归给「被熟悉解法吸引」的注意偏向。借清给出一个可与之分开的预测:即使排除注意偏向(例如用不需要主动搜索解法的判别任务),专家在其专长的近邻上仍应有分辨力的结构性下降,因为那份清晰度确实被搬去了核心。落格:多为丙(固化但那些旧变体已不再用到);当行业变化把「近邻」重新变成「要用处」时,滑向丁。

组织的核心能力。 一个组织把某项能力磨到极致,同时对与之相邻的做法越来越不敏感——管理学把「核心能力」与「核心刚性」并称,说它们是一枚硬币的两面。借清给这枚硬币一个机制与一个方向:刚性不是随机长出来的,它恰好指向核心能力最强的那片相邻——因为清晰度正是从那里被搬走的。这解释了为什么颠覆一个强组织的,往往不是远处的对手,而是它核心能力的近邻变体。

科学范式。 学会一个范式,会让你对它无法容纳的反常视而不见——不是不看,是分辨不出「这是个反常」还是「这是个噪声」。借清把这从一句社会学观察落到表示层:把范式内的现象分得越清,用掉的正是本可以把范式外的反常分辨出来的那份,两者是同一次搬运。它多在丁格,因为一个人越是这个范式的行家,反常越落在他的近邻、且他越回不去。

搜索与推荐系统。 一个模型在高频查询上拟合得越好,对长尾近邻的分辨常常越差——工程上读成「数据不均衡」。借清的读法:把高频区分得更开,用掉的是本可以分开长尾近邻的容量;加大模型能缓解,是因为把守恒的上界抬高了,但不取消守恒——这正是下一段那条兑现要收窄的地方。

收窄之三:守恒是有条件的。 上面几处都假定容量固定。若容量可加(更大的模型、更多的克隆、更长的关键期),清晰度的上界随之抬高,某一处的抬清就不必从最近邻借那么多。这迫使本文明写一条边界:借清是「给定容量」下的守恒,不是绝对守恒。 加容量能稀释借清,却不能取消它——因为任何有限容量下总量仍有上界,被推到的只是更大的尺度(第十节反噬预言正据此展开)。

七、读数与它的清点手册

本文的读数是借清率。它在正文、判据、赌注三处必须是同一个定义、同一份编码规则,否则后面的一切都是装饰。先把定义写死:

借清率 = 学会 X 时,相邻区域清晰度的下降量 ÷ 目标区域 X 清晰度的上升量。 两个量都相对于「未学过 X 的同类系统」这条基线来测。借清率接近 1,是紧的零和搬运;显著小于 1,是被容量或再校准稀释过的搬运;等于 0,则本文在该处不成立。

清点手册(七栏,任何人复算须逐栏对齐):一,目标区域 X——要被抬清的那一小片输入。二,相邻变体 X′——在系统当前表示里与 X 最近、共享承载结构的那一片;须事先声明「近」怎么量,不能事后挑。三,清晰度的操作定义——把相近输入分辨开的能力,用同一把尺子(如同一个辨别任务的正确率或可分度)在 X 与 X′ 上分别测。四,基线——未学过 X 的同类系统,在 X 与 X′ 上的分辨力。五,上升量与下降量——学 X 前后,X 处相对基线升多少、X′ 处相对基线降多少。六,可回写判定——卸掉 X 上多出来的那份分辨后,X′ 是否回到基线。七,落格——由「可回写与否 × X′ 是否要用处」定甲乙丙丁。

7.1 本文没有亲自跑的那次测量,以及它该怎么做

诚实地说:本文没有亲自在一个系统上跑出一条借清率。原因不是它难做——恰恰相反,它是本文所有主张里最便宜、最可复现的一条——而是一次像样的测量需要成规模的训练与统计,超出了本文的执行范围。本文因此把「补上这次测量」当作命题的一层,而不是回避它。 该测量的最省钱做法写在这里,任何有一台机器的人都能做:

取一个固定容量的小模型和一族两两相近的辨别任务(例如一组只在角度上微差的纹理,或一组只在一个音位维度上微差的音)。第一步,测未训练的模型在全族上的分辨力,得到基线。第二步,只把其中一档 X 训到远高于基线。第三步,测它在最近邻 X′ 上的分辨力。三种理论在这一步分岔:没泛化论预测 X′ 等于基线;干扰论预测 X′ 低于基线、但降幅与「X 提升了多少」不相关;借清预测 X′ 低于基线,且降幅与 X 的提升量成正比。 第四步,把 X 上多出来的分辨卸掉,看 X′ 回不回基线——回,甲/乙;不回,丙/丁。整套实验不需要任何新设备,只需要一次对照训练与两次分辨力测量。它是本文最容易被证伪的地方,也是本文最愿意押上去的地方。

此外两条本文同样未跑、但值得指名:一,免疫侧——首次应答强度与后续变体应答弱化之间是否成比例(须在同一队列里控制间隔);二,睡眠侧——睡眠剥夺后受损最重的是否正是「白天借得最多」的相邻区域。两条都要专门的队列或实验平台,本文的执行力到不了,均标未跑。

八、与最近几种说法的分界

与灾难性遗忘(French 1999;Kirkpatrick 等 2017)。 这是最近的一位,也是最容易被误当成同一件事的。分界在机制而不在现象:那一族把遗忘当作可消除的干扰,其代表性处方(给旧任务重要参数加约束)预设了「学新而不忘旧」的两全是可达的。判决性对照:本文预测守恒——任何把旧任务遗忘量压低的方法,必以降低对新任务的学会程度为代价,两者之和有下界;那一族预测通过更好的约束可以逼近两全。同一批实验里,测「旧任务保住量」与「新任务学会量」之和随方法变化是否守恒,即可判。

与稳定—可塑性困境(Grossberg 1987)。 那一族把学习刻画为两个相反需求之间的平衡——太稳则学不动,太塑则记不住。分界:平衡是两根反向的力在一根轴上拉锯;借清是同一个动作的两端,不是两个力的折中。分岔预测:若是平衡,则存在一个「两不相欠」的中点;若是借清,则不存在这样的中点,任何一次学会都在某处欠糊,只是欠在哪、可否回写不同。

与原始抗原原罪与免疫印记(Francis 1960;及其当代流感/登革热研究)。 免疫学这一位本文请进来,并给它添了它自己没有的东西:一把跨领域的尺子与一个方向。它有「学得越牢、对变体越钝」的深刻观察,缺「深度与首次强度成正比」这条可量预测,也缺「在何种再刺激下可回写」这条边界。判决性对照:本文预测失能深度随首次应答强度单调上升,并预测异源加强能部分回写——两条都可在接种队列里检验,而单靠印记这个概念推不出比例关系。

与主动遗忘与睡眠稳态(Richards & Frankland 2017;Tononi & Cirelli 2014)。 那一族把忘讲成独立于学、服务于一般化的主动工序。分界:本文说忘不是独立工序,是学的另一端。判决性对照:若忘是独立可调的,则应能找到「大量遗忘而几乎没有对应学习」的常态;本文预测遗忘量与新学习量成比例耦合——夜里削得多的地方,正是白天学得多的地方的相邻。两者在「遗忘是否可与学习解耦」上给出相反预测。

与感知磁体效应与关键期(Kuhl 1991;Werker & Tees 1984)。 那一族描述了母语范畴锐化与非母语对立丧失的共时性,并称之为神经承诺。分界:它描述了共时,本文给出比例与守恒——锐化程度应与丧失程度成正比,二者是同一次搬运,而非两个并行的发育事件。

与知觉学习的特异性(Karni & Sagi 1991;及后续)。 那一族把「练成一档、换档掉回」读成学习发生在低层、故不泛化。分界:本文预测的不是「没泛化」(X′ 等于基线),而是「负迁移」(X′ 低于基线)且与提升成比例。同一实验测 X′ 相对基线的正负,即可把两者分开——这是本文与最主流解读之间最干净的一条裁决线。

与核心能力/核心刚性(Leonard-Barton 1992)。 那一位把两者并称为硬币两面,机制上归给投资与路径依赖。分界:本文给刚性一个方向——它恰好指向核心能力最强的相邻,因为清晰度是从那里被搬走的。判决性对照:投资锁定预测刚性分布与「投入多少」相关;本文预测刚性最深处是核心能力的近邻,而非投入最多处(两者常常不重合)。

与专长逆转与定势效应(Chase & Simon 1973;Bilalić 等 2008)。 定势效应把专家的僵化归给「熟悉解法的激活抢先」,是一个注意与激活层面的机制。分界:本文的机制在表示层。判决性对照:在排除主动搜索、只做被动判别的任务里,定势效应应大幅减弱,而本文预测的近邻分辨力下降仍在——两者在「去掉搜索之后还剩不剩」上分岔。

与范式与不可通约(Kuhn 1962)。 那一位在信念与共同体层面讲范式如何遮蔽反常。分界:本文把它落到表示层并给出可测读数——反常之所以看不见,是它落在被搬空清晰度的近邻。判决性对照:范式说预测遮蔽随「信奉程度」变化;本文预测遮蔽最深处是范式核心现象的近邻,可由分辨任务而非态度问卷来测。

与没有免费午餐定理(Wolpert & Macready 1997)。 这是最抽象的一位:没有一个算法对所有问题都好,跨越全部问题分布时优势必然抵消。分界:那是一条关于全体问题的全局守恒,不给机制、不给可测的局部读数;借清是单次学习内部的局部守恒,指名了搬运在相邻处发生、给出借清率这把尺子。判决性对照:没有免费午餐不预测「学 X 会具体压低哪一个 X′」;借清预测得出,并可测。二者可同真而互不覆盖——一个说全局抵消,一个说局部搬运。

九、三家各自为何到不了这一条

机器学习到不了,因为它的目标函数只给目标任务记分。 训练的损失只盯着当前任务,相邻区域掉了多少不在被优化的量里,于是那份下降被当成「未被测量的负迁移」,随手记进遗忘那一栏。加上容量可加这个事实,整件事就被读成「容量不够,加参数即可」——一个把守恒误当成短缺的读法。一个只给一端记分的领域,会把另一端的账当成噪声。

免疫学到不了,因为它一次只看一个个体对一串抗原的应答,没有「清晰度总量」这个跨抗原的量。 它能看见「对首个抗原强、对变体弱」,却没有一个天平把这两端称在一起,于是它有印记这个深刻的观察,却量不出比例、划不出可回写的边界。一个没有守恒量的领域,看得见此消彼长,说不出此消与彼长是同一笔。

神经科学到不了,因为它把学与忘分给了不同的时间窗和不同的机制去研究。 学在清醒时、由增强类过程负责;忘在睡眠时、由削弱类过程负责。这个分工在方法上极有成效,却在起点上就把同一个动作切成了两件事——你没法在把它们分开测量的框架里,看见它们是一笔搬运的两端。一个按机制分工切开研究对象的领域,看不见被它切开的那条缝原本是一条线。

三家的界限都不是能力问题:一个只给一端记分,一个没有守恒量,一个在方法上先把一分成了二。三者并排放着,那个共同的量——有限而守恒的清晰度——才显出来。

十、推论、适用边界与反噬预言

10.1 推论

推论一。 任何「学而不忘」的目标,若不声明容量与相邻结构,都不是一个可达的目标,而是一次把账挪到别处的操作。它多半会以「旧任务保住了」的名义,把清晰度从「下一个要用的近邻」上悄悄借走。

推论二。 对丁格的对象,最有价值的不是把目标学得更透,而是先判「要用处」落在哪里,再决定往哪个方向借清。把清晰度从「永不再用的旧变体」上借(丙格),是安全的;从「下一个流行的变体、下一代的对手、下一个反常」上借(丁格),是把一件越做越漂亮的事做成越做越危险的事。

推论三。 一个系统若在其核心能力上不断精进而对近邻越来越钝,通常不该被诊断为「不够努力」或「数据不够」,而该先量它的借清率与落格。若它落在丁格,加码精进只会加深失能——努力在这里是反向的。

10.2 适用边界

其一,本文只在容量有约束的系统里成立。容量近乎无限的地方,借清被稀释到可忽略,本文无话可说(但见反噬预言:无限容量本身是个幻觉)。

其二,「相邻」依赖系统当前的表示怎么组织,跨系统比较借清率时必须先声明「近」的口径(清点手册第二栏),否则不可比。

其三,本文不含笼统的价值判断:借清不是缺陷,它是学会的必然形态;丙格不是病,只有「让不可回写的一笔落在要用处、还以为自己只是学得好」才是。

10.3 反噬预言

按本文设计干预,最自然的做法是要求「学而不挤占」——设计一个学会新东西而不压低任何近邻的系统。

这会以一种可以精确说出的方式落空:达成它最省事的办法,是把容量做大到挤占可忽略。而这只是把零和推到了更大的尺度——在更大的容量上,总量仍有上界,搬运仍在发生,只是每一笔小到当下测不出。等到问题在那个更大尺度上重新逼近容量边界,借清会原样回来,且因为一路都被读成「已经解决」,它回来时更难被看见。这正是没有免费午餐定理在单次学习内部的回声:你能把守恒推到更远,不能取消它。因此本文不推荐把「零挤占」做成一个达标项——它可被容量注水刷过,而注水恰恰喂大了下一次丁格。 本文只推荐一件不能被注水刷过的事:在系统精进其核心之后,去测它在核心的最近邻上、且是下一步要用到的那些近邻上,分辨力是升了还是降了。 这个动作测的是要用处的相邻,而要用处由未来定义、无法被当下的容量预先填满——要测就得真的等到用它的时候去测。

十一、本判断对它自己适用吗

本文也是一次学会。它把「学会=清晰度的搬运」这一小片分得很开——为此,它必然从相邻的直觉那里借走了清晰度。最近的那片相邻,是「学会就是纯粹的积累,多学一样不必少一样」这个几乎人人默认的想法。本文预测:读完本文的人,会在一段时间里对「确实存在纯增量学习」的反例变得不敏感——会倾向于把每一个「学 A 不影响 B」的例子,都硬读成「只是容量够大、借得太少而已」。这正是本文该被证伪的地方:如果有一类学习,可反复验证它在给定容量下学会新的而任何近邻都不掉,那么本文就是把一次借清(把「积累论」搬糊)误当成了发现。

再问一层:本文落哪一格?一篇文章发表即完成,读者读完就放下,它自身可以被无代价地整个重写——就这一面看,它落甲格。但产出它的那套工序不然:它每处理一个题,就把某一小片直觉抬清一次,而每一次抬清都在相邻的直觉上欠一笔糊;做得越多,越可能在自己最擅长的那类判断的近邻上失去分辨——这是丁格的倾向。所以真正需要按本文自己的读数去查借清率的,不是这一篇,是产出这一篇的那套做法:它有没有在把「撤掉一个大家都默认、却没人单独说出的前提」这一手磨得越来越利的同时,对「有些前提本就不该撤」这个最近的邻居,越来越听不见。 本文没有能力量自己的这条借清率,只能把这个洞明写在这里。

结 论

本文提出并论证:学会一件事,对相邻东西的影响,不是要消除的干扰,也不是学之后另起的清除工序,而是同一个动作的另一端——学会就是把有限的清晰度从相邻区域搬到目标区域,没有搬走就没有学会。 本文称之为借清,读数是借清率:相邻区域的清晰度下降量与目标区域上升量之比。

二维辨别表由两根轴张开——被借处可否回写,被借处是否落在要用处——指认唯一的靶格丁:不可回写,且落在要用处。它的反直觉之处在于随「学得好」加深而非随「学得差」出现,且在目标区域的每一项指标上都伪装成优异。免疫印记、母语关窗后的非母语对立、深度网络的表示坍缩,都落在这一格。

十个领域的兑现中,免疫接种与睡眠两处反过来迫使命题收窄:不可回写要限定在「不引入新的高强度再刺激」之下,把清晰度搬回去的再校准本身也在借清、并不免费;容量可加则说明借清是「给定容量」下的守恒,不是绝对守恒——但加容量只能把守恒推到更大尺度,不能取消它。

本文诚实交代:核心读数借清率,本文没有亲自在系统上跑出来一条;那次测量是本文所有主张里最便宜、最可复现、也最愿意押上的一条,第七节给了任何有一台机器的人都能照做的最省钱协议。

最后给一条写死日期的赌注:

到 2033 年 12 月 31 日,若在机器学习、知觉学习、免疫学三者中的任何一个领域里,仍没有任何一项研究把「借清率」——学会某物时相邻处清晰度的下降量与该物清晰度上升量之比——作为独立于「容量不足」与「干扰覆盖」的变量单独测量,或测量之后未能重现「下降量随上升量成比例」的守恒关系,则本文的核心主张作废,不再申辩。

注 释

1. 本文所称「清晰度」是一个刻意跨领域的操作性名词,指把相近输入分辨开的能力,落在某一片输入区域上;在不同领域它由不同的量实现(分类可分度、克隆频率、辨别正确率、突触权重的相对配置)。跨领域使用的代价是精度的损失,本文用它换取的是「守恒」这一条能被同一把尺子检验的性质。

2. 「相邻」始终指系统当前表示里的近,而非物理或语义上的近。同一对输入,在一个表示里相邻、在另一个里不相邻——这是借清率必须先声明「近」的口径的原因。

3. 第六节的「收窄之二(睡眠)」与「收窄之三(容量)」是本文自己加在自己身上的约束,不是对既有文献的复述;把它们写出来是为了标明命题的适用边界,而非扩大它。

4. 免疫、母语、知觉学习三处的转述依据公开文献的核心结论,未逐条核对原著页码;本文对它们的机制解释(读成同一次搬运的两端)由本文负责,不应归给原作者。

5. 第七节所述测量本文未执行;「未执行」不等于「不可执行」,恰恰相反,它可执行且便宜,本文把补做它列为命题的一层。

参考文献

French, R. M. (1999). Catastrophic forgetting in connectionist networks. Trends in Cognitive Sciences, 3(4), 128–135.

Kirkpatrick, J., Pascanu, R., Rabinowitz, N., et al. (2017). Overcoming catastrophic forgetting in neural networks. Proceedings of the National Academy of Sciences, 114(13), 3521–3526.

Grossberg, S. (1987). Competitive learning: From interactive activation to adaptive resonance. Cognitive Science, 11(1), 23–63.

Francis, T. (1960). On the doctrine of original antigenic sin. Proceedings of the American Philosophical Society, 104(6), 572–578.

Cobey, S., & Hensley, S. E. (2017). Immune history and influenza virus susceptibility. Current Opinion in Virology, 22, 105–111.

Richards, B. A., & Frankland, P. W. (2017). The persistence and transience of memory. Neuron, 94(6), 1071–1084.

Tononi, G., & Cirelli, C. (2014). Sleep and the price of plasticity. Neuron, 81(1), 12–34.

Kuhl, P. K. (1991). Human adults and human infants show a "perceptual magnet effect" for the prototypes of speech categories. Perception & Psychophysics, 50(2), 93–107.

Werker, J. F., & Tees, R. C. (1984). Cross-language speech perception: Evidence for perceptual reorganization during the first year of life. Infant Behavior and Development, 7(1), 49–63.

Karni, A., & Sagi, D. (1991). Where practice makes perfect in texture discrimination. Proceedings of the National Academy of Sciences, 88(11), 4966–4970.

Leonard-Barton, D. (1992). Core capabilities and core rigidities: A paradox in managing new product development. Strategic Management Journal, 13(S1), 111–125.

Bilalić, M., McLeod, P., & Gobet, F. (2008). Why good thoughts block better ones: The mechanism of the pernicious Einstellung (set) effect. Cognition, 108(3), 652–661.

Chase, W. G., & Simon, H. A. (1973). Perception in chess. Cognitive Psychology, 4(1), 55–81.

Wolpert, D. H., & Macready, W. G. (1997). No free lunch theorems for optimization. IEEE Transactions on Evolutionary Computation, 1(1), 67–82.

Kuhn, T. S. (1962). The Structure of Scientific Revolutions. University of Chicago Press.

人机分工声明

本文由王德生与 Claude 共同署名。三个来源领域(机器学习、免疫学、神经科学)由 Claude 选定,选源刻意跨开了三门互不通用的学问,使它们对同一问题的回答互相排斥;承重判断的形成、二维辨别表、十领域兑现(含免疫、睡眠、容量三处对本文的收窄)、借清率的定义与清点手册、以及全部文字,由 Claude 生成;所依据的方法论框架与发表裁定由王德生给出。

第七节所述的核心测量(借清率的实测)本文未执行,已在正文与注释中明写,并给出了可复现的最省钱协议;免疫侧与睡眠侧的两条印证性测量同样未执行、已指名。三个来源领域的转述依据公开文献的核心结论,未逐条核对原著页码;本文对它们的机制解释由本文负责。

字数 纯汉字约 1.4 万 版本 v1.0 · 2026-08-11

这一篇由哪三个领域的争论撞成

三边对「一个系统学会一件事时,对它没在学的东西发生了什么」给出互相排斥的答案:机器学习把它当作要消除的干扰(理想是学新而不忘旧);免疫学把它当作学会本身的产物,第一次学得越牢、对近邻变体越认不出,而且极难改写;神经科学把它当作一道独立的、服务于一般化的主动清除工序。三家争的其实是同一件事该由谁裁、放哪儿、有多少,而它们共享了一个从未被单独说出的前提——学与对别处的影响是两件可分开的事。

机器学习 · 灾难性遗忘 ↔ 学而不忘
Kirkpatrick 等《Overcoming catastrophic forgetting in neural networks》(PNAS, 2017);French《Catastrophic forgetting in connectionist networks》(Trends Cogn. Sci., 1999)
固定容量的网络学新任务会大幅忘掉旧任务;主流处理一致地把遗忘当成要消除的故障,代表性方法给旧任务重要的参数加一道阻力,其预设是「学新而不忘旧」的两全可以争取。这一预设正是本文第八节第一条分界与判决性对照的对象。
免疫学 · 原始抗原原罪与印记
Francis《On the doctrine of original antigenic sin》(Proc. Am. Philos. Soc., 1960);Cobey & Hensley《Immune history and influenza virus susceptibility》(Curr. Opin. Virol., 2017)
一生中第一次遇到的抗原塑造并长期限制对后续漂移变体的应答:首次学得越牢,对变体越迟钝,且早年印记极难改写。当代流感与登革热的疫苗与流行病学把它当作一线难题;换佐剂、拉开间隔、异源加强可部分绕开它——这条恰好反过来给本文的「不可回写」加了收窄。
神经科学 · 主动遗忘与睡眠稳态
Richards & Frankland《The persistence and transience of memory》(Neuron, 2017);Tononi & Cirelli《Sleep and the price of plasticity》(Neuron, 2014)
遗忘被论证为一道主动的、适应性的过程,服务于一般化;睡眠期的整体突触下调被解释为给可塑性付账、恢复容量。两支都把忘设想成独立于学、朝相反方向使劲的工序——正是这一分工,使它无法看见忘是学的另一端,也是本文第八节第四条分界与判决性对照的对象。

网页长文

返回学科通融 →