第二十八章 反馈、修正与迭代：让反例改变模型
一、一个传感器怎样推翻一项封装
假设研究者决定节省资源，只记录三个位置中的中点强度。这个决定看起来很合理：中点位于装置中央，可以接收两侧传来的影响；研究任务也确实只关心中点。然而，“只关心中点的输出”与“只需保存中点的当前读数”并不是同一个命题。前者规定目标，后者对预测所需信息作出判断。
沿用上一章的传递矩阵K。考虑状态与。当前中点读数都是零。但不加入任何新输入，更新一步后，u的中点读数为四分之一，w的中点读数仍为零。如果一个预测器只接收当前中点读数，它在两种情况下收到完全相同的输入，却被要求给出不同的下一步输出。这不可能通过训练更久或计算更快来解决。
这里的失败发生在状态封装层。我们把两个具有不同未来后果的状态合并了。即使预测器具有无限计算能力，也无法从已被删去的信息中恢复区别。AI可以猜测哪种状态更常见，可以根据先验概率给出平均预测，但那与对所有允许状态作出确定性正确预测不同。一个能力很强的工具，仍然受到信息入口的约束。
这条反例还纠正了另一种习惯。当前读数相同，并不表示某种差异没有发生作用；它可能只是暂时没有进入这个观察通道。下一次更新把它带入通道，原来被封装的差异重新显露。SDE研究强调显露与差异运行、特征纠缠之间的关系，在这里不能只停留为一句总体判断，而要追问：观察消去了什么，更新保留了什么，二者是否相容？
本章从这条失败出发，不急于给原模型添加一个补丁，而是寻找一般条件。我们要证明，哪些观测可以独立支持后续更新，哪些不可以。这样，一次偶然发现的反例才能转化为可用于不同模型的研究知识。
二、观测闭合究竟是什么意思
设状态空间仍为，K是给定非负矩阵，P是一个实矩阵。当前观测为。我们说观测在K下闭合，是指存在一个只使用y的确定性函数f，使对所有非负状态u都有。也就是说，先更新完整状态再观察，与直接更新当前观测，能够得到完全相同的结果。
这个定义要求对所有允许状态成立。若只在一条已经记录的轨迹上找到一个拟合函数，不能称为对整个状态空间的闭合。某条轨迹可能没有经过会发生冲突的状态；它也可能因为输入规律特殊而使隐藏信息恰好能够由时间推断。把适用范围缩小到某个受限状态集合，是合法的新研究问题，但必须明确改变了原来的全局要求。
如果每一步还有新输入v，那么完整更新为Ku+v。只要更新器同时得到Pv，闭合问题仍然由旧状态部分决定：下一观测应为f(Pu)+Pv。若输入只通过更粗的记录进入系统，输入信息也可能产生新的不闭合。为隔离问题，本章假设Pv可获得，不把输入测量困难混入状态压缩困难。
观察同一定义了U上的等价关系。闭合意味着：从同一等价类出发，经过K更新后，仍然落入同一个观察等价类。只有这样，“更新一个等价类”才具有确定含义。否则，同一类中的不同代表会产生不同结果，我们就不能把商对象当成一个独立演化的系统。
这个解释把同一性从静态标签推进到动态条件。研究者当然可以用某个P定义当前不可区分，但若想让这种不可区分承担长期预测，就必须证明它受到运行规则的保持。可靠封装不仅是一种压缩技术，也是一种关于允许操作与等价关系相容性的承诺。
三、观测商闭合定理及证明
命题二十八之一：闭合的等价条件
对于、非负矩阵K和任意实矩阵P，下列三条等价：第一，存在函数f，使所有满足；第二，P的零空间在K下不变，即蕴含；第三，存在定义在上的线性映射L，使。第三条的等式作为上的线性映射等式理解。
证明
先证第一条推出第二条。任取，把它写成，其中逐坐标取，逐坐标取。两者都属于U，且。由第一条，，所以。这个分解保证了我们没有把仅在非负状态上成立的假设，未经说明地扩展到所有实向量。
再证第二条推出第三条。在中取任意y，选择一个x满足，并定义。需要检查这个定义与代表x的选择无关。若，则；由第二条，，因此。故L定义良好。对、及实数α、β，直接计算，所以L线性。于是。
最后，第三条推出第一条，只需把L限制到可达观测集合P(U)，令。此时对任意非负u有。三条互相推出，证明完成。若希望把L写成整个观测坐标空间上的矩阵，可把它从线性扩张到该空间；扩张在之外的取值不影响允许状态的预测，也未必唯一。
定理的研究含义
定理没有预先要求f线性，却证明只要全局确定性闭合成立，就能够用线性L完成它。因此，面对这一线性系统的信息缺口，换成更复杂的非线性预测器不会自动修复问题。关键条件是P抹去的差异是否被K继续抹去。若存在z使而，那么无论f使用何种算法，都不可能对全部允许状态正确。
这也提示一个检验程序。不要先训练一个复杂模型，再从平均误差猜测信息是否充分；可以先检查线性条件是否可满足，或寻找零空间中的失败方向。AI擅长协助计算候选零空间、寻找低维反例和提出补充观察。这样的工具使用把能力投入研究结构，而不仅是重复拟合。
四、三条修复路径：表示、适用域与目标
对本章开头的中点观察，。向量属于，但，故定理立即判定它不闭合。如何修复？第一条路是增加信息。记为中点强度，为总量，把新观察定义为。对于选定的K，有，。若有输入v，则再分别加与。
因此二维观察已经闭合，不必保存全部三个坐标。它所对应的更新矩阵为第一行、第二行。这个例子显示，反例并不总要求退回最高维表示。我们可以寻找与任务相容的最小补充。当前中点读数没有包含两侧待传入的总强度；增加总量后，预测中点未来所需的那部分信息得到保留。
在这个对称K下，左右端互换不会改变中点未来。令，则，并且，所以这个差异方向永远不会进入中点通道。若任务始终只关心中点，我们可以安全地封装左右不对称。若任务改为预测左端，则同一封装立即失去充分性。模型的最小维数不是脱离任务的绝对荣誉，而是相对于允许提问的结果。
第二条修复路径是限制状态集合。假如独立证据保证所有状态都满足，那么中点值已经决定全部状态，单一观察足够。但这个限制必须由生成规则或经验事实支持，不能因为它让定理成立就随意添加。还要检查K与允许输入是否保持这个子集；如果一次更新就离开它，所谓修复只能维持一个时刻。
第三种常见做法是放弃确定性全局预测，改为统计预测。例如在明确的状态分布下，用条件平均值最小化均方误差。这也是合理任务，却改变了问题。它允许不可消除的误差，并且依赖训练分布。不能把这种平均意义上的可用性，表述成已恢复被压缩状态的全部信息。研究路线可以分化，但每条路线都应公开自己的成功标准。
这三条路体现了不同修正方向：增加表示、收紧适用域、改变预测目标。选择哪一条，需要考虑测量成本、任务风险和科学问题。AI可以展开每种方案的后果，研究者也可以主动比较它们。反例由此成为路线选择的依据，而不是必须被掩盖的失败。
五、把一次反例推广为观察设计
对于一个给定P，如果我们关心全部未来输出，就可以依次检查P、PK、等行向量所包含的信息。设为这些矩阵从P到的所有行向量张成的空间。它们构成一列递增子空间。由于状态维数为n，独立方向最多只有n个，不可能无限增加。
若某一步，那么对右乘K封闭。理由是，由P到的行生成；它们右乘K得到PK到，按照假设全部仍在内。此后再乘K也不会产生新方向。所以一旦没有新增独立方向，未来所有输出所需的信息都已包含在当前行空间中。
选择的一组基作为新观察矩阵Q的行，就存在矩阵L使。它于是给出一个闭合的扩充观察。这个构造同时包含一个维数结论：在至多n维的信息空间内，寻找所有未来输出所需的线性信息，可以在有限步骤停止。我们没有声称它自动得到任意非线性编码意义上的最小表示，而是得到明确的线性观察结构。
在三点例子中，，。两行已经张成“中点与总量”的空间；再次乘K不增加独立方向。因此上一节的修复并非凑巧猜中，而是一般构造的一个简单实例。程序可以用精确有理数的行消元计算这种闭合，不必根据图形直觉决定该添哪个传感器。
这一方法也产生新的研究问题。增加某个线性观察，在数学上也许只需要添加一行；在装置上却可能需要昂贵传感器或不可直接测量的量。线性组合可以计算，不代表其基础读数已经存在。如果只能从候选位置中选择传感器，观察设计就有离散约束；如果观测带噪声，还要关注数值条件和误差放大。严格的闭合定理是起点，真实设计仍需要进一步条件。
不过，它已经改变研究工作的组织方式。研究者不再只问“AI能否从这些数据学出更好预测”，还会先问“这些数据原则上保留了什么可预测信息”。前一个问题关注执行能力，后一个问题检验任务构成。人—AI复合体可以同时推进两者，避免把根本的信息不足误当成模型规模不足。
六、近似闭合怎样保留误差账目
精确闭合可能要求过多观测，因此需要一种有边界的近似。设已经选择低维矩阵L，定义残差。对于完整系统，真实观测满足。最后一项就是低维模型遗漏的作用，不能因为公式不好看就删除。
令低维预测按更新。两者之差满足。选用相容矩阵范数，假设、且，则
证明与前章误差递推相同：逐步应用三角不等式，再求几何级数。
这个界把近似封装的条件公开出来。即使残差η很小，若低维更新不收缩，误差仍可能放大；即使L稳定，若完整状态大小没有控制，遗漏项也未必小。只报告某一批数据上的小误差，不能替代这些条件。对于实际任务，研究者可以允许一定误差，但需要知道误差来自测量、参数估计还是状态压缩。
观察本身带噪声时，情况还会增加一层。若测量值为，那么低维模型得到的不是理想y。噪声可能在反馈中不断进入。设计传感器时，选取理论上独立但几乎平行的观察方向，可能使重构极不稳定；保留更多冗余观察反而能够增强稳健性。因此，“最少维数”与“最好研究装置”之间并没有无条件等号。
在SDE研究中，这一误差账目具有方法意义。所谓特征稳定，不应只理解为每次报告同一个名称，还应检查在允许扰动下相关显露保持到何种程度。将状态压缩视为一次封装，就需要知道它在怎样的运行和纠缠条件下继续可靠。条件改变后重新展开，并非否定此前封装，而是承认其适用域发生了变化。
对于本书的最小模型，精确闭合已经足以形成完整论证。近似公式是下一步研究的入口，尚未对应真实数据拟合。它明确提出一项可执行任务：在给定传感器预算下，比较若干P与L，使预测误差、测量成本和计算成本同时进入评价。研究者可以先做合成实验，再决定是否值得进入实物装置。
七、不要为保住结论而无限添加条件
反例出现后，最危险的冲动是只修改一句话，使原有结论看上去仍然成立。例如，把“中点观察足够”改为“在没有两侧影响时中点观察足够”。这在逻辑上可能正确，却删去了最初要研究的范围传递。若每次失败都通过排除失败情形处理，模型会逐渐变成只能解释自己成功的特殊案例。
修正是否正当，可以追问三个问题。新增条件是否有独立理由，能否在使用模型之前识别，是否仍覆盖原来的关键任务？若条件只在看到结果后才临时决定，它很可能是保护性补丁。若条件来自装置设计，例如确实切断两侧传递，它可能是合法的新系统；但此时应报告任务已经改变，而不是宣布原系统的问题已经解决。
本编采用版本记录来约束这种漂移。初始版本把对象限定为单个伞，因为相加不闭合而被扩大；静态版本因为不能表达年龄权重而加入衰减；纯衰减版本因为不能表达邻位传递而推广为K；中点单观察版本因为预测不闭合而扩充为中点与总量。每一次变化都有一条具体失败和一个明确目标，不把所有版本混成一个从未出错的完成品。
版本记录还需要保留被放弃的分支。比如，我们可以把两个伞的组合强制拟合为单伞，但那将产生一个近似误差问题；可以采用无记忆模型，但它只适合不关心次序的任务；可以保存完整历史，但计算和存储成本不同。这些分支未必永远无用。把放弃理由写清楚，后来者在不同约束下可能重新选择它们。
AI在这个阶段既能帮助，也可能放大风险。它能够迅速生成一串合理化理由，使每一次失败都像是早已预见；也能够认真搜索最小反例，检查新条件是否独立。研究组织应奖励后者：要求它写出会推翻当前主张的输入，指出新假设改变了哪个对象集合，并明确哪些旧结论失效。研究者自身也必须接受同样的要求。
高质量迭代的目标不是让最初命名永远获胜，而是让问题得到更清楚的解决。如果伞模型最终被证明只是一个常规状态空间的特定解释，我们已经知道应怎样定位成果。如果某个新约束确实使已有工具不再适用，则可以在那个具体缺口上继续创新。诚实的反馈为下一次发生保存了入口。
八、把结构识别与状态识别分开
前面的闭合定理假定K已经给定。但真实研究往往必须同时估计K和状态。两种未知不能混为一谈。状态识别问的是，在规则已知时，哪些观测足以分辨当前情况；结构识别问的是，哪些输入与输出足以区分不同规则。一个在已知K下闭合的观察，未必足以判断K本身是否选择正确。
例如，总量观察在本编选定的K下满足。但任何列和都等于四分之三的非负矩阵，在无输入时都会产生同样的总量更新。它们可能有完全不同的空间传播：一个只做各点衰减，另一个把影响传向邻点，还有一个在多个位置间重新分配。只看总量，不能据其衰减正确就宣布已经识别了空间机制。
这里可以给出两个明确矩阵。一个是本编的邻位传递K，另一个是。它们对任何状态都有相同的下一步总量，却对给出不同剖面：前者产生，后者产生。如果实验只测总量，即使采集无限多次这样的总量轨迹，也无法区分两者；增加一个中点观察，差异在第一步就显露。
这个例子提示，数据数量与信息方向不同。重复测量同一封装输出，可以更准确地估计已保留的量，却不能自动恢复结构上被消去的方向。AI可以从很大数据中找到稳定模式，但模式稳定未必说明其解释机制唯一。研究者需要主动设计能够使候选机制给出不同结果的干预，而不是只增加原有数据的规模。
一种最小结构识别方案，是在可控制装置中分别施加基向量输入，并完整读取下一状态。如果初始状态为零、输入在规则规定的时点加入，那么需要先把某个基向量建立为状态，再观察一次无新输入更新；所得向量就是K的对应列。依次进行，可以恢复整个矩阵。这个方案说明“如何测K”，同时也揭示其要求：能够准备已知状态、能够分离时间步骤、能够读取所有相关位置。
如果这些操作不能做到，研究就需要约束K的类别，或者接受部分识别。比如已知传递仅发生于相邻位置，可以减少待估参数；已知左右对称，可以合并某些参数。但所有结构约束都应有独立依据。为了降低参数数量而假设对称，是一种建模选择；只有测量或装置构造支持它时，才能把它当作对象的已知性质。
另一个容易混淆的地方是把数值接近当成严格同一。固定，若定义u与v“相同”为，这个关系通常不具有传递性。取三个实数观察值0、和。前两者接近，后两者接近，首尾却不接近。因此，阈值接近不能直接建立普通等价类商结构。
这一点在聚类和视觉展示中很实际。程序可以按照某种规则把近似状态归为一组，但不同连接规则可能得到不同组。若随后把组当成严格对象进行运算，必须另行规定代表、误差与更新方式。不能把精确闭合定理中的等号悄悄替换为“差不多”，却继续沿用全部结论。近似研究需要自己的误差语言，前一节正是为此保留残差项。
结构识别、状态识别和近似比较由此构成三个相关而独立的研究任务。它们共享同一个伞模型，却不共享完全相同的证据标准。把任务分开以后，人—AI复合体可以并行推进：一条线设计区分机制的输入，一条线寻找充分观察，一条线估计压缩误差；最后在同一实验记录上检查它们是否相容。分工的基础是问题明确，而不是把一份含混目标复制给多个智能体。
研究记录还应保留不能区分的候选，而不是只留下得分最高的一个。如果两个K在现有观察下完全等价，就应报告一个候选集合，并指出增加何种测量可以缩小它。这样，下一位研究者能够直接接续识别问题，而不必先拆除上一版过强的唯一性结论。保留不确定性在这里不是消极谨慎，而是为后续实验指定方向；它把未知组织成可以逐步减少的数学对象。
九、一次修订怎样改变研究者的能力
本章开始时，研究者面对的是一个看似简单的仪器选择：只记录中点是否够用？经过反例、定理和修复，问题已经扩展成观察等价关系是否受到动态保持，历史信息能否被有限维状态封装，低维近似如何报告误差。这种扩展没有依靠夸大模型的新颖性，而是来自对失败的持续追问。
研究者的能力也在这一过程中改变。原来可能擅长在给定状态上计算，现在需要同时设计状态与观察；原来可能只检查数值输出，现在能够区分算法错误与信息不足；原来可能把同一性当作定义中的一句话，现在能够检验同一性在更新下是否继续成立。这些改变构成了实质性的研究升级。
AI的参与使这种升级具有新的条件。它可以并行生成反例、尝试不同P、计算闭合行空间、比较近似误差，并把结果整理为可复核材料。工具封装把一部分基础执行转化为可调用能力，研究者就有机会向更高层的对象设计和任务设计推进。若只是反复让AI拟合相同数据、争夺更小的第三位小数误差，原来的竞争轨道也可能继续加速。
因此，迭代不只是让同一个模型越来越复杂。它还可能让模型变简单：在中点预测任务中，三维状态可以压缩为二维，某些差异被证明可以安全忽略。升级的尺度应当是能否更清楚地组织目标、条件与证据，而不是变量数量是否增加。下一章将进一步允许不同任务形成不同模型分支，并研究它们怎样翻译、重组和共同发展。