第三十七章 判断智能体的工作结构
一、提示词不能独自承担全部判断机制
把三方程、六路径、三原理写进提示词,可以帮助组织任务,却不等于已经建成一套可靠判断系统。模型可能使用正确术语,仍然把未核验的结论标成完成;也可能给出优秀诊断,却没有任何机制使修正进入后续流程。
因此,判断智能体需要的不只是会评论,还包括目标与证据的保存、状态转换、反馈去向、版本关系以及复核接口。哪些部分由生成模型提出,哪些由确定性程序检查,哪些需要专业或作者判断,应当在工作结构中分开。
本章一方面提出较完整的设计方向,另一方面实现一个有限的小型原型。实际实现只处理判断台账与若干状态规则,不包含通用数学证明器,也没有训练新的模型。设计蓝图与已执行代码分别说明,避免把设想中的完整能力写成现有成果。
这样的区分本身就是本书的方法要求。工程原型可以很小,但应准确说明完成了什么;宏大的系统说明若没有实际承接,也不能凭图和术语获得成熟身份。
二、第一层应当保存任务,而不是只保存对话
一项研究任务需要稳定身份。题目、对象、前提、目标版本和接受条件,应当能够从长对话中独立取得。对话可以保留讨论过程,但不能让任务身份随每一次生成而悄悄改变。
例如,原目标是从A推出C,讨论中提出了在A与B下推出C的新方案。系统应当区分原目标与新目标,保存它们的关系。若只有一段不断覆盖的最新摘要,较弱或较强的条件变化可能失去记录。
任务层还要说明哪些修改需要确认。文字等价改写与实质目标变更可以采用不同处理;超出原任务的新增工作也不应自动视为已经授权。这里的权限是工作设计中的明确范围,不是模型通过自我说明获得的权力。
因此,判断智能体的第一个能力不是给出结论,而是帮助维持问题。一个系统能够稳定知道当前究竟在判断什么,才有可能组织后面的价值评估与反馈。
三、第二层组织证据身份
证据层保存来源、检查方式、支持对象、版本与范围。数学证明、程序测试、人工核对、作者经验和模型猜测应当有不同身份。它们可以相互启发,但不能在进入汇总时统一升级成已经验证。
一个证据条目需要回答:谁或什么机制完成了哪项检查,检查针对哪个对象,结果是什么,未覆盖什么。引用来源还应能定位到具体材料,不能只显示一个看起来权威的网站名称。证据的作用来自实际支持关系。
对AI生成内容,系统可以先登记为候选,再请求相应检查。检查通过后,状态改变需要绑定实际凭据。若没有取得凭据,模型再确信也不能直接把状态设为完成。这是生成与接受机制的分离。
证据层还需要允许负面结果。反例、缺失条件和失败记录不是待删除的杂物,它们能够决定后续路线与封装边界。只保存成功内容,会使系统失去反复检验中的重要差异。
四、第三层才是价值评估与发生诊断
在任务与证据清楚以后,系统可以围绕三方程检查运行之真,围绕六路径检查运行之善,围绕三原理检查运行之美。评价应指向具体对象和关系,而不是机械产生三个分数。
发现问题以后,再用四个价值发生截面组织候选诊断。是显露方式遗漏了关键差异,能力与约束不匹配,意义与信息错接,还是路径与三界之间的反馈没有发生?这些问题需要结合当前材料回答,不能只罗列可能原因。
诊断输出最好包含区分候选解释的方法。若认为问题来自目标含糊,应说明需要核对什么;若认为来自版本错接,应检查哪项记录;若认为来自结构失活,则提出能改变具体关系的修订。这样,评价才可能进入可执行反馈。
这一层可以借助模型的表达和推理能力,但其结论仍然是需要检验的候选。系统不应因为诊断写得完整,就自动执行所有修改。干预范围与相应权限还需要下一层承接。
五、第四层安排修改与重新检验
反馈需要到达能够改变的环节。修改文本、调整提示、更新模块、改变任务或请求专业复核,是不同动作。系统应当说明为什么选这项动作,它预计改变什么,以及如何确认效果。
执行以后还需重新检查。修改了引理条件,需要核对下游依赖;改变了资料标识规则,需要检查旧数据和新数据;艺术结构改写,则需要返回文本与体验分析。不能把“动作已执行”直接记成“价值已修复”。
对于高影响动作,应当设置相应确认或停止条件。本文提出的是分层设计原则,不将一个通用智能体默认授权为能够修改全部系统。范围越清楚,越容易形成可靠封装,也越容易让使用者参与关键判断。
第四层的输出应回写任务与证据层。新版本、检查结果和剩余问题成为下一轮起点。若反馈只存在于聊天文字,后续流程仍调用旧状态,所谓迭代就没有真正发生。
六、一个小型台账原型的实际范围
为使部分设计能够检查,本项目实现了一个仅使用Python标准库的小型台账。它保存任务节点、明确条件、依赖节点、版本、证据类别和状态,并提供增加、修订、核验、否定与导出操作。源代码和测试随写作包提供。[R15]
原型不是完整判断智能体。它不理解任意数学句子,不自动发现所有遗漏条件,也不判断艺术价值。它接收外部核验者提供的证据声明,再检查这些声明是否符合台账中的状态与依赖规则。
这种范围选择有理由。许多错误并非来自复杂推理本身,而来自未证结果被升级、旧凭据被贴到新目标、依赖变化没有传播。即使一个小程序不能证明数学,也能够对这些工作流程关系提供可重复检查。
但流程检查的价值不能被夸大。它只对已经明确登记的义务工作,未被登记的依赖或不诚实的外部证明声明,仍然需要其他机制处理。原型的信任边界将在后文通过实际测试公开展示。
七、节点与凭据怎样连接
每个节点具有一个不被静默覆盖的标识、命题或任务说明、当前条件、所需条件、依赖列表和版本。状态包括候选、已按规则接受、已否定和需要复核。这里的“接受”只表示台账规则通过,并不自动等同于命题真实。
凭据包含目标摘要标识、证据类别、来源说明、语义对应是否已确认以及义务是否闭合。目标摘要由当前任务、条件、版本与直接依赖状态形成。任务变化以后,旧凭据不能继续匹配新摘要。
这种绑定使一个具体问题可被阻止:修改了结论,却仍然使用旧证明的通过状态。系统不需要理解新结论的全部数学意义,也可以知道当前凭据不是针对这个版本。技术承接在这里保留了一项必要差异。
不过,摘要一致只证明所绑定的数据一致,不证明数据描述的内容正确。一个错误命题也可以有稳定摘要。密码式内容标识用于身份与版本,不应被当作真理标签。原型没有把两者混同。
八、未完成依赖怎样阻止状态升级
如果节点B依赖节点A,而A仍然是候选,B不能仅凭自己的完成声明升级。原型检查直接依赖是否已经接受、是否存在相应凭据,以及凭据是否仍对应当前版本。任何关键缺口都会阻止转换。
同样,明确登记的所需条件必须在当前条件中得到承接。这个检查是字符串层面的集合关系,不是一般逻辑蕴含求解。它能够发现已登记条件的直接缺失,却不能自动证明两个不同表达实际上等价。
这种保守方式适合原型阶段。需要更强语义能力时,应接入正式检查器或人工确认,而不是让台账猜测。工具边界清楚,比用模糊智能填补所有接口更容易获得可检验支持。
原型还拒绝未解释的循环依赖。在完整数学系统中,合法归纳需要由相应逻辑结构处理;本原型并未实现归纳证明,因此不将循环节点视为已证。管理规则的限制需要被公开,不能把它误称为数学中不存在任何递归结构。
九、变化怎样沿依赖传播
当一个节点被修订,原型使它进入需要复核状态,并沿依赖关系将相关下游节点标为需要复核,清除不再适用的完成凭据。不受影响的独立节点保留原状态。这样,变化有传播范围,而不是全盘作废或完全忽略。
证据被重新核验并替换时,下游也需要确认新依据。即使命题文字未变,实际支持关系的版本也可能变化。原型使用证据代次参与目标摘要,使旧下游凭据不能悄悄覆盖新的依赖关系。
若一个目标被反例否定,系统不允许直接用普通通过操作把它重新标为已证。需要明确修订目标或建立新目标。这个规则保存了原任务的失败身份,防止通过重新措辞抹去历史。
这些机制并不决定数学结论本身,而是让相应判断结果能够持续影响后续使用。它们是第三方程所要求的回写在一个具体工程范围中的实现尝试,不是三方程已经被程序完全实现的宣称。
十、实际运行了哪些测试
本项目为原型编写并实际执行了十九项合成单元测试,测试运行全部通过。测试覆盖有效叶节点与组合、未核验依赖、缺失条件、旧凭据、传递失效、独立分支保留、循环依赖、证据类型、语义标记、开放义务、否定后的目标状态、重复标识、未知依赖和导出记录等情况。[R15]
其中一项测试确认标识“0012”与“12”被作为不同字符串保存,直接对应前章资料案例。另一项确认基础节点改变后,下游两层都进入待复核,而无关分支不受影响。测试结果只支持这些明确程序行为,不说明全部实际工程问题都被覆盖。
还有一项测试阻止仅以有限样例测试凭据接受被标为一般数学任务的节点。对于明确属于固定样例检查的技术任务,则允许相应测试证据。程序通过任务类型区分接受规则,但任务类型本身仍需正确登记。
这些测试没有调用大型语言模型,没有进行真实教育试验,也没有运行Lean内核。它们是台账规则的可复查检查,不是AI数学能力或SDE整体效果的实验。把范围说清楚,才能让小证据获得它实际应有的价值。
十一、一项故意暴露边界的测试
第十九项测试尤其重要。我们把错误命题“二等于五”登记为节点,再人为提供一份声称目标匹配、义务闭合的虚构凭据。原型接受了它。这个结果不是数学被证明,而是明确展示:台账本身并不会重新证明外部凭据的内容。
因此,十九项测试全部通过,并不意味着系统能够判断任何命题真伪。最后这项测试恰恰验证了它的有限范围。若把“通过十九项测试”宣传为“数学证明系统可靠”,就会犯本书一直批评的证据升级错误。
在实际系统中,凭据必须来自有适当能力与权限的核验机制,并与当前任务绑定。需要形式证明时,就应接入真正的证明检查;需要人工审查时,应有相应工作记录;对来源真实性的保护也需要额外工程措施。本原型没有实现这些完整保障。
这一负向示范使封装边界具体可见。它说明哪项判断已经由程序承担,哪项仍然依赖外部复合能力。可靠设计不是隐藏未完成部分,而是让未完成部分不能被误认成已经实现。
十二、从台账到完整系统,还缺少什么
首先缺少领域核验器。台账能够检查凭据是否匹配,却不能生成可信证明依据。数学、资料核对、技术测试与艺术审读需要不同适配层,各自明确输入、结果与支持范围。
其次缺少完善的身份与权限机制。原型是单机研究示范,不是安全边界;它没有认证外部核验者,也不防止有权修改代码或数据的人绕过规则。生产系统需要依据实际用途设计权限、日志保护和隔离,不能直接把示范代码投入高影响任务。
还缺少完整的语义映射。两个表达是否指同一命题,哪些条件能够由其他条件推出,属于更强的领域判断。可以通过正式对象标识、验证后的等价关系和专业确认逐步建设,而不是假定语言相似度能够包办。
最后缺少真实使用评价。界面是否清楚,记录是否增加过多负担,异常是否能抵达适当角色,都需要在实际任务中观察。代码中的状态关系只是复合能力的一部分,系统成熟还包括使用者侧封装的形成。
十三、怎样把SDE方法接入而不制造术语层
可以让模型围绕当前任务提出三方程检查问题、六路径选择与三原理重组候选,再把结果转为具体的待证义务、待核对条件或修订请求。若输出只停在“真不足、善需提高、美有待完善”,它并未进入可执行结构。
例如,模型判断目标与现有证据不匹配,应当指出具体差异并触发目标核对;判断路径反复绕过同一缺口,应当提出转向候选及其条件;判断整体结构被局部优化破坏,应当说明哪些依赖需要重组。价值语言要转为可检查的任务关系。
四个发生截面可以帮助组织诊断,但系统需要保留不同候选与区分方法。不能把某个诊断名称直接写入程序,随后把所有案例都归到这个名称下。解释需要通过修订结果继续接受判断。
因此,SDE接入的效果应由实际不同的发现、反馈与修复检验,而不是由报告中出现了多少理论词汇衡量。第三十九章将通过比较与消融设计,进一步说明怎样研究这种增量。
十四、判断智能体怎样支持而不是取消人的参与
系统可以承接许多细粒度工作,但仍需要让相关使用者知道当前任务状态、剩余条件和可选择的下一步。解释不必展开全部实现,却应足以支持实际决策。一个只显示总分和按钮的界面,可能让人难以参与关键价值判断。
人的参与也不是永远逐行审查。可以集中在目标解释、重要标准、异常处理和新的研究方向;遇到具体问题时,再借助专业工具进入细节。层级并不固定归属,而是按当前能力与任务组织。
这种参与需要可行的反馈接口。使用者能够指出错误、请求依据、暂停某项操作、修订目标或转交复核,系统则把结果保存并返回。没有这些连接,最后由人点击确认也可能只是形式责任。
因此,判断智能体的成熟不只是让机器评价更准确,还包括让人—工具复合体能够持续组织自己的判断。它应帮助生成新的参与能力,而不是把所有标准隐藏在一个不可改变的模型输出中。
十五、原型之后,真正需要检验的是复合效果
本章已经实现了小范围状态规则,并通过实际测试说明其行为与边界。它尚未证明完整SDE判断系统优于其他方法,也没有证明用户因此形成更高判断力。这些问题需要不同的研究设计。
后续比较应当区分台账本身、一般自适应检查和SDE发生诊断分别贡献什么。若只增加了记录和复核就改善结果,不能把全部效果归于新理论;若SDE诊断进一步改变错误定位和修复,则应提供相应证据。
这种拆分不是削弱整体,而是让整体能够被研究。复合能力并不禁止分析各部分作用,它要求分析同时保留它们怎样相互改变。程序、模型、使用者和任务的关系,正是需要进入检验的对象。
原型把目标与证据状态保存为可检查对象,却没有因此成为数学证明器,也没有替整套价值判断完成实证确认。把这些边界写清楚,正是下一轮改进的起点。理论与工程的贡献仍要放在邻近方法旁比较:哪些能力早已有之,哪些连接确实新增,哪些提案还没有证据。只有如此,复合能力的说明才不会被工具的完成标记提前封死。