第34章 人机科研中的判断与知识发生
34.1 从候选答案到能够承担证明的主张
第33章保留的是仍有研究价值的候选,本章处理候选地位怎样改变。研究者得到一段关于低温偏移的解释时,需要判断哪些内容是数据概括,哪些提出原因,哪些已经足以指导修正。三种地位要求不同支持;一句话写得更肯定,并不会使它完成转换。人机科研中的判断,就是在核对前提、检验推导和比较解释的过程中,决定哪项主张可以升级,哪些部分仍须保留,哪些行动已有足够依据。
可以用一个贯穿本章的假设情境说明:某类湿度传感器在较低温度下出现读数偏移,团队希望查明原因并改善测量。AI系统提出参考装置漂移、封装材料影响和补偿算法失配三种解释。此时系统完成的是候选生成,尚未完成因果判断。即使三种解释都符合专业常识,也需要针对实际设备、记录和使用条件逐一检查。一般知识不能替代对当前事件的证据。
团队随后查阅设备文档、整理校准历史、比较不同批次的数据,并设计能够区分候选机制的测试。某些步骤由人完成,某些由软件完成,但证据地位取决于工作性质,而非执行者身份。人工读错单位同样会破坏推论,机器正确整理资料也可以成为可靠环节。人机分工应围绕可验证的任务组织,而不是预先把判断全部归给人、把机械劳动全部归给机器。
一个主张的支持结构应容纳分层结论。在传感器设想中,重复读数可以支持特定条件下确有偏移,校正程序通过保留数据检验可以支持限定范围内的补偿,区分性实验才可能支持某项原因解释。团队可同时接受前两项而继续悬置第三项。把这三项写为相互连接但可分别修订的主张,能够避免机制争议使已可靠的校准成果一并失效,也避免校准成功替未经辨识的机制背书。判断的进展表现为支持范围变得更精确。
判断还包含对证据充分程度的选择。科研不可能在任何行动之前消除全部不确定性,但不同用途需要不同支持。为安排下一次探索实验而暂时采用一个工作解释,与据此宣布普遍规律,证明责任不同。人机系统需要维护用途与证据之间的关系:当前材料足以支持什么,哪些扩大使用还需要新增检验。这种对应使知识能够逐步成熟,而不必在绝对确定与完全无知之间二选一。
SDE分析将注意力放在主张如何在这些关系中获得稳定性。新的显露来自数据与处理,差异序列包括检索、比较、实验与判断,特征纠缠则组织对象、指标和机制之间的联系。任何一处变化都可能要求重读其余部分。知识不是由孤立答案累加而成,而是由能够相互支持并接受修订的关系逐渐形成。
34.2 来源与证据不是同一件事
找到来源是证据工作的起点。文献中出现某个句子,并不意味着它支持当前主张;来源可靠,也不意味着其中每项结论都适用于新的条件。系统需要区分原始实验、方法说明、综述转述和作者猜想,并检查研究对象、测量条件与结论范围。把一段相关文字附在答案后面,可能增加可信外观,却没有完成证据对应。
在传感器例子中,一篇论文可能发现某种封装材料在特定湿度循环下影响响应,但当前设备使用的材料和温度范围不同。它可以支持一个候选机制,却不能直接证明当前偏移来自相同原因。设备文档可能说明补偿算法的适用范围,却不能证明实际软件版本已经正确执行。不同来源提供不同层次的信息,必须通过当前材料连接起来。
检索增强系统能够把外部资料带入生成过程,但检索相关性与证据充分性仍是两项任务。一个页面可能因关键词相近而排名很高,却在关键定义上不一致;多个页面也可能转述同一项研究,不能当作独立重复。研究系统应追溯关键事实的原始出处,并标明哪些材料共享证据来源。来源网络的独立性比链接数量更有意义。
还需要区分来源不存在与当前无法取得。系统检索失败时,可以报告尚未找到可核验材料,却不能据此断言某种现象从未被研究。相反,无法阅读全文时,也不应根据标题和摘要推断详细方法。证据工作要求诚实标记访问范围,并将未核实内容保持为待核实状态。这样的限制不是降低效率,而是避免后续推论建立在伪装完成的核查上。
资料版本也会改变证据地位。预印本、正式论文和更正说明可能存在差异,技术文档也可能随设备更新。系统应记录使用的版本与访问时间,对关键更正建立检查。若一个结论后来被撤回,相关综述不能因为已经写成便保持原样。前章讨论的历史承接,在这里成为知识维护:变化的来源需要能够触发下游主张的重新评估。
主张与来源的对应应细到能够改变判断的程度。假如设备文档只说明补偿算法适用于某一温度区间,系统可以据此标记区间外使用需要重审;它还须另找运行配置,才能判断当前装置是否真的使用该版本。两项材料承担不同连接,缺少任何一项都会留下不同缺口。这样的组织使检索结果产生明确后果:保留一个候选、限制一个适用域,或要求核对一个实现步骤。资料数量只有在增加了这些约束时才构成证据收益。
证据对应还可以通过反向检查强化。先从报告中的关键句出发,要求指出直接支持它的材料,再从材料出发判断句子是否扩大了范围。若文献只支持“在特定装置中观察到相关变化”,报告就不应写成“该机制普遍导致偏移”。这类检查适合由另一位研究者或独立程序协助,但仍需保留人工抽查。其价值不是让每句话都附带繁重证明,而是优先保护支撑主要结论的少数关键连接。
34.3 推导 检验与解释的分工
推导回答在给定前提下能得出什么,检验回答现实材料是否与某项预测相符,解释则试图说明为什么出现这样的结果。这三种工作互相支持,却不能相互替代。一个推导完全正确的模型可能建立在错误前提上,一个预测准确的模型可能尚未揭示机制,一个合理机制也可能在当前数据中无法辨识。人机系统需要在报告中保留这些差别。
AlphaFold的研究通过外部评估展示了深度学习在特定蛋白质结构预测任务中的重要能力。[69] 在本章的证据分工中,这一成果首先支持关于所评估预测任务的判断;结构预测又可以成为进一步选择研究对象、提出功能问题的条件。后续问题需要相应证据,动态变化与功能解释不会随预测评价一并完成。这里的推进具有累积性:已经成立的预测能力改变下一项研究可以怎样开始,新的机制工作则继续承担自己的证明责任。
在传感器例子中,一个模型可以准确校正低温读数,却未必说明偏移来自封装、参考装置还是算法。若目的只是某一固定环境下的临时校准,这种预测能力可能已经有用;若希望迁移到新材料和新设备,机制理解就更重要。系统应根据用途说明当前方法的充分性,而不是自动把预测成功升级为因果解释,或因缺少完整机制而否定一切实用价值。
计算验证在其中可以承担明确任务。单位检查、极限情形、数值稳定性和独立测试,能够发现推导与实现之间的错误。但通过这些检查不等于现实模型正确。一个程序可以忠实执行不合适的统计假设。研究流程应分别检查代码是否实现预期方法、方法是否适合数据结构、数据是否对应研究问题。多层检验避免把某一层的成功当作全局保证。
解释比较还需要强竞争者。若只让新机制与一个明显过简的基线相比,胜出并不令人信服。应选择领域中已有的合理解释,明确它们能够处理哪些事实,再指出新解释增加了什么。对SDE研究同样如此:不能因为传统单变量模型表现较差,就断言任何发生模型都更优;需要比较条件化模型、反馈模型和其他成熟方法,辨认真正的增量。
有时最有价值的结论正是目前不能区分解释。若不同机制对已有数据给出相近预测,继续增加相同条件下的样本可能帮助精确估计,却未必改善机制辨识。此时需要改变观察或干预结构,而非只扩大数据量。人机协作的价值可以体现在发现这一点,并把研究从重复拟合引向新的可区分设计。
假设传感器数据同时随温度和测量日期变化,模型可能很容易拟合偏移,却难以区分温度效应与设备老化。若所有低温测量都发生在后期,增加相同安排下的样本仍不能解决这一混杂。下一步应考虑交错安排条件、使用独立参考或引入能够区分两种解释的观察。这里没有预先规定某一种实验必然成功,而是说明判断如何从拟合结果返回数据生成结构。新设计的价值在于改变可辨识性,不仅在于提高拟合精度。
34.4 判断在何处需要暂停
人机系统越能连续执行,越需要知道何时暂停。暂停不应只是遇到技术错误时的中断,也可以是认识上的决定:来源互相冲突、目标含糊、证据不足以支持高后果行动,或下一步超出权限。能够显露这些情况,是研究能力的一部分。无论速度多快,若系统不能识别自己何时缺少决定所需条件,连续行动反而可能扩大错误。
在假设的传感器研究中,AI发现两份校准记录使用不同参考标准,但没有资料说明转换关系。继续合并数据可以得到更完整的图形,却可能制造虚假趋势。合理做法是暂停合并,保留两套结果并提出具体缺口。这里的暂停具有行动内容:联系记录负责人、核对设备版本或设计桥接测量。它不是泛泛表达不确定,而是阻止无根据的步骤继续传播。
暂停也可以针对目标。若团队要求系统同时最小化测试成本、最大化精度并保证所有批次可比,而现有资源无法兼顾,系统应将冲突交给有权选择的人。替团队默默牺牲其中一项,会使最终结果看似满足任务,实际却改变了承诺。清晰暴露取舍能够提高协作质量,也使后来评估知道某项限制来自有理由的决定,而非无意遗漏。
检查点还应区分暂停范围。两套参考标准无法换算时,应暂停跨标准合并及依赖合并的机制推断;各自标准内已经完成的质量检查和文档核对仍可继续。若所有工作一并停止,必要审查就会显得过于昂贵;若只标记一条警告而继续生成汇总,又会让不确定性被后续计算掩盖。系统需要列出当前缺口影响哪些主张和行动,再把需要新判断的部分交给有权复核的人。暂停范围随依赖关系确定,使认识上的克制具有可执行边界。
然而,过多暂停也会使人机系统失去实际价值。系统若对每个小问题都要求负责人决定,就把认知负担全部转移给人。应当区分可以依据既定规则解决的局部问题,与需要新的价值或研究判断的问题。经过验证的默认处理可以减少无效中断,但默认值必须可见,并允许在条件变化时被撤回。可靠自主性来自明确边界,而非无限授权。
暂停后的恢复同样重要。新增信息到来时,系统应知道从哪个节点继续,哪些下游结果需要重算,哪些判断仍然有效。若每次暂停都意味着重新开始,团队会倾向绕过必要检查。历史记录、依赖关系与任务版本能够降低恢复成本,使审慎与效率不必互相对立。一个能够有理由暂停并可靠恢复的系统,比从不停止的系统更适合持续研究。
34.5 共同判断中的分歧与权威
人机协作并不保证共识,也不应把共识作为唯一目标。研究者可能认为某个异常来自仪器故障,模型却从资料中找到另一种机制;模型可能依据一般规律提出建议,实验人员则知道当前装置存在未记录限制。分歧的价值取决于它能否转化为可检查的理由。若只是人以身份压过机器,或机器以大量引文压过人,争论都没有触及证据。
应区分经验权威与决定权限。经验丰富的人员可能更了解装置,但仍需在关键主张上提供可理解依据;项目负责人有权分配资源,却不能凭权限使一个事实命题变真。模型在特定检索或计算上表现优异,也不因此取得所有领域的判断权。不同能力与角色可以被尊重,同时保留对具体结论的检验。
分歧应先拆到能够判定的主张。在传感器案例中,实验人员可能同意校正后的误差已经满足当前测量用途,却反对将它解释为封装机制得到确认;模型生成的报告则可能把两项结论连写。双方在校准有效性上没有冲突,争议集中在机制支持范围。把主张拆开后,可以保存可用结果并安排后续辨识。若争议转为是否立即部署,则还需列出使用者能接受的误差与维护成本。新增数据能够改变事实判断,部署门槛仍需要明确的用途理由。
分工可以围绕证据链上的不同薄弱处安排。一项检查核对设备文档及其版本,另一项重新计算校正后的误差,还有一项专门检查报告是否从预测效果越级推到因果机制。每项检查应取得对应材料,并留下能够重做的结果。若三次检查都只阅读同一份生成摘要,它们就共享摘要遗漏的风险。实质独立性来自核查入口和验证操作的差异;讨论者人数增加,只有伴随这些差异时才扩大证据覆盖。
人也会受到机器表达的影响。结构清楚、语气肯定的答案可能让人过早接受结论;反复强调不确定的答案则可能使有根据的结果失去应有权重。系统应通过证据状态、条件说明和可核查材料支持判断,而不依赖表达姿态。研究者也需要学习如何质疑模型:要求它说明反例、适用范围和关键依赖,比简单要求“再想一遍”更接近科学检查。
共同判断的成熟不是消除分歧,而是使分歧能够产生下一步工作。有时需要补充实验,有时需要限制结论,有时需要承认价值上无法统一而保留不同方案。只要理由清楚,暂时分歧可以成为研究资源。相反,一个通过压低异议获得的统一答案,即使短期方便,也可能使真正重要的条件继续不可见。
为了避免分歧讨论被最先出现的解释固定,团队可以先让成员分别形成简短判断,再共同查看理由和材料。这是一项可研究的组织建议,尚不构成其有效性的经验结论。独立阶段帮助保留不同观察,共同阶段则负责比较与修订。若模型先给出完整故事,人类再逐项评价,可能很难发现故事之外的问题;若所有人永远独立,又会失去相互启发。分阶段安排试图让独立性与互动各自在适当时机发挥作用。
34.6 知识贡献与作者责任
人机系统产生结果之后,需要说明各方贡献。贡献可以包括提出问题、整理材料、设计分析、实施实验、核对来源和解释结果。它们不应被简单压缩为谁写出了最多文字。生成式系统尤其容易让文本生产与知识责任混淆:一段由机器组织的文字可能表达人的完整研究,也可能夹带未经核实的主张。责任判断需要回到具体工作,而不是依赖最终句子的来源。
对于正式研究,人类作者应能够说明并承担所发表主张的依据。使用工具不意味着必须亲自完成每一步运算,但必须知道哪些步骤经过何种检查,以及在被质疑时如何重新核验。无法解释关键来源、无法重建主要分析、无法辨认模型添加的内容,都会削弱成果的可负责性。技术协助可以扩展研究能力,却不能成为责任消失的接口。
同时,承认人的责任不应抹去技术和基础设施的贡献。模型、软件、数据集、设备和维护工作都可以在适当位置得到说明,使读者理解成果如何形成。这里的透明不是礼节性致谢,而是方法的一部分:不同版本和配置可能影响结果,读者需要知道复现所需条件。对工具的描述应具体到与结论相关的层次,避免只写“使用AI辅助”而没有可检查信息。
研究劳动的重新分配也值得关注。AI可能减少初稿和代码编写时间,却增加核查、整合和维护负担。如果这些新增劳动被低估,团队可能把看似节省的时间转化为更高产出要求,最终削弱验证。评价人机科研效率时,应包括从问题提出到可靠交付的完整成本,而不是只计生成答案的几分钟。知识质量依赖的工作不能因为不显眼而被排除。
长期合作还要求关键判断能够交接。假设最熟悉校准流程的成员离开,接手者应能从报告找到采用的参考标准、排除某项解释的理由和仍未验证的使用范围。若只有原作者能够说明,成果的可用性便依赖一个未被记录的判断条件。可以要求不同成员独立重建一项代表性结论,发现交接中缺少的材料;这是一项待检验的组织建议。其目的在于让工具减少的操作劳动转化为可共享的判断能力,而非把核查集中到少数无法替代的人身上。
因此,知识贡献的记录应既承认协作,又维持可追问的责任。它不必为每个字计算归属,而应说明谁对哪些关键判断负责,工具在哪些环节发挥作用,哪些结果经过独立验证。这样的结构使成果能够被他人信任、质疑和继续使用,也避免把共同产生的知识误写成某一个孤立主体的奇迹。
责任还涉及对意外贡献的处理。系统可能在整理资料时发现原研究目标之外的问题,成员可能在核查过程中提出更重要的解释。这些贡献应能够进入记录,而不因最初任务分工而被忽略。相反,自动生成的大量文本不应仅凭数量获得与关键判断相同的地位。清楚区分劳动量、原创贡献和结果责任,有助于团队形成公平的合作,也使工具的使用不至于遮蔽真正决定研究方向的工作。
34.7 知识如何在使用中继续发生
研究结论被发表后,会进入新的情境。传感器校准方法可能被另一实验室采用,材料分类可能被工程团队用于选择设备,教育评价模型可能被学校用于分配资源。每次使用都可能改变原结论的条件。知识的稳定性因此不仅来自最初检验,也来自对迁移边界的持续说明。一个结果可以在原情境中可靠,同时在新用途下需要重新验证。
迁移首先需要识别哪些条件与机制相关。若校准方法依赖某种参考标准,新实验室就必须检查其标准是否可比;若模型只在有限温度范围中得到验证,就不能默认为范围外同样有效。系统应把这些条件作为成果的一部分保存,而不把它们埋在难以发现的附注中。使用者需要能够快速知道哪些变化值得警惕。
使用中的新结果也可能回写原知识。若多个实验室报告相同偏差,原来的模型可能需要扩展;若只有一个场所失败,则应检查局部条件与执行差异。不能自动把失败归给使用者,也不能仅凭一次失败否定全部原结果。知识维护需要保留问题报告的证据结构,使不同来源的经验能够被比较,而不是在支持与反对的立场之间选择。
人机系统可以帮助追踪这种回写,例如将新报告连接到相关假设,提示哪些结论需要复核,或者整理不同版本的适用范围。但它不能仅凭文本相似度决定某项研究已被推翻。需要核对对象、方法与证据强度,必要时交由专业共同体判断。自动化适合降低发现关联的成本,最终解释仍须承担具体证明责任。
使用反馈也应回到分层主张。新实验室发现校正失效,可能削弱跨设备适用性,却未必否定原装置内的检验;新的机制证据出现,也可能提高原因解释的地位而不改变现行校正程序。系统应据此保留仍受支持的部分,限制或重开受影响的部分。经过多种条件验证后,某项关系的适用范围可以逐渐扩大,形成更稳固的知识。稳定来自支持范围与实际条件的持续对应,修订则作用于其中已经发生变化的连接。
这也使研究成果具有一种可维护的形式:核心结论、证据依据、适用条件、已知限制和更新入口彼此连接。人机协作若能帮助建立这种形式,其贡献就超出加快写作。它参与了知识在时间中的延续,使过去的结果能够接受未来的修订,同时不必每次从头重建整个研究历史。
知识使用的反馈还可能暴露目的变化。原本为实验室测量开发的方法,一旦用于商业质量判定,错误代价和证据门槛都会改变。即使技术条件相同,原来的验证也未必足以支持新的决定。系统需要把用途变化识别为重新评估的触发,而非只检查输入数据是否相似。测量可靠性、决定公平性与实际后果分别提出要求;承认它们相互关联,不意味着可以用一个预测指标替代全部判断。
34.8 判断如何转化为可比较的研究能力
人机科研中的判断不能只通过最终答案正确率来衡量。系统可能偶然给出正确结果,却缺少可靠理由;也可能在证据不足时正确拒绝作出结论,而被单一得分视为失败。需要分别观察候选生成、证据对应、机制辨识、行动选择和错误修复等能力。它们共同构成研究过程,但对不同任务的重要性并不相同。
评价应特别关注从不确定到确定的转换是否有根据。系统何时提高信心,是否对应新增证据;何时关闭假说,是否说明反证或资源理由;何时改变目标,是否得到授权;何时发布结论,是否与证明范围相称。这些问题可以通过事件记录与独立评阅检验,比要求系统自述“我进行了严谨思考”更有证据价值。
判断质量可以通过结论在材料变化前后的转移来考察。当前只有相关数据时,系统应保留机制候选;补入可区分证据后,应相应提高或降低特定解释的地位;关键来源被更正后,应重审依赖该来源的主张。评价者即使不同意最后的选择,也可以核对这些变化是否有依据。对于材料本来不足的任务,保持未决是一种准确状态;对于材料已经充分的任务,无限推迟则成为需要解释的失败。具体的盲评和终点评分留待第35章安排。
研究能力还包括成本与可恢复性。一个系统若需要大量人工筛选才能产生可靠成果,其有效性应连同筛选劳动报告;一个系统若能快速生成结果却无法追溯错误,长期价值可能有限。相反,能够留下清楚依赖关系、在发现问题后局部修复的系统,可能在长期合作中更有优势。这些差异需要持续任务和故障情境才能显露。
由此,人机科研的判断可以被理解为对主张、证据和行动之间关系的维护。它既需要生成力,也需要限制力;既需要推进任务,也需要在条件不足时暂停;既需要稳定成果,也需要保留修订入口。这些能力不属于某一种语言风格,也不能由一个通用智能标签充分说明。它们要在具体任务、架构与制度中接受比较。
本章得到的判断单位,是能够分别接受、限制和重开的主张,而不是整份回答的笼统正确性。它要求来源有对应、预测与机制有分工、暂停有范围、使用反馈能进入恰当层次。这些要求现在可以转为对系统的具体检验:在相同材料下,组织方式是否减少无依据升级,是否更准确定位受损结论,是否在条件满足时恢复有效行动。第35章据此提出尚待实施的对照设计,测量其收益以及核查、维护和等待的成本。