SDE Universes·新思想前沿工程学科主干
新思想前沿 · 工程学科主干

系统工程与管理科学

近二十年 · 两幕 · 20 个新思想 · 约 22,694 字 · 王德生 亲撰 · 2026 年 8 月

二十年前,大型系统仍主要依靠需求文档、分解架构、阶段评审和项目内部估算维持秩序;只要子系统逐项合规,整体能力便被假定会在集成时出现。近二十年的变化,是系统边界、构型、任务、论证和组织调整本身成为工程对象。第一幕建立基于模型的系统工程、系统之系统治理、多纪元权衡、STAMP、论证型安全案例、韧性四能力、Safety-II与参照类预测;第二幕则把数字线程、构型一致孪生、任务工程、敏捷双节拍、开放系统演化权、可执行需求、持续保证、运行时保证、AI证据拼图、韧性轨迹、厚尾风险与涌现验证纳入同一生命周期。这里写的不是“多画模型、多做协同”,而是二十个关于谁拥有权威数据、什么证据支持何种主张、系统变化后保证何时失效的可证伪命题。

【第一幕】上一个十年 · 约 2006–2016

这一幕的共同动作,是把文档、线性事故链和单一任务基线改写为可追踪模型、控制结构、显式论证与跨未来适应性。

甲、基于模型的系统工程

提出INCOSE,2007年,Model Based Systems Engineering Initiative, established 2007; MBSE definition and mission 争议Friedenthal S, Griego R, Sampson M,2007年,INCOSE International Symposium (2007) 最新INCOSE,2007年,Model Based Systems Engineering Initiative, established 2007; MBSE definition and mission 关键用形式化系统模型承载需求—行为—结构—证据的关系,模型即工程决策依据。

文档型系统工程把需求、功能、接口、分析和验证分散在不同文件中,每个团队拥有自己的“最新版”。评审时靠人工比对表格发现不一致,变更一处后也很难知道哪些模型与测试已经失效。问题不是图画得不够多,而是系统知识是否有一个可计算、可追踪的共同骨架。

MBSE的命题是:用形式化系统模型支持需求、设计、分析、验证和确认,使需求—行为—结构—证据之间的关系可查询、可传播。模型不是文档的插图,而是工程决策的主载体;它若成立,应显著减少晚期接口冲突和变更遗漏,而不仅增加建模工时。

INCOSE于2007年建立MBSE倡议,并把它定义为从概念设计延续到全生命周期的形式化建模应用;SysML随后在航天、汽车、轨道和复杂装备中扩展。项目实践显示,可执行行为模型和跨学科链接能提前暴露需求矛盾,但模型规模、工具互操作、版本合并和组织角色往往比语法学习更难。可操作的验证是抽取一项真实变更,计时它从需求传播到学科模型、试验与构型基线的全过程,并与原文档流程比较漏改率。

争议在于“模型为中心”可能退化为另一套文档生产。若模型只在系统团队内部更新,学科工程师仍在CAD、仿真和代码中做真实决策,追踪关系会迅速过期。应以变更传播时间、接口缺陷和证据复用衡量价值。若项目增加大量图形却不能减少错误或决策周期,MBSE只是文档负担的数字化。

基于模型的系统工程改变的不是画图工具,而是评审的对象:过去评审的是一摞文档,现在评审的是模型能否回答问题——某条需求由哪些设计满足、改一处接口会牵动哪些验证。这一转变把「文档齐不齐」换成了「关系通不通」,也把大量原本靠人记忆维持的一致性交给了工具。它的落地成本集中在人身上:建模语言的学习曲线陡,且模型必须有人持续维护,一旦维护中断,模型会比文档更快地失去可信度,因为没有人知道它是哪一天开始不准的。另一处是采购口径:合同若仍按交付文档页数验收,建模投入就无法被计价,模型很快退化成给评审看的一次性产物。

与「一、数字线程的权威数据源」是相邻的两层:甲管一个项目内部的关系可查询,一管跨阶段跨组织的记录谁说了算。与「六、可执行需求」则是同一方向的深化——把关系形式化之后,进一步把行为约束也形式化。一处反向证据是模型与实物的脱节:许多项目的系统模型停在概念设计阶段,制造与运维阶段的变更从未回写,于是模型描述的是一个从未被建造出来的系统。因此这条命题的检验量应是可追溯的关键需求比例与变更传播时延,而不是模型的规模。更稳的检验是随机抽取若干条需求,看能否在模型里一路追到验证证据。

预设工程决策所依据的关系可以被表示成可查询的形式模型 量纲模型可追溯需求/全部关键需求,以及变更传播时延/变更周期 失效当部署输入落在校准支持集之外,且残差与置信度不能同步暴露外推时不成立 异名软件工程称「单一事实来源」,档案学称「关系型著录」;另见第194号面板

乙、系统之系统的涌现治理

提出U.S,2008年,Systems Engineering Guide for Systems of Systems, Version 1.0 (2008) 争议U.S,2008年,Systems Engineering Guide for Systems of Systems, Version 1.0 (2008) 最新U.S,2008年,Systems Engineering Guide for Systems of Systems, Version 1.0 (2008) 关键运行与管理独立的系统组合会产生单体需求推不出的能力与风险。

传统总体设计假定存在一个权威所有者,所有子系统接受统一需求、时间表和构型控制。交通、应急、能源和城市基础设施却由独立组织拥有,各自有目标、预算和升级周期;组合能力可能在没有总设计者的情况下出现,也会在成员退出或更新时消失。

系统之系统理论主张,具有运行独立和管理独立的系统组合会产生不能从单体需求直接推导的能力与风险。治理对象应包括接口规则、数据共享、激励、演化路径与退出条件;顶层需求不能命令所有参与者,只能设计协调机制和最低互操作约束。

2008年前后的系统之系统工程指南和后续民用交通、灾害响应、智慧城市研究把独立演化、地理分布与涌现作为核心特征。案例反复显示,单个系统均合规时,跨组织时序、数据语义或资源竞争仍可造成任务失败;反过来,临时组合也可能提供原设计未预见的能力。同一任务应在成员临时退出、接口版本错配和资源竞争三类扰动下重跑;若治理规则不能限制性能崩落,名义互操作仍不等于可治理。

边界是“涌现”容易成为无法预测的借口。若系统边界任意扩张,任何失败都可事后归因于环境或治理。应明确参与者、关系和任务时间窗,并用接口扰动、成员退出和版本不一致进行测试。若更换一个成员后整体行为完全不可解释,系统之系统治理还没有形成可操作模型。

系统之系统的关键难点不在技术接口,而在没有人拥有整体:每个成员系统有自己的预算、路线图与退出自由,因此传统的需求分解与验收在这里失效。可用的治理手段变成接口规则、数据共享条款、激励设计与退出条件——这四样都是契约而不是设计。这解释了为什么智慧城市、灾害响应与跨机构信息系统的失败往往不在任何一个子系统上,而在没有人负责的那些接缝处,而接缝恰恰是最没有预算的地方。另一处是时间尺度:成员系统的升级周期彼此不同,组合的整体能力因此始终处在部分陈旧的状态,规划必须按滚动方式做。

与「五、模块化开放系统的演化权」共享同一个治理内核:边界与规则比部件更决定长期价值。与「十二、涌现行为的验证边界」则是问题与验证的关系。一处反向证据是版本错配:成员系统各自升级,接口格式仍然合规而语义已经改变,这类失效不会在任何一方的测试中出现。因此这条命题的检验量应是涌现失效情景与全部跨系统情景之比,并须报出协调成本随参与系统数的增长方式。跨系统测试应把成员的加入与退出当作常规情景,而不是异常情景。

预设成员系统会持续留在这个组合里并遵守接口约定 量纲涌现失效情景/全部跨系统情景,以及协调成本/参与系统数 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名经济学称「平台治理」,生态学称「群落装配」;另见第154号面板

丙、动态多纪元权衡空间

提出Ross AM, Rhodes DH,2008年,INCOSE Symposium (2008) 争议Ross AM, Rhodes DH,2008年,INCOSE Symposium (2008) 最新Ross AM, Rhodes DH,2008年,INCOSE Symposium (2008) 关键好设计应跨多个纪元保持价值,评价对象是价值随情境序列的稳健性。

概念设计常在一个固定任务场景、预算和价值函数下寻找Pareto前沿,但大型系统服役几十年,政策、需求、技术和环境会改变。一个在初始场景最优、却难以升级或退出的方案,可能长期价值很差。问题由“哪个设计最好”转成“哪个设计能穿过多个未来”。

多纪元分析把一组稳定情境称为epoch,把情境序列称为era,比较设计在不同epoch中的效用、切换成本和路径依赖。命题是:好设计应具有跨未来价值保持、低适应成本或可逆选项,而不是只在一个预测点上最优;价值保持率和变更路径因此进入架构选择。

Ross、Rhodes等在2008年前后发展Epoch-Era Analysis,并用于航天和复杂系统概念设计。研究通过改变任务需求、技术可用性和利益相关者偏好,显示某些非名义最优架构在多数未来中更稳健;可更换模块、备用接口或分阶段承诺的价值也可被量化。一个直接读数是方案在全部纪元中的效用分布、切换次数和不可逆损失;只给平均效用会掩盖少数未来中的灾难性锁定。

争议在于未来集合由分析者选择,遗漏真正转折会制造虚假的稳健。纪元越多,权重与路径组合也会爆炸。应公开情境生成逻辑、采用压力测试和极端反例,而非只用温和变体。若“稳健设计”只在研究者预设的相似未来中胜出,跨纪元性只是情境选择的回声。

多纪元分析把「这个设计好不好」改成了「这个设计在多少种未来里仍然够用,以及换架构要花多少」。它给采购与预算讨论提供了一个此前缺失的量——路径依赖的代价。实际用途最集中的是长寿命资产:航天器、舰船、电网与大型基础设施,它们的服役期跨越数次技术与政策更替,按单一情境优化的设计几乎必然在中途失去价值。这条方法的门槛是情境集必须由领域专家给出,而情境集的选择本身就带着强烈的先见。另一处是与预算流程的冲突:多纪元分析给出的是一族方案与代价,而预算程序通常只接受一个方案,两者之间需要一层翻译。

与「十一、大型项目的厚尾风险」相互补足:丙处理价值随情境变化的问题,十一处理成本分布的尾部,两者合起来才是长周期决策的完整图景。一处反向证据是纪元划分的任意性:把连续变化的世界切成若干稳定时段,切法不同会得到不同的稳健性排序,而切法通常没有独立依据。因此这条命题的检验量应是保持价值的纪元数占全部纪元之比,并须公开情境集的构造过程。检验时还应报出换架构成本在生命周期成本中的占比,而不是只报效用曲线。

预设未来的情境可以被枚举成有限个稳定时段 量纲保持价值的纪元数/全部未来纪元,以及换架构成本/生命周期 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名战略管理称「情景规划」,金融称「多期限压力测试」;另见第147号面板

丁、STAMP 系统事故模型

提出Leveson NG,2011年,MIT Press (2011/2012) 争议Leveson NG,2011年,MIT Press (2011/2012) 最新Leveson NG,2011年,MIT Press (2011/2012) 关键安全是控制结构施加约束的结果,组件可靠不足以保证系统安全。

故障树和事件树擅长描述部件失效沿链条传播,却难以解释软件密集系统中“所有部件按规格工作、组合仍不安全”的事故。组织决策、反馈延迟和控制算法错误不一定表现为随机部件故障。问题是事故是否应主要被视为可靠性问题,还是约束控制问题。

STAMP把安全视为系统涌现属性,事故源于控制结构未能施加必要安全约束;STPA则识别不安全控制动作、反馈缺失和过程模型错误。其命题是:组件可靠并不足够,控制关系可以在无故障时制造危险,安全分析应覆盖技术、人和组织层级。

Leveson在2011年《Engineering a Safer World》中系统化STAMP/STPA,随后方法进入航空、医疗、汽车、轨道和软件密集系统。分析常能发现传统FMEA未覆盖的错误时序、过早/过晚动作和组织反馈问题,并可在架构早期使用,而不必等具体失效率齐备。可让独立团队分别用STPA与FMEA分析同一控制回路,再以历史事件和故障注入核对新增危险是否真实,而非语言差异。

争议是STPA结果依赖分析边界、控制结构和团队经验,若约束写得过宽,会产生大量难以排序的危险动作。它也不能自动给出概率。应与运行数据、传统可靠性分析和独立团队比较覆盖。若不同团队对同一系统得到完全不同的关键约束,系统性语言还未转成稳定分析能力。

STAMP 带来的最实际的变化,是把安全分析的对象从「哪个零件会坏」扩展到「谁在什么时候没有得到什么反馈」。软件、组织决策与人机交互这三类在传统失效模式分析里几乎无处安放的因素,在控制结构里有了明确位置。它的代价是分析结果高度依赖控制结构图画得对不对——图里漏掉一个实际存在的控制回路,分析就整体失效,而这一步没有机械化的方法可依。因此它对分析者的领域理解要求远高于填表式方法。另一处是组织层的可及性:控制结构图必然涉及管理与监管层的决策,若分析只画到设备层,方法的主要优势就被放弃了。

与「戊、论证型安全案例」是分析与举证的一对:丁找出必须被约束的行为,戊说明为什么现有证据足以相信这些约束成立。与「庚、Safety-II」则在假设上相反——丁看约束缺失,庚看正常变异。一处反向证据是概率缺席:STPA 识别因果路径但不给出发生概率,在需要按风险排序分配资源时无法单独使用。因此检验量应是它识别出的因果路径占事故路径总数之比,并须与传统方法并用而非替代。分析结论应与实际事故的复盘做一次对照,看它是否能提前指出被漏掉的那条路径。

预设事故来自控制结构的缺陷而不只是部件的故障 量纲被系统理论事故模型识别因果路径/事故路径总数,以及控制缺陷/部件故障 失效当部署输入落在校准支持集之外,且残差与置信度不能同步暴露外推时不成立 异名公共卫生称「上游决定因素」,控制论称「反馈回路失效」;另见第205号面板

戊、论证型安全案例

提出Kelly T, Weaver R,2004年,Proceedings of the Dependable Systems and Networks Workshop (2004); broad uptake occurred after 2006 争议Kelly T, Weaver R,2004年,Proceedings of the Dependable Systems and Networks Workshop (2004); broad uptake occurred after 2006 最新Kelly T, Weaver R,2004年,Proceedings of the Dependable Systems and Networks Workshop (2004); broad uptake occurred after 2006 关键把主张、策略、子主张、证据、背景与假设显式连接,使推理可被审查。

传统认证常提交大量测试、合规矩阵和报告,却没有显式说明每份证据支持哪一个安全主张,也不说明共同假设。资料越多,审查者越难看见空白;“通过所有要求”还可能与“在预定环境中足够安全”并不等价。

安全案例的命题是:应把顶层主张、论证策略、子主张、证据、背景与假设显式连接,使审查者能够追踪为什么这些证据足以支持这个结论。Goal Structuring Notation等只是表示法,核心是可质疑的论证结构,而非漂亮图。

2006—2016年,GSN和assurance case在英国航空、核能、医疗器械、汽车与软件安全标准中扩展。实践显示,案例能暴露“测试很多却未覆盖某失效”的断点,也支持复用和增量认证;但证据常来自同一模型或同一团队,形式上多条分支可能共享一个脆弱假设。更强的检验是删除一项关键证据或改变一个背景假设,观察顶层主张能否自动标记失效;若论证仍保持绿色,结构便没有真正约束结论。

边界是安全案例本身不会把弱证据变强。论证图越大越难维护,模板复用还会掩盖场景差异。应标注证据独立性、有效期和反驳,并由对抗审查寻找最弱连接。若案例无法回答“哪项变更会使哪条主张失效”,它只是合规材料的可视化目录。

安全案例的价值在于它把审查的对象从「证据够不够多」改成了「推理成不成立」。这对新技术尤其重要——没有先例可循的系统无法靠符合既有条款来证明安全,只能靠论证。它同时暴露了一个长期被掩盖的问题:确认偏差。案例由开发方撰写,天然朝着「安全」这个结论组织证据,因此独立审查与反论证(有意去找推翻主张的证据)必须被写进流程,否则结构化只是把偏见画得更整齐。另一处是可读性:论证图一旦超过数百个节点,人已经无法通读,必须借助工具做覆盖与缺口检查,图本身反而成为新的复杂度来源。

与「七、持续保证案例」是静态与动态的一对:戊解决怎么论证,七解决论证如何随变更保持有效。与「九、AI 系统保证的证据拼图」则是同一形式在新对象上的应用。一处反向证据是假设的隐性失效:案例中的背景假设(运行环境、使用方式)在系统投入使用后常悄然改变,而论证结构本身不会报警。因此这条命题的检验量应是有证据支持的关键主张比例,并须单独统计未闭合的证据缺口。假设应被单独列出并定期复核,而不是埋在论证节点的注释里。审查方还应有权要求提交一份反向论证,即有意寻找推翻主张的证据。

预设为什么这些证据足够,这件事本身可以被显式论证 量纲证据支持的安全主张/全部关键主张,以及未闭合证据缺口/主张数 失效当共因失效或尾部情景主导结果,而现有模型不能排序其风险贡献时不成立 异名法学称「论证结构与举证责任」,哲学称「论证图」;另见第083号面板

己、韧性工程的四能力

提出Hollnagel E, Woods DD, Leveson N, eds,2006年,Ashgate (2006) 争议Woods DD,2015年,Reliability Engineering & System Safety 141, 5–9 (2015) 最新Woods DD,2015年,Reliability Engineering & System Safety 141, 5–9 (2015) 关键韧性是响应、监测、学习与预见四类能力,不是冗余设备的数量。

传统安全管理从事故和偏差出发,目标是减少失败;正常运行中人员怎样在资源不足、天气变化和目标冲突下维持服务,往往不进入分析。可是复杂系统大多数时间靠调整而成功,同一种调整也可能在另一组合下导致失败。问题是能否研究“为什么通常做成了”。

韧性工程提出响应、监测、学习和预见四类能力:系统需要对事件行动、知道看什么、从经验更新并准备可能变化。命题是:韧性不是设备冗余数量,而是在变化条件下维持和重组功能的能力集合;过去事故率低不证明未来具有这些能力。

2006年后Hollnagel、Woods等的韧性工程文献在航空、医疗、能源和应急管理中发展。案例研究用工作观察、事件回顾和前瞻情景识别监测盲区、资源权衡与适应行为;四能力框架帮助把“组织文化”拆成可讨论活动,而非只统计故障。四种能力应在演练前形成预注册评分,再用冲击中的最低功能、恢复时间和信息缺口核对;事后访谈不能代替预测。

争议在于四能力缺少统一量表,访谈得到的“我们会学习”不等于冲击时表现。组织还可能以韧性为名把资源不足转嫁给一线适应。应通过演练和真实冲击测响应时间、信息覆盖与功能轨迹。若能力评分不能预测后续表现,韧性语言仍停留在自我描述。

把韧性拆成四类能力,最实用的后果是它给出了可投资的对象:监测能力对应「我们知道该看什么」的指标体系,学习能力对应事件回顾与经验回写的机制,预见能力对应对慢变量的关注。这些都不是买设备能解决的,因此这条框架把预算讨论从采购转向了组织建设。它的弱点在于四类能力难以量化,评估往往依赖访谈与案例,结论的可比性差,这也是它在工程组织中推广时最常遭遇的质疑。另一处是与考核的冲突:预见与学习的产出在短期内看不见,任何以当期事故率考核的组织都会系统性地低投这两项能力。

与「十、韧性的性能轨迹」是定性与定量的一对:己说明韧性由什么构成,十给出可以画出来的曲线。与「庚、Safety-II」共享同一个知识来源——现场的实际做法。一处反向证据是取舍:四类能力的投入相互竞争,过度强化监测会挤占学习与预见的注意力资源,而这类内部竞争在框架中没有被处理。因此检验量应是成功预见、响应、监测与学习的次数占全部扰动之比,并配合恢复时间与目标时间的比值。评估应尽量使用可核对的事件记录,而不是只靠回顾性访谈。

预设应对未曾预料之事的能力可以被识别与培养 量纲成功预见、响应、监测与学习次数/全部扰动,以及恢复时间/目标时间 失效当共因失效或尾部情景主导结果,而现有模型不能排序其风险贡献时不成立 异名生态学称「适应性循环」,军事称「态势感知」;另见第208号面板

庚、Safety-II 的正常工作变异

提出Hollnagel E,2014年,Ashgate (2014) 争议Hollnagel E,2014年,Ashgate (2014) 最新Hollnagel E,2014年,Ashgate (2014) 关键安全是尽可能多的事情按预期进行,绩效变异本身是适应能力。

Safety-I把安全定义为尽可能少出事,偏离规程被视为需消除的误差。然而规程无法覆盖所有实时条件,人员通过调整顺序、速度和资源让工作完成。只研究失败案例会看不到这些调整为何通常有效,也可能把成功所必需的灵活性错误压平。

Safety-II主张,安全是“尽可能多的事情按预期进行”,应研究work-as-done与work-as-imagined之间的差异。绩效变异本身不是好或坏;同一节省时间的调整在多数日子维持服务,在某种耦合条件下却会制造危险。管理对象是变异怎样被放大或吸收。

Hollnagel在2014年系统阐述Safety-II,医疗、空管与维护研究通过现场观察和功能共振分析呈现正常工作的调整网络。研究发现,事故调查中被称为“违规”的做法有时正是日常产能得以维持的机制;改进因而应改变资源和协调,而不只是再写一条规程。现场研究还应记录哪些调整被资源约束迫使、哪些由专业判断主动选择;两类变异的治理方式不同,不能都叫作灵活性。

批评者指出Safety-II若不连接具体干预和结果,容易成为“听一线故事”的宽泛主张。正常工作观察成本高,也可能被社会期望偏差影响。需要比较基于Safety-II的干预与传统方法在事故、延迟和工作负荷上的增量。若无法预测哪种变异会跨过危险阈值,理解正常工作仍不足以指导控制。

Safety-II 对管理实践最直接的冲击,是它质疑了「违章即隐患」这一执法式的安全治理逻辑:若现场的偏离规程正是系统在资源不足下仍能运转的原因,那么单纯压制偏离会同时压掉适应能力。由此产生的做法是先去理解偏离的成因,再决定是改规程还是改条件。它的风险同样明显——这套语言容易被用来为真实的违规辩护,因此它必须与事故分析并用,而不是取代后者。另一处是数据来源:要研究实际做法,就必须在不追责的前提下收集现场信息,这要求安全报告与惩戒流程彻底分离。

与「丁、STAMP 系统事故模型」在方法论上互补而在关注点上相反:一个看约束缺失,一个看变异如何维持功能,成熟的组织两者都需要。一处反向证据是可测性:正常工作的变异极难被系统记录,多数结论依赖现场观察与访谈,样本小且难以复现。因此这条命题的检验量应是被解释的正常变异占全部运行偏差之比,并须与事故前兆的命中率一起报出,否则无法判断这套解释是否只是事后叙事。结论应能预先指出哪些偏离值得保留、哪些必须消除,否则只是事后描述。

预设正常工作中的变异是成功的来源而不只是风险 量纲被解释正常变异/全部运行偏差,以及事故前兆命中/前兆总数 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名组织行为学称「实际操作与规定操作之别」,人类学称「实践知识」;另见第142号面板

辛、参照类预测

提出Flyvbjerg B,2006年,Project Management Journal 37, 5–15 (2006) 争议Flyvbjerg B, Gardner D,2023年,Currency (2023) 最新Flyvbjerg B, Gardner D,2023年,Currency (2023) 关键先用相似项目的真实分布定位,再按有证据的差异有限调整。

大型项目估算常从工作分解结构向上累加,团队对本项目细节知道得越多,越相信它“与以往不同”。内部视角却会系统忽略未知未知、政治承诺和少数极端超支;更多细节可能只是让乐观数字更精致。问题是如何把历史实绩而非计划意图作为基线。

参照类预测主张,先选取相似项目的真实成本、工期和收益分布,以外部视角定位当前项目,再根据有证据的差异有限调整。其命题是:基准分布应在内部估算之前约束判断,特别要用选定置信水平的上调值而非平均数配置应急。

Flyvbjerg在2006年后推动参照类预测进入交通和大型项目治理,多类数据库反复显示成本超支、工期延误和需求高估具有系统性。英国等项目指南采用乐观偏差上调或参考类方法,实践表明外部基线能在早期揭示内部计划与历史分布的不一致。决定性比较是保留一批新项目不参与建库,用内部估算和参照类分位数分别预测其成本与工期,比较覆盖率而非平均误差。

边界是参照类可能过宽或过窄,历史技术与制度也会变化;数据只含完成项目还会忽略取消和重构。项目方可能选择最有利类别。应预先规定分类规则并公开全体分布。若改变合理参照类就使预算从可行变不可行,预测不确定性应被呈现,而不是由一个权威数字隐藏。

参照类预测的推行难点从来不是方法而是激励:项目发起方需要一个能获批的数字,而外部视角给出的往往是获批不了的数字。因此这条方法真正起作用的前提是把它写进审批规程,由出资方而非执行方来使用。它同时要求维护一个可信的历史项目数据库,而数据的收集与口径统一是一项长期公共投入——这解释了为什么它在少数有中央基础设施主管部门的国家推进得更快。另一处是数据的时效:历史项目的成本结构会随技术与合同方式变化,参照类必须定期更新,否则基准本身会过时。

与「十一、大型项目的厚尾风险」是同一条线的两段:辛给出分布定位的方法,十一指出这个分布的尾部比通常假设的更重。一处反向证据是参照类的选择:什么算「相似项目」本身可以被操纵,选一个超支较少的类别就能得到较宽松的基准,而这一步通常没有独立审查。因此这条命题的检验量应是实际超支与参照类预测超支之比,并须公开参照类的构成与筛选规则。调整幅度应有上限并须说明理由,否则外部视角会被逐条调回内部估算。

预设同类项目的历史分布比本项目的内部估算更可靠 量纲实际超支/参照类预测超支,以及内部预测偏差/实际成本 失效当部署输入落在校准支持集之外,且残差与置信度不能同步暴露外推时不成立 异名统计学称「基础比率」,行为经济学称「外部视角」;另见第072号面板
【第二幕】这十年 · 约 2016–2026

这一幕追问持续变化的构型、软件、参与者和任务条件下,系统保证如何更新、如何拒绝过期,而不沦为静态合规。

一、数字线程的权威数据源

提出NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 争议NASA,2021年,NASA/TM-20210014025 (2021) 最新National Aeronautics and Space Administration,2025年,NASA-HDBK-1009A: NASA Systems Modeling Handbook for Systems Engineering (2025) 关键为需求、模型、测试与实物建立持久标识与版本关系,明确谁对哪类记录负责。

CAD、需求、BOM、仿真、测试和维护系统常各自保存最新版,接口越多并不保证语义一致。一次设计变更可能在结构模型中已生效,却仍引用旧载荷、旧软件或旧测试。问题不是数据是否数字化,而是每个关键对象在某一时刻究竟哪一版本有权威。

数字线程主张,为需求、部件、接口、模型、测试和实物建立持久标识与版本关系,使下游决策能追溯到当时有效来源。权威数据源不等于单一数据库,而是明确谁对哪类属性负责、复制品如何同步、变更何时生效以及证据如何继承。

2016年后,航空航天、复杂制造和NASA数字工程实践推动authoritative source of truth与digital thread。项目发现,统一标识和关系图可缩短变更影响分析,并把试验结果回连设计;失败案例则显示,购买更多接口并不能解决单位、命名、访问权和责任冲突。可随机抽取一个测试结论,要求在限定时间内回溯到需求、构型、模型版本和原始数据;缺少任一环都说明线程没有闭合。

争议在于所谓权威可能集中成新的瓶颈,供应商也未必愿意交出模型和数据权利。若只同步文件而不保存语义和构型,线程仍会断裂。应抽查随机决策能否回溯完整来源并重现。若工程师仍靠会议确认哪个数值可用,数字线程只是连接器网络,而非信息治理。

数字线程的核心不是把所有数据塞进一个数据库,而是回答一个运行中的问题——此刻这份数据以谁的版本为准。这一条在跨企业协作中价值最大:主机厂与供应商各有系统,若不约定权威来源,同一个零件会有多个互相冲突的「当前版本」。它的实施代价主要在标识体系与变更流程的重构上,技术含量不高但触及权责划分,因此往往是组织问题而非工程问题。另一处是长期性:装备的服役期常超过任何一款工具软件的寿命,因此格式与标识的可迁移性比当下的工具功能更要紧。

与「甲、基于模型的系统工程」相邻但不同层,与「二、构型一致的系统数字孪生」则是前提关系——没有权威来源,孪生不知道自己对应哪一版实物。一处反向证据是同步时延:权威来源存在但更新不及时,下游仍会拿着过期数据决策,而这种失效在流程图上完全看不见。因此这条命题的检验量应是权威来源一致的记录占全部生命周期记录之比,并须报出同步时延与变更间隔的比值。抽查应从下游决策倒推来源,而不是从数据库正向清点记录数。

预设每一类记录都可以指定一个当时有效的权威来源 量纲权威数据源一致记录/全部生命周期记录,以及同步时延/变更间隔 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名分布式系统称「主副本与一致性」,会计称「账簿的法定副本」;另见第054号面板

二、构型一致的系统数字孪生

提出Madni AM, Madni CC, Lucero SD,2019年,Systems 7, 7 (2019) 争议Madni AM, Madni CC, Lucero SD,2019年,Systems 7, 7 (2019) 最新Madni AM, Madni CC, Lucero SD,2019年,Systems 7, 7 (2019) 关键孪生必须绑定序列号、软硬件版本、维修历史与校准状态,变更即需重判适用性。

任何与传感器相连的仿真都常被称为数字孪生,但一台实际资产经历软件更新、部件替换、维修和环境变化后,通用模型可能描述的是“这个型号”,而不是“这一个序列号的当前状态”。实时数据若进入错误构型,反而会给出精确的错判。

构型一致孪生的命题是:孪生必须绑定具体实物的序列号、软硬件版本、维修历史、任务状态与传感器校准;模型或实物任何改变都要重新判断适用性。孪生输出应携带来源和不确定性,并在构型错配时拒绝诊断。

2016年后的航空发动机、工业资产、舰船和基础设施孪生项目把状态估计与PLM/维护记录连接,逐渐从通用模型转向个体化模型。实践显示,部件更换、软件补丁和传感器重标定若未同步,模型残差会被误解释为退化;构型管理因此成为比实时可视化更基础的条件。真正的盲试应把一次未记录部件替换或软件版本错配隐藏在数据流中,检查孪生是否拒绝判断,而不是继续用参数拟合消化异常。

边界是供应商模型版本、现场临时改装和缺失维修记录很难完全统一。数据同化还可能用参数调整掩盖构型错误。应故意注入错版本、错传感器和未知维修,测试孪生能否发现。若模型总能通过重新校准继续拟合,拟合能力不能证明它指向正确实物。

从通用模型转向个体化模型,带来的直接收益是预测精度,代价是模型数量:在役资产有多少台,孪生就要维护多少个实例,每一次维修与升级都要触发一次适用性判断。这把孪生的成本从开发端推到了运维端,也把它的成败绑在构型管理的质量上。行业里失败的项目多数不是模型不准,而是没有人能说清某台设备当前对应哪一版模型——这个问题在机队规模超过几十台之后会迅速失控。另一处是合同安排:孪生由供应商开发而数据归业主,更新权限与责任边界若不写清,模型会在第一次大修后停止演进。

与「一、数字线程的权威数据源」是依赖关系,与「七、持续保证案例」共享同一条纪律:任何随构型变化的东西都必须能被自动标记为待重验。一处反向证据是传感器校准:孪生把漂移的测量当作真实状态变化吸收进去,预测会越来越自洽而越来越错。因此这条命题的检验量应是与实物构型一致的模型数占在役构型总数之比,并须把预测误差与运行数据分开统计。验收应包含一次已知故障的注入,看模型能否定位到正确部件。

预设孪生的有效性绑定在某一个具体实物与某一版构型上 量纲与实物构型一致模型/在役构型总数,以及预测误差/运行数据 失效当部署输入落在校准支持集之外,且残差与置信度不能同步暴露外推时不成立 异名医学称「个体化模型」,制造业称「序列号级追溯」;另见第238号面板

三、任务工程

提出NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 争议NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 最新NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 关键以任务效果与任务线程为顶层,跨系统分析后再决定哪些系统变化有价值。

系统工程常把顶层对象设为一件可采购产品,再将任务效果分解成该产品的需求。复杂服务却由多个平台、组织、数据和环境共同完成;某个子系统性能提高若不解除任务瓶颈,整体价值可能为零。问题是需求是否应从产品出发,还是从端到端任务线程出发。

任务工程主张,以任务效果和任务线程为顶层,跨系统分析参与者、信息、时序、环境和失败点,再决定哪些系统变化有价值。其可证伪命题是:任务级模型应能揭示单体指标无法看到的瓶颈和替代关系;若所有结论与产品需求分析相同,新增层次没有价值。

2017年后,mission engineering和数字任务模型在复杂应急、空间、交通与跨组织能力分析中扩展。通过端到端仿真,分析者可比较通信延迟、人员决策、平台可用性和环境对最终效果的共同影响;常见结果是最强单体并非最佳组合,接口与时序才是约束。验证增量价值时,应固定同一预算,让产品级优化与任务线程优化分别选择方案,再在未知故障与人员延迟场景中比较任务完成率。

争议在于“任务效果”容易由委托方预先定义,忽略其他利益相关者和长期外部性。任务模型也可能过于抽象,无法与具体验证连接。应公开效果函数、替代任务和失败情景,并由不同团队建模。若结果只反映预设权重,任务工程会把价值判断包装成系统计算。

任务工程的实际价值在于它改变了投资论证的起点:不再是「我们的系统还能提升多少性能」,而是「这条任务线程上哪一环最先断」。答案常常落在通信、协调或数据可用性上,而不是任何一个平台的性能指标上,于是资源被引向此前无人主张的接缝处。它的难点是跨组织的数据与假设——任务模型需要各参与方交出真实的时序与失败率,而这恰恰是各方最不愿共享的信息。另一处是与预算体系的错位:任务级的最优改进常常落在别人的系统上,而预算按系统划拨,于是分析结论无人能执行。

与「乙、系统之系统的涌现治理」是分析与治理的一对,与「十二、涌现行为的验证边界」则构成从建模到验证的链条。一处反向证据是任务集的代表性:任务线程由分析者选定,若选的都是设计时预想过的任务,模型会系统性地遗漏真正会出问题的边缘情形。因此这条命题的检验量应是任务成功情景占全部任务情景之比,并须说明任务集是如何被枚举的。任务集应包含若干由现场提出而非设计者预想的情景。

预设任务效果可以脱离具体系统被独立描述 量纲任务成功情景/全部任务情景,以及功能分解覆盖/任务数 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名军事称「效果为本的规划」,管理学称「以客户结果定义产品」;另见第147号面板

四、敏捷系统工程的双节拍

提出INCOSE,2025年,Systems Engineering Vision 2025 (2014) 争议NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 最新INCOSE,2025年,Systems Engineering Vision 2025 (2014) 关键架构与安全约束走慢节拍,软件与局部设计走快节拍,两者以增量基线耦合。

复杂硬件项目曾以完整需求冻结和顺序阶段为理想,变更被视为失控;软件敏捷又常被原样搬到硬件,仿佛每两周都能交付完整系统。长交期部件、认证证据与物理接口不允许所有内容同速迭代。问题是哪些部分应稳定,哪些部分应快速学习。

双节拍理论主张,系统架构、接口、安全约束和长期资产保持较慢治理节拍,功能原型、软件和局部设计采用较快迭代;两者通过增量基线、模型同步和持续验证耦合。敏捷不是取消架构,而是让架构明确哪些选择可延迟、哪些一旦冻结代价极高。

2016年后,Agile Systems Engineering、DevSecOps与MBSE集成在政府和产业项目中发展。实践显示,数字模型和自动测试可让软件能力频繁更新,同时硬件接口通过模块化和模拟环境保持稳定;反例则表明,频繁需求变动若没有架构边界,会把集成债务推到后期。双节拍是否成立,可由每次增量交付后仍保持一致的需求、模型、代码、测试和安全证据比例衡量,而不能只数冲刺次数。

边界在于双节拍会产生治理摩擦:慢层可能阻塞学习,快层也可能在未更新保证的情况下上线。应测从需求变化到模型、代码、测试和安全案例一致所需时间。若快节拍交付增加却返工和证据缺口同步上升,敏捷只是把阶段门改名为持续积债。

双节拍要解决的是一个具体的失败模式:把敏捷方法整体套到硬件与安全关键系统上,会让架构与接口在迭代中被反复推翻,返工成本远超收益;而完全按瀑布走又跟不上软件的迭代速度。分节拍之后,关键在于两拍之间的同步点——增量基线、模型同步与持续验证。多数项目的实际问题出在同步点定得太稀,快拍跑出去很远才发现与慢拍的架构假设冲突。另一处是人员:两种节拍需要不同的工作方式与考核口径,同一批人被要求同时兼顾两拍时,通常是慢拍被牺牲。

与「七、持续保证案例」是配套的:快拍要真的快,安全论证就必须能自动跟上,否则每次迭代都被人工重审卡住。一处反向证据是硬件长周期:某些子系统的采购与制造周期以年计,把它塞进任何节拍都不成立,只能靠接口冻结与替代品预留来处理。因此这条命题的检验量应是需求节拍与软件迭代节拍之比,并须报出返工工时占总工时的比例。同步点的密度应按接口变更频率来定,而不是按日历固定。返工工时应按其来源分类统计,才能看出是哪一拍在制造返工。

预设系统的不同部分可以按不同速度演进而仍保持一致 量纲需求节拍/软件迭代节拍,以及返工工时/总工时 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名软件工程称「架构与特性的解耦」,音乐学称「复节拍」;另见第154号面板

五、模块化开放系统的演化权

提出INCOSE,2025年,Systems Engineering Vision 2025 (2014) 争议NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 最新INCOSE,2025年,Systems Engineering Vision 2025 (2014) 关键开放系统的价值取决于竞争替换、数据权利与一致性测试能否长期维持。

“开放接口”常被理解为发布一个标准,模块化则被假定必然降低成本。但接口可以名义开放、实现仍被专有数据或测试锁定;标准过细还会冻结旧技术、牺牲整体性能。问题不是有没有模块,而是谁拥有替换、升级和重新竞争的权利。

开放系统理论主张,架构价值取决于竞争替换、增量升级、数据权利、合规测试与版本治理能否长期维持。模块边界应把高变化区域与稳定核心分开;开放是经济与治理结构,不只是技术连接器。

2017年后,模块化开放系统方法在大型长期系统采购与民用平台生态中强化,项目用标准接口和一致性测试支持组件升级。经验同时显示,接口性能裕度、知识产权、认证和供应商激励决定实际可替换性;“兼容”模块可能在非功能性能上仍需整系统重验证。最好用真实替换演练检验开放性:由未参与原设计的供应商完成模块接入,并记录接口解释、认证返工和性能损失。

争议在于开放会增加接口重量、测试成本和攻击面,极致性能系统可能需要紧耦合。应以真实替换事件衡量:新供应商进入时间、验证成本和对其他模块的影响。若十年内从未实现独立替换,或每次升级仍需原供应商重做全系统,开放性只是合同口号。

模块化开放系统的经验教训是:开放是一种需要持续维护的治理状态,而不是一次性的架构选择。接口标准若无人维护、一致性测试若无人执行、数据权利若未在合同中写死,几年之后系统会以各种非正式方式重新变回封闭,而此时替换成本已经高到不可能。这解释了为什么大型采购方越来越把接口治理机构与测试套件本身作为项目交付物,而不只是把接口文档写进规范。另一处是知识产权:接口开放而实现细节封闭,替换是否真的可行取决于测试套件的完备程度,而套件本身往往由现任供应商编写。

与「乙、系统之系统的涌现治理」共享治理内核,与「一、数字线程的权威数据源」则相互依赖——没有版本与权属的清晰界定,开放接口无法维持。一处反向证据是性能代价:标准接口通常意味着放弃某些深度耦合带来的性能优化,在资源紧张的嵌入式系统上这一代价可能大到不可接受。因此这条命题的检验量应是可替换模块数占关键模块之比,并须报出接口变更成本在生命周期成本中的占比。一致性测试应由独立第三方维护,并公开测试用例的覆盖范围。

预设接口一旦开放,替换与升级的竞争就会持续存在 量纲可替换模块数/全部关键模块,以及接口变更成本/生命周期成本 失效当复制或放大引入共享公用工程、相关失效或新的传递瓶颈时不成立 异名经济学称「可竞争市场」,法学称「互操作性权利」;另见第169号面板

六、可执行需求

提出NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 争议NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 最新NASA,2016年,Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016) 关键把关键需求转成状态机、契约或时序逻辑,使工具能查冲突并生成验证场景。

自然语言需求即使经过评审,也会保留量词、时序、边界和例外歧义;冲突常到集成测试才暴露。增加“清晰、完整、一致”的审查清单无法证明系统真的能同时满足全部要求。问题是关键需求能否成为可仿真、可检查和可生成测试的对象。

可执行需求主张,将关键行为约束转成状态机、契约、时序逻辑或参数模型,使工具能够检查冲突、不可达和边界,并自动生成验证场景。其命题是:需求应在设计早期产生可失败的执行结果,而非仅由专家判断语言质量。

2016年后,SysML/Modelica协同、contracts-based design、时序逻辑和形式化需求工具在汽车、航天、轨道和医疗设备中扩展。模型检查可发现条件组合永远无法满足、接口假设互相矛盾或时间窗口冲突;生成测试也提高了需求到证据的追踪。一项可靠审计是从模型生成边界测试,再让领域专家判断反例是否对应真实语义;若大量反例来自错误抽象,形式化并未提高需求质量。

边界是形式化需要选择抽象,未表达的社会、操作或环境条件仍会漏掉;非技术利益相关者也可能无法审读。形式正确不等于需求正确。应保留自然语言—形式模型双向追踪并让领域人员验证反例。若工具只证明一个过度简化模型,可执行性会制造虚假的精确。

可执行需求的收益出现在缺陷发现的时点上:需求之间的冲突与不可达状态如果在设计前被工具查出,代价是几小时;如果等到集成测试才暴露,代价是几个月。它把一部分评审工作自动化,也把评审的重心从「文字是否清楚」转到「形式化是否忠实于意图」——后者仍然只能靠人。因此形式化需求并不减少人的判断,只是把判断集中到了一个更关键、更少的地方。另一处是工具链绑定:形式化需求依赖特定工具的语义,工具停止维护会让这部分资产一次性失效,因此格式的开放性必须提前约定。

与「甲、基于模型的系统工程」是同一方向的深化,与「八、运行时保证」则形成设计期与运行期的分工:能在设计期证明的就证明,证不了的交给运行时监视。一处反向证据是可形式化的比例:真实系统的需求中只有一部分能被无歧义地形式化,性能、可用性与人因需求大多不能,若只管住可形式化的那部分,风险会向未形式化的部分转移。因此检验量应是可执行验证的需求占关键需求之比。未形式化的那部分需求应被单独列册,并说明各自的替代保证手段。

预设关键行为约束可以被写成机器可检查的形式 量纲可执行验证需求/全部关键需求,以及歧义缺陷/需求总数 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名法学称「可计算的合规规则」,软件测试称「基于属性的测试」;另见第352号面板

七、持续保证案例

提出Denney E, Pai G, Habli I,2015年,ICSE Software Engineering for Adaptive and Self-Managing Systems (2015) 争议Calinescu R et al,2018年,IEEE Transactions on Software Engineering 44, 1039–1069 (2018) 最新Calinescu R et al,2018年,IEEE Transactions on Software Engineering 44, 1039–1069 (2018) 关键把安全案例与构型、测试与运行监测连接,自动标记受影响主张并触发重验证。

传统安全论证在认证节点完成,系统上线后软件更新、数据变化、维护和环境漂移却不断改变证据。静态PDF不会自动指出哪些主张已经过期;团队常在下次大审查前继续依赖旧结论。问题是保证能否像系统一样持续演化。

持续保证理论主张,把安全案例与构型、测试、运行监测和变更流程连接,自动标记受影响主张并触发重验证。核心不是每次自动重写全部论证,而是维护主张—证据—假设—版本关系和有效期,让部署决策知道当前还有哪些未关闭缺口。

2018年后,dynamic/continuous assurance case研究把DevOps、证据仓库和运行数据连接;原型可在代码或配置变更时追踪受影响测试,并更新证据状态。持续交付环境也促使监管讨论增量认证:重用未受影响证据,只对变更范围重新论证。应故意修改一个依赖共享假设的组件,检查所有受影响主张是否被同时失效;只追踪文件链接而不追踪论证依赖会漏掉共因。

争议在于证据自动更新容易,论证结构是否仍正确却需专家判断;监测数据还可能与设计证据相关,形成共因。应规定哪些变更自动失效、哪些需人工重构,并保留审计。若系统变化后案例仍显示“绿色”却无法解释新危害,自动化只是在更快维护过时论证。

持续保证要解决的是一个很现实的矛盾:系统一年更新十几次,而安全案例的重新审查以季度甚至年计,于是运行中的系统与被批准的那个系统长期不是同一个。把主张—证据—假设之间的依赖关系维护成可查询的图,改一处就能自动标出受影响的主张,是目前唯一能让两者节奏对齐的办法。它的前提是证据必须可寻址、可版本化,这一点在大量以文档形式存在的传统安全证据上很难做到。另一处是证据的存放:运行监测数据量巨大而保存期有限,安全论证所依赖的那部分必须被单独标记并长期保留。

与「戊、论证型安全案例」是动态与静态的一对,与「四、敏捷系统工程的双节拍」互为条件。一处反向证据是自动化的边界:能自动标记的是显式依赖,而安全论证中最脆弱的部分往往是隐含的环境假设,它们不出现在依赖图里,也不会被任何变更触发。因此这条命题的检验量应是在线证据更新成功的主张数与需更新主张数之比,并须报出证据过期时间与环境变化间隔的比值。隐含假设应定期做一次人工复核,自动化不能替代这一步。

预设安全论证可以随构型与运行数据自动保持同步 量纲在线证据更新成功主张/需更新主张,以及过期时间/环境变化间隔 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名软件工程称「持续集成」,会计称「持续审计」;另见第149号面板

八、运行时保证

提出NASA,2022年,NASA/TM-20220015734 (2022) 争议NASA,2022年,NASA/TM-20220015734 (2022) 最新NASA,2022年,NASA/TM-20220015734 (2022) 关键用安全监视与可信备份控制器兜底,越界前切换到恢复策略。

学习控制器或复杂自主功能很难在部署前覆盖所有行为;完全证明不可行时,传统选择是禁止使用,或仅靠大量测试接受剩余风险。两者都忽略一个架构选择:让先进控制器提供性能,同时由可验证监控器在接近边界时接管。

运行时保证主张,在系统中配置安全监视、决策逻辑和可信备份控制器;当预测先进控制器将违反安全集合时,切换到恢复策略。其命题是:部分保证可以从算法本体移到架构与运行监控,但监控器、边界和切换本身必须可验证。

2016年后,Simplex和runtime assurance架构在自主航空、机器人与车辆研究中扩展。NASA等报告把RTA定义为在运行中为特定功能提供安全置信的架构模式,并发展形式验证与认证建议;试验显示它可允许未经完整验证的高性能控制在安全包络内运行。运行试验必须覆盖监控器误报、漏报和频繁切换三类情形,并记录先进控制器被限制后任务性能;安全与可用性需共同结算。

边界在于安全模型可能漏掉状态,传感延迟和切换瞬态也会使备份来不及恢复;多个RTA组件交互还可能互相触发。应以最坏检测延迟、可恢复集和故障注入验证。若监控器只能发现已经越界的状态,或接管后仍无法回到安全域,运行时保证只是晚到的报警。

运行时保证的工程意义是把「保证」从算法本体解耦出来:先进控制器或学习型策略不必被完整验证,只需保证监视器与备份控制器是可验证的,且切换足够及时。这一架构让难以形式化的智能算法有机会进入安全关键系统,也把验证的投入集中到一小段代码上。它的关键参数是切换时机——判早了系统长期运行在保守的备份策略上,失去先进控制器的全部收益;判晚了则来不及恢复。另一处是人机交互:频繁的自动接管会让操作者失去情境感知,接管本身必须被记录并向操作者解释,而不是静默发生。

与「六、可执行需求」是运行期与设计期的分工,与「九、AI 系统保证的证据拼图」则是同一问题的两条路径:一条限制行为,一条累积证据。一处反向证据是安全集的保守性:可证明的安全集往往远小于实际安全的状态空间,护栏因此会频繁误接管,用户随后倾向于把它调松或关掉。因此这条命题的检验量应是护栏接管成功数与越界情景之比,并须同时报出干预延迟与危险发展时间的比值。安全集的保守程度应随运行数据积累而被重新标定,并公布标定依据。

预设不可信的控制器可以被一层可信的监视器兜住 量纲护栏接管成功数/越界情景,以及干预延迟/危险发展时间 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名计算机安全称「引用监视器」,金融称「熔断机制」;另见第060号面板

九、AI 系统保证的证据拼图

提出NIST,2023年,Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023) 争议NIST,2023年,Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023) 最新NIST,2023年,Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023) 关键以系统危害为起点,把数据、性能分层、域外测试与治理证据拼接到明确主张。

AI系统常用测试集准确率、鲁棒性挑战、红队或形式证明中的一项作为“可信”证据。嵌入系统后的风险却同时来自数据谱系、域外输入、人机交互、反馈、版本和组织使用;单个指标无法覆盖这些失效,也很难知道证据之间是否独立。

AI保证理论主张,以系统危害为起点,把数据质量、性能分层、域外测试、鲁棒性、解释、监测、人因和治理证据拼接到明确主张。每份证据必须说明覆盖哪一种失效、在哪个版本和环境有效;多个高分指标不能自动相加成可信。

2020年代,NIST AI RMF、航空与汽车等框架强调全生命周期风险管理。NIST 2023年AI RMF以Govern、Map、Measure、Manage组织行动,并明确面向设计、开发、部署和使用者;基础模型和持续更新又促使证据记录数据、模型、提示、工具和系统集成版本。可将一项已知危害植入数据、模型或使用流程,检查证据链在哪一层发现它;若所有指标仍合格,框架的覆盖声明就被直接反驳。

争议在于框架容易产生检查清单,证据拼图仍可能没有顶层因果论证。基础模型的供应链不透明还限制独立复现。应以具体危害做对抗审查,并测试证据移除后结论是否改变。若所有框都打勾却不能说明剩余风险和停止条件,AI保证只是治理表格,不是工程论证。

AI 保证最容易走偏的地方是把评测分数当作证据:一个总体准确率不说明在哪些子群、哪些分布下会失效,而危害恰恰发生在那些地方。以危害为起点反推需要哪几类证据,能强制暴露证据之间的缺口——比如有性能证据而无监测证据,意味着系统上线后无人知道它何时开始退化。它对组织的要求是把数据、模型、运维与治理四拨人的产出装进同一套主张结构里,而这四拨人通常互不通话。另一处是持续性:智能系统的性能会随数据分布漂移而退化,因此监测证据不是可选项,它决定了其余证据的有效期。

与「戊、论证型安全案例」是同一形式在新对象上的应用,与「八、运行时保证」则是互补的两条路。一处反向证据是证据的相关性:多份证据若都来自同一批数据或同一套评测框架,看似互相印证实则同源,拼图的独立性是假的。因此这条命题的检验量应是独立证据类型数与关键安全主张数之比,并须单独说明各类证据之间的相关性来源。证据缺口应被显式列出,缺口未闭合的主张不得被当作已满足。评测数据集与训练数据的重叠程度必须公开,否则性能证据不成立。

预设多类互相独立的证据可以拼出一个完整的保证 量纲独立证据类型数/关键智能系统安全主张,以及证据相关性/证据总数 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名法证科学称「证据链」,流行病学称「因果判据的多重来源」;另见第048号面板

十、韧性的性能轨迹

提出Woods DD,2015年,Reliability Engineering & System Safety 141, 5–9 (2015) 争议Bruneau M et al,2003年,Earthquake Spectra 19, 733–752 (2003); trajectory extensions matured after 2016 最新Bruneau M et al,2003年,Earthquake Spectra 19, 733–752 (2003); trajectory extensions matured after 2016 关键用基线—冲击—最低点—恢复—适应的时间曲线衡量韧性,而非单一冗余度。

“是否恢复”和“恢复用了多久”把韧性压成单一结果,忽略冲击初期下降深度、最低服务、恢复斜率、适应后的新稳态与第二次冲击。两个系统同样在十天恢复,一个可能前九天几乎停摆,另一个始终维持关键服务。

性能轨迹理论主张,用时间函数记录基线、冲击、吸收、最低功能、恢复和适应,比较曲线面积与关键阈值。其命题是:韧性必须由功能下降深度×持续时间×恢复路径共同描述,并针对不同服务分别定义,而非给整套系统一个抽象分数。

2016年后,基础设施、供应网络和安全研究从resilience triangle发展出多阶段指标,并在停电、交通、灾害和组织运营中使用。轨迹分析能够区分“快速但脆弱”“缓慢却保持最低服务”等模式,也使备用、优先恢复和适应性投资可以按后果比较。轨迹比较还应报告关键群体或任务的最低服务,而非只给总面积;相同综合分数可能对应完全不同的生命安全与公平后果。

争议在于基线和服务权重含价值判断,冲击若早已改变需求,恢复到旧水平未必合理。曲线面积相同也可能掩盖关键时刻差异。应公开功能定义和最低可接受服务,并比较多个指标。若一个综合分数无法保留关键群体或关键任务的轨迹,量化会再次遮蔽系统目的。

性能轨迹给了韧性一个可以进入合同与监管的形式:服务水平协议可以写成「最低功能不低于多少、恢复时间不超过多久」,而不是笼统的「具备韧性」。它同时揭示了一个常被忽略的维度——适应,即冲击后系统是否回到原基线,还是稳定在一个更高或更低的水平。后者在基础设施与供应网络中很常见,只看恢复时间会漏掉这一整段信息。另一处是数据可得性:曲线要画出来,就必须在冲击发生时仍有可用的监测与记录,而这恰恰是冲击最容易破坏的能力。

与「己、韧性工程的四能力」是量与质的一对:曲线能测出恢复得快不快,四能力解释为什么快。一处反向证据是功能的定义:曲线的纵轴是「功能」,而复杂系统的功能是多维的,用单一指标压缩会掩盖结构性损失——比如总量恢复而服务对象改变。因此这条命题的检验量应是性能恢复面积与冲击损失面积之比,并须公开纵轴所用的功能指标构成。适应阶段应单独报出,回到原基线与稳定在新水平是两种不同的结果。曲线的横轴还应覆盖到适应阶段结束,而不是止于恢复到某个百分比。

预设韧性可以由功能随时间的曲线被完整刻画 量纲性能恢复面积/冲击损失面积,以及恢复时间/基准服务时间 失效当共因失效或尾部情景主导结果,而现有模型不能排序其风险贡献时不成立 异名医学称「疾病进程曲线」,经济学称「衰退与复苏路径」;另见第205号面板

十一、大型项目的厚尾风险

提出Flyvbjerg B,2006年,Project Management Journal 37, 5–15 (2006) 争议Flyvbjerg B, Gardner D,2023年,Currency (2023) 最新Flyvbjerg B, Gardner D,2023年,Currency (2023) 关键少数极端项目决定总体损失,平均应急储备无法覆盖尾部。

项目风险常用正态误差、平均超支和期望净现值表示,少数极端案例被当作异常。大型项目却具有不可逆资本、长工期、接口耦合和政治升级承诺,少数灾难性超支足以主导整个项目组合。问题是尾部是否只是噪声,还是项目类型的结构属性。

厚尾理论主张,成本与工期分布可能比正态更重尾,决策应关注高分位、最大暴露、模块化可逆性和终止选项。其命题是:少数极端项目决定总体损失,平均应急储备无法保护组合;分阶段、小模块和可停止设计可截断尾部。

Flyvbjerg等长期项目数据库及2023年前后的综合比较显示,IT、核电、奥运、交通等类别的超支分布和尾部差异显著,部分项目呈“少数极端拖累多数”的模式。外部视角与分类型基准因而优于统一平均上调,模块化项目也更容易在单元失败时停止扩损。组合层面的检验是比较模块化、可暂停项目与不可逆巨型项目的高分位损失和终止成本,而不是只比较成功项目的平均造价。

争议在于项目数据库存在选择、定义和通胀调整问题,尾指数对分类敏感;技术变化也会使旧数据失真。应报告全分布和取消项目,并做类别敏感性。若厚尾结论只由少数不可比个案驱动,尾部风险不应被当作所有大型项目的宿命。

厚尾这一发现直接改写了应急储备的逻辑:按平均超支比例提取的储备,在厚尾分布下几乎必然不足,因为损失由少数极端项目主导。更有效的做法是结构性的——把大项目拆成可分期、可终止的模块,保留退出选项,用可逆性替代储备金。这也解释了为什么模块化、分期投运在大型基础设施与能源项目上被反复推荐,其理由不是技术而是分布形状。另一处是激励:低估成本能让项目获批,因此偏差不完全是认知问题,纠正它需要改变审批与问责的规则。

与「辛、参照类预测」是同一数据基础上的两条结论,也与「丙、动态多纪元权衡空间」相连:可逆性既是应对成本尾部的手段,也是保持跨纪元价值的手段。一处反向证据是类别差异:不同项目类型的尾部厚度差别很大,把结论一概而论会在薄尾类别上造成过度保守。因此这条命题的检验量应是尾部超支与中位超支之比,并须按项目类别分别给出。储备的充足性应按高分位而不是均值来检验,并说明所用分位数。终止选项的存在与否应作为立项文件的必填项,而不是事后追加。

预设项目成本与工期的分布可能远比正态更重尾 量纲项目尾部超支/中位超支,以及高分位成本/中位成本 失效当共因失效或尾部情景主导结果,而现有模型不能排序其风险贡献时不成立 异名金融称「尾部风险与在险价值」,地震学称「幂律分布」;另见第075号面板

十二、涌现行为的验证边界

提出U.S,2008年,Systems Engineering Guide for Systems of Systems, Version 1.0 (2008) 争议Leveson NG,2011年,MIT Press (2011/2012) 最新Leveson NG,2011年,MIT Press (2011/2012) 关键验证对象应是成员加入退出、版本错配与资源竞争,而不是产品清单。

子系统分别通过测试、接口符合规范,并不能证明组合后的任务行为;参与系统的更新、数据延迟和组织策略可能产生未在任何单体测试出现的交互。开放系统之系统还会在验证后继续变化。问题是如何验证一个无法冻结、状态空间又远超穷举的整体。

涌现验证主张,以任务线程、跨系统仿真、扰动注入和运行观测覆盖关系变化,而不是只覆盖产品清单。验证对象包括成员加入/退出、版本错配、资源竞争与异常时序;目标不是证明无任何未知,而是证明关键危害有可观测边界和恢复机制。

2016年后,交通、能源、应急和复杂网络使用多模型协同、数字任务环境与硬件在环测试跨系统行为。研究显示,接口格式正确仍可能因语义、时间和控制策略产生失败;通过故意延迟、丢包、成员失效和策略改变,可发现单体V&V遗漏的涌现模式。场景库应按关系、时序和资源冲突覆盖,而非按数量计数;每发现一个现场新模式,都应能追溯到哪一类覆盖缺口并更新基线。

边界是场景永远不完备,模拟器之间的共同假设还会造成系统性盲区。运行监测也只能看到已设计指标。应采用不同模型、红队场景和现场反馈持续扩展覆盖。若验证报告只列运行了多少场景而不说明覆盖了哪些关系和失效,大规模仿真会把数量误当成充分性。

涌现验证把测试的对象从「每个系统都通过了自己的测试」改成了「它们在一起时会发生什么」,随之而来的是测试环境的重构:需要多模型协同、数字任务环境与硬件在环,成本远高于单系统测试。由此产生的现实策略是把有限的跨系统测试预算投向关系最容易出问题的地方——版本错配、资源竞争与异常时序这三类,而不是均匀覆盖所有组合。另一处是测试环境的可信度:多模型协同环境本身是一个复杂系统,它的保真度若未被确认,测试结论的可信度无从谈起。

它是「乙、系统之系统的涌现治理」与「三、任务工程」的验证端,三者构成一条从治理到建模再到验证的链条。一处反向证据是覆盖的不可穷尽:成员系统各自演化,组合空间随时间增长,任何一次验证的结论都有明确的有效期,而实践中很少有人给验证结论标注失效日期。因此这条命题的检验量应是被验证的涌现行为占已识别涌现行为之比,并须报出域外失败数与测试情景数的关系。验证结论应标注有效期与所依据的成员版本,过期即需重做。

预设跨系统的关系变化可以被有限的测试情景覆盖 量纲被验证涌现行为/识别涌现行为,以及域外失败数/测试情景 失效当需求、构型或证据版本发生漂移而权威数据源未同步更新时不成立 异名软件测试称「集成测试的组合爆炸」,生态学称「群落装配实验」;另见第355号面板

◎ 二十年连起来看

第一幕把“系统”从文档和部件集合改写为模型关系、控制结构、跨未来策略与显式论证;第二幕则把这种关系放进持续变化的现实,要求数据有权威来源、孪生绑定构型、保证随版本更新、复杂控制在运行时受到边界监控。系统工程由一次性设计秩序转向持续维护“对象—主张—证据—责任”的一致性。

被继承的核心判据是可追踪性。MBSE、论证型安全案例和参照类预测首先要求知道结论来自何处;数字线程、构型孪生、持续保证与AI证据拼图把追踪延伸到版本和运行。另一条被继承的判据是跨情境性能,从多纪元、韧性四能力延续到任务工程、性能轨迹与厚尾风险。

被推翻的默认包括:子系统合规即可推出整体成功、事故必有线性故障链、更多内部细节会纠正乐观偏差、联网仿真就是孪生、人在环中或框架打勾便等于可信。两幕都未解决的共同问题,是系统边界与价值函数并非纯技术事实;谁有权定义任务、最低服务和可接受风险,仍会回写模型与证据。

◎ 三个常见误解

误解一:MBSE就是用SysML取代Word。 正确读法是,模型要成为跨需求、结构、分析和验证的可追踪决策骨架;误读来自工具培训最容易销售和统计,组织责任、数据权威与模型验证却难以用“建了多少图”展示。

误解二:韧性意味着系统永不失败。 韧性关注冲击中的功能轨迹、最低服务和适应,不承诺无损;误读来自“韧性”在宣传中常被当成更强可靠性,而实际理论重视的是在不可避免变化中怎样吸收与恢复。

误解三:数字线程、孪生和持续保证会自动消除工程判断。 它们使对象与证据更可追踪,却仍需判断哪些模型足够、何时失效、什么风险可接受;误读来自数字系统能自动更新状态,传播时便把“更新数据”说成“更新真理”。

◎ 与相邻领域的接口

与机械工程的接口在模型可信度与物理构型。见相邻面板〈238 机械工程〉“数字孪生的模型可信度”:系统级线程必须继承有限元、疲劳与断裂模型的适用域,不能用版本一致掩盖物理模型失准。

与运筹学与工业工程的接口在跨未来决策和保证。见相邻面板〈244 运筹学与工业工程〉“数字孪生的校准—确认闭环”:系统保证需要把样本外覆盖、尾部风险和人机接管纳入任务论证。

与电气与电力工程的接口在开放系统的稳定与控制。见相邻面板〈239 电气与电力工程〉“群体模型的验证缺口”:大量独立设备分别合规后仍可能出现系统级相互作用,正是涌现验证的典型边界。

与核科学与工程的接口在安全案例、数字共因和退役信息。见相邻面板〈241 核科学与工程〉“退役即信息保存工程”:长寿命系统若丢失构型和变更语义,数十年后的安全与拆解会为早期信息断裂付费。

◎ 争议现场

第一场争论是MBSE是否已证明投资回报。支持者报告减少接口错误和知识复用,反对者指出证据多来自成功案例且缺少对照。收敛需要在相似项目中前瞻记录建模工时、变更传播、集成缺陷和返工,而不是用成熟度自评分代替结果。

第二场争论是Safety-II和韧性工程是否提供了超越传统安全的可检验增量。支持者强调正常工作和适应,批评者认为概念宽泛。需要随机或分阶段实施具体干预,比较事故、延迟、工作负荷和恢复轨迹,并明确哪种绩效变异被改变。

第三场争论是运行时保证和持续案例能否支撑频繁更新的AI系统。架构可限制行为,却依赖监控模型与稳定边界;基础模型还可能远程更新。收敛需要完整版本锁定、域外检测、最坏切换试验和更新后自动失效规则,而非只展示一次演示。

◎ 往下五年看什么

观察点一是MBSE项目是否开始公开结果型指标。可统计需求变更传播时间、接口缺陷发现阶段、模型复用率和工具维护成本,而不是只报告模型元素数量。

观察点二是数字线程能否对随机抽取的工程决策完成可重现追溯。读数包括找到权威版本所需时间、缺失关系比例、构型错配检出率与供应商数据断点。

观察点三是持续保证是否真正具有有效期和自动失效。应看软件、模型或环境改变后,系统能否指出受影响主张、阻止未关闭证据的部署,并记录人工豁免。

观察点四是韧性与大型项目风险是否从平均值转向完整轨迹和尾部。决定性读数包括最低服务、高分位超支、取消项目、二次冲击和模块化终止带来的损失截断。

◎ 可与哪些领域对撞

本块“数字线程与权威数据源”可与第149号《会计与审计》的“机器读者假说”对撞。两者共享的预设是:结构化记录会改变组织把什么当作权威事实。相反点在于:数字线程追求需求、模型、构型与试验的一致来源,会计机器读者假说则说明格式会反过来塑造披露行为。若两边都成立,权威数据源不能只保证字段一致,还要保留变更理由、责任人与证据来源,防止结构化制造伪确定性。

本块“运行时保证”可与第048号《AI安全与对齐》的“评估成为基础设施”对撞。两者共享的预设是:系统在部署中必须持续证明自己没有越过安全边界。相反点在于:运行时保证用监测器和护栏接管,AI对齐把持续评估视为基础设施。若两边都成立,安全论证应从上线前文档变成可执行的在线证据,并明确护栏本身何时失效。

本块“大型项目的厚尾风险”可与第074号《因果推断》的“局部处理效应的含义被讲清”对撞。两者共享的预设是:少数参照项目的平均数不能代表尾部环境中的新项目。相反点在于:系统工程用参照类与分位数暴露成本厚尾,因果推断要求外推时检查总体与处理机制差异。若两边都成立,项目基线必须以外部同类分布校准,并对“本项目特殊”这一说法设置可证伪条件。

◎ 十条可做的研究命题

MBSE能降低晚期接口缺陷而非只增加前期工时;对相似项目做阶段性对照并追踪返工;若总缺陷和周期无改善,价值命题被证伪。

多纪元稳健设计在未参与构造的新情境中仍保持较高价值;封存极端未来后盲测;若名义最优反而更稳,跨纪元判据不成立。

STPA能发现传统FMEA/FTA遗漏且可干预的危害;独立团队并行分析后用故障注入验证;若新增危险无法复现,增量被否定。

参照类预测比内部估算更校准;在立项时封存两种预测并跟踪完工;若内部估算误差更低,外部视角优势被证伪。

数字线程可把变更影响分析时间降低一半;随机注入跨模型变更并盲测追踪;若缺失与误报不降,权威数据源命题不成立。

构型一致孪生能识别错版本而非以参数重校准掩盖;注入部件和软件错配;若仍高置信输出,孪生资格被证伪。

持续保证案例能在变更时自动失效正确主张;对一组预设更新做盲测;若漏标关键证据或大量误报,持续保证不成立。

运行时保证在最坏延迟下仍能切回可恢复集;硬件在环注入边界扰动;若接管后无法恢复,架构保证被证伪。

性能轨迹比单一恢复时间更能预测第二次冲击;比较同恢复时间、不同最低服务的系统;若二次表现无差异,轨迹增量不成立。

模块化分阶段能截断大型项目厚尾;按模块化程度匹配项目并比较高分位超支与终止损失;若尾部不降,演化权命题被证伪。

◎ 资料核验

正文中的人名、年份、设计、读数与制度文件依据下列原始论文、标准和官方资料核对;正文六段字数不含源行、碰撞行与本资料表。

下列资料与正文源行逐条对应,便于复核提出者、年份、卷页、读数与制度版本。

  1. INCOSE. Model Based Systems Engineering Initiative, established 2007; MBSE definition and mission.
  2. Friedenthal S, Griego R, Sampson M. INCOSE Model Based Systems Engineering (MBSE) Initiative. INCOSE International Symposium (2007).
  3. INCOSE. Systems Engineering Vision 2025 (2014).
  4. U.S. Department of Defense. Systems Engineering Guide for Systems of Systems, Version 1.0 (2008).
  5. Ross AM, Rhodes DH. Using Natural Value-Centric Time Scales for Conceptualizing System Timelines through Epoch-Era Analysis. INCOSE Symposium (2008).
  6. Leveson NG. Engineering a Safer World: Systems Thinking Applied to Safety. MIT Press (2011/2012).
  7. Kelly T, Weaver R. The Goal Structuring Notation—A Safety Argument Notation. Proceedings of the Dependable Systems and Networks Workshop (2004); broad uptake occurred after 2006.
  8. Hollnagel E, Woods DD, Leveson N, eds. Resilience Engineering: Concepts and Precepts. Ashgate (2006).
  9. Hollnagel E. Safety-I and Safety-II: The Past and Future of Safety Management. Ashgate (2014).
  10. Flyvbjerg B. From Nobel Prize to Project Management: Getting Risks Right. Project Management Journal 37, 5–15 (2006).
  11. Flyvbjerg B, Gardner D. How Big Things Get Done. Currency (2023).
  12. NASA. Systems Engineering Handbook, NASA/SP-2016-6105 Rev 2 (2016).
  13. INCOSE. MBSE Initiative Working Group: MBSE definition and history.
  14. NASA. Future Model-Based Systems Engineering Vision and Strategy. NASA/TM-20210014025 (2021).
  15. NASA. Runtime Assurance of Aeronautical Products: Preliminary Recommendations. NASA/TM-20220015734 (2022).
  16. NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023).
  17. Denney E, Pai G, Habli I. Dynamic Safety Cases for Through-Life Safety Assurance. ICSE Software Engineering for Adaptive and Self-Managing Systems (2015).
  18. Calinescu R et al. Engineering Trustworthy Self-Adaptive Software with Dynamic Assurance Cases. IEEE Transactions on Software Engineering 44, 1039–1069 (2018).
  19. Madni AM, Madni CC, Lucero SD. Leveraging Digital Twin Technology in Model-Based Systems Engineering. Systems 7, 7 (2019).
  20. Woods DD. Four concepts for resilience and the implications for the future of resilience engineering. Reliability Engineering & System Safety 141, 5–9 (2015).
  21. Bruneau M et al. A Framework to Quantitatively Assess and Enhance the Seismic Resilience of Communities. Earthquake Spectra 19, 733–752 (2003); trajectory extensions matured after 2016.
  22. National Aeronautics and Space Administration. NASA-HDBK-1009A: NASA Systems Modeling Handbook for Systems Engineering (2025).
新思想前沿 是一个持续撰写的专栏:近二十年,各主要领域最要紧的思想转向。本块采用两幕体例——上一个十年八条、这十年十二条,每条给出提出者、年份与出处,写清它推翻了什么、靠什么读数立住、以及它自己的边界;每条正文之后另附一行碰撞行(预设/量纲/失效/异名),供跨领域取源比对;文末附资料核验。 · ← 回到学科面板