前两编问的是人还剩下什么,本编问的是制度还剩下什么。
第七章之所以放在能力诸章之后,有一个具体理由:其余各章在设计断口测试时,都默认了被测者拥有改向与干预的权限。现实中大量岗位没有这个权限。一次"未能改向"的读数,可能记录的是制度不授权,而不是个人无能力;不先把这两者分开,本书全部的能力判定都会系统性地把制度缺陷记到个人头上。这一章给出的三要素——认知可达性、因果控制杠杆、改写权限——正是用来分开它们的工具,同时也指出了当代人工智能治理最深的那个缺口:真正危险的不是无人签字,而是有人签字、有人被责,却没有人能够让下一轮不同。
第八章处理另一半。人工智能把生产变便宜之后,相信反而变贵:若完整重做,效率增益在验证环节被抵消;若只凭流畅、引用数量或少量抽查就接受,关键错误可能恰好藏在没检查的地方。这一章的回答不是"检查得更多",而是把验证从覆盖率问题改写成风险问题——攻击那些一旦错误就会改变行动的节点,用与原生成路径失效模式低相关的程序,直到残余的未核错误不再足以翻转结论为止。