专著母题 · 德麦国际专著第 131 号
《AI时代医生的困境和出路》
机器夺走的只是医生「我先看出来」的位置;诊断从来是做出来的判定,诊断权在认账的人手上,不在看的人手上。
一、它推翻的默认看法
默认看法是:医生的权威来自"看出来",诊断就是把藏在身体里的病灶找到并说出病名,看出来即判定完成。三百年的医学训练(视触叩听、影像判读、层层筛选识别力)、职称、门诊费都建在这个前提上,所以机器一旦读片、列鉴别诊断比医生更准,人们便推出两种结论:医生要被替代,或者医生要学会用机器"帮着看"。书认为错在第一步,即把"看"与"判"当成一件事。从前做这两件事的是同一个人,因此没人分得开;分开它们的是一台机器。随机对照试验也不支持"人加机器变强"的乐观读法:识别层面机器单独就够,医师拿着机器并没有更好,因为他们把机器放在了自己那一层。
二、母题怎样立起来
起点是急诊夜班的一张纸:家属递来的八条鉴别诊断清单,比值班医生脑子里的更全,其中药物性肺炎是她没想到的。书由此问:清单比我全,我坐在这里的意义是什么。
第一步,写诊断权的来历。"病在身体里有一个位置,医生的本事是找到它",是十八世纪下半叶经莫尔加尼、比沙、巴黎临床学派才搭起来的前提,福柯称之为医学凝视,它同时是一种权力分配:谁能看见里面,谁就握有处置的最后话语权。第二步,说明这个前提为何长期无事:看的人、判的人、认的人是同一个,或沿着签字能一路追下去。第三步,给出机器的证据:2024年JAMA Network Open的五十位医师试验里,医师加GPT-4与只用常规资源差两个百分点而无统计学意义,模型单独作答却高出十六个百分点;次年关于处置决策的试验则是人加机器得分显著更高。识别上机器单独够,处置上人机协同更好,这条界线是全书起点。第四步,翻转"诊断是找到的":机器当场组合出清单,说明医生做的一直也是当场生成判断,只是自己把它叫作"看见"。于是死掉的是"先看出来"这个位置,没死的是把清单变成这个病人的病名并为之负责。第五步,用航空人因工程补一个事实:让操作者对结果负责会降低自动化偏倚,认账事前就改变人怎样用机器。落到母题:识别可以让给机器,判定与认领不能让,诊断权随之集中到"判"和"认"两层。
三、核心构念
- 四级台阶:第零层识别、第一层复核、第二层判定(这个病人落在哪个责任框)、第三层为科室立规则并为规则认账;零层已被机器占,一层撑不久,二、三层是医生的位置。
- 识别与判定:识别是把信息组合成可能的病名,判定是为这一个病人定下病名并签字;全书用它拆开"看"与"判"。
- 认领:误判被发现后,具名的人以个人身份承认判断由他作出或由他负责并作说明;签字本身不算。
- 协同临床决策单元:人与机器在第二、三层上不可拆的搭配,机器穷尽第零层,人签字。
- 责任落位层级:误判被发现到第一个具名认领之间经过的处理环节数,是全书的尺,只计到"有人认领"为止。
- 从属量:认领之后十二个月内是否有当众宣布的规则改正及其后复发;防止只认领不改正的做假。
四、全书骨架
六卷二十八章,加附编与附录。第一卷写诊断权怎样形成,并列表说明历代"看出来"的东西各是在哪一刻被做出来的;第二卷是实证(两项试验、航空自动化四十年、诊断差错账本、新西兰无过错制);第三卷写四级台阶与协同单元,以一个夜班走完全程;第四卷写制度,涉及诊断书多一行、医保从按看付费到按认付费、医患合同与医疗法律、医学教育,并给急诊、影像、基层全科三份试点方案;第五卷是尺与判据;第六卷写这本书自己的死法。后续版本补入十四个科室的四层台阶、七则补记、二十六个质疑与回应、急诊科一年的构拟、写给病人的七个问题与三份操作指引。
五、关键案例与证据
- 急诊夜班:清单第三条药物性肺炎与第一条处置方向相反,住院医打电话给二线,二线停药并承诺明早签字;三个月后科室立规则,药物相关病因且处置相反者必须请示二线。
- 2024年JAMA试验:50位医师、六个模拟病例,中位数76%对74%,模型单独高出十六个百分点。
- 新西兰无过错制:瓦利斯与多维分析修法后头四年六千零七宗基层申报,64%获认;评论称安全数据更好,但很少识别出表现不佳的医生。书据此划线:赔付可以无过错,认账不能无人。
- 责任落位层级的数法:同一份裁判文书前言数得六,第二十二章把规则写死后改为四;构拟材料又逼出"具名与以谁的名义"、"无改正与无材料"两条编码规则。
- 小区报修单:隔手越多,重复报修越多,仅作类比,书自己说明不能证明因果。
六、碰撞接口
- 可抽出的命题:若识别对象不再稀缺,则价值与权威移到"谁认账"那一格结算。凡把"看出来"当作诊断完成之处,皆把识别误作判定。责任归属不是赔付问题,而是认账问题,两者可分,新西兰把前者做好而把后者做空。
- 可相撞的方向:与一切"识别由机器接手、责任无人可落"的行当相撞,如司法裁判、审计签字、教学评价、内容审核;可撞点是该行当里"看"与"判"是否也长期由同一人同时做,机器介入后签字者是谁。也可与医学史、福柯式权力分析相撞,检验"诊断是做出来的"。
- 站内邻书:材料未列出书号。正文只提到同丛书《AI时代的文明困境和出路》(共三十一本,本书为第02本,第31本涉及尺的存活期),以及一本关于心理咨询的同丛书之作,同向,各自定义"把人接住";另有本社此前两本关于慢性病治疗的书,题域不同,书中明言不碰。
七、边界:什么情况下算错
书自己写明:全书读数一个都没有取过,尺都是设计与取法。若在可公开取值的样本里,责任落位层级低与高的科室在误诊复发率上无显著差别,第三卷作废;三臂试验(只有机器、只有医师、协同单元)若前两组不输给第三组,主张不成立。尺被做假(指定一位认账医师)则须以从属量升级。选择偏倚也是它划出的界:判决书样本只含进了法院的误判,层级系统偏高,不能单独承担检验。