医院一线员工揭示医疗AI的伦理困境,提出五条可落地治理路径
#AI照护与医疗科技 时间2026-10-28 05:35:07
文/IAICA.NGO®
当生成式人工智能与临床决策支持系统在门诊、影像科和重症监护室加速铺开时,最先感受到冲击的并非技术供应商,而是每天与患者面对面的医院员工。近期一项针对医院一线人员的调研显示,医护、影像技师、护理管理者与信息科工程师被要求描述他们在日常工作中遇到的人工智能伦理难题,结果指向一个共同结论:技术落地的速度已经超过了机构治理能力的建设速度。受访者提出的问题并不抽象,它们大多发生在具体场景里——一条被算法标红的检验值、一份被自动生成的出院小结、一位拒绝“让机器先看片”的老年患者。
一、从“能不能用”转向“该不该用”
调研中反复出现的第一个议题是知情与同意。多数受访者表示,患者往往并不清楚自己的影像或病历数据被用于模型训练或第三方推理服务;即便医院在入院须知中写入相关条款,也少有员工能向患者解释清楚算法如何参与诊断。第二个议题是责任归属:当算法提示与主治医师判断冲突、最终发生不良事件时,责任如何在医师、科室、医院与技术供应商之间分配,现有制度缺乏清晰答案。一线人员因此倾向于“防御性使用”,即对系统建议采取不采信、不记录的态度,这反过来削弱了系统的可评估性。
第三个议题是自动化偏见与能力退化。多位受访护士提到,新入职人员更依赖系统提示完成风险评分,而非基于床旁观察做出判断;一旦系统停机或给出错误排序,团队应急处置能力明显下降。第四是公平性:用于训练的队列若长期偏向某一类人群,模型在少数群体、罕见病与基层机构中的表现可能系统性偏低,而采购环节几乎没有要求供应商提供亚组性能数据。第五是隐私与二次使用,尤其在多院区数据打通之后,员工难以追踪一份数据的流转边界,也难以判断脱敏是否真正有效。
二、治理路径:把原则转换为流程
针对上述困境,受访者与研究者共同提出了若干可操作的治理路径,其共同特点是把抽象的伦理原则嵌入日常工作流,而非停留在宣言层面。
其一是采购环节的前置审查。医院在引入任何临床人工智能产品前,要求供应商提交模型卡,说明训练数据来源、适用人群、已知失效场景与亚组性能,并将可解释性与可审计日志写入合同条款。
其二是院内伦理与安全委员会常态化运作。由临床、护理、法务、信息与患者代表组成的小组,对高风险用途如分诊排序、脓毒症预警、用药推荐实行分级审批,并设定周期性复核节点与退出机制。
其三是人机协同的明确定义。系统输出应被定位为“第二意见”而非“默认结论”,关键决策保留医师书面确认,同时在电子病历中留存算法建议与人工判断的差异记录,为事后追溯与持续学习提供数据。
其四是员工培训与异常上报机制。把人工智能素养纳入继续教育,建立类似不良事件上报的算法异常反馈通道,让一线人员能够低门槛反馈误报、漏报与界面误导问题。
其五是患者沟通话术与选择权。为住院与门诊场景提供通俗说明材料,允许患者在非紧急情形下选择不使用算法辅助判读,并把这一选择记录在案。
三、监管背景与现实落差
从全球范围看,伦理框架并不稀缺。世界卫生组织已发布医疗人工智能伦理指南,强调自主性、安全性与公平性等原则;欧盟人工智能法案将多数医疗人工智能归入高风险类别,要求风险管理、技术文档与上市后监测;美国食品药品监督管理局批准的医疗人工智能设备数量近年快速增长,监管重点也从锁定算法逐步转向预定变更控制计划下的持续迭代。真正的落差在于医院内部:法规要求的是结果与文档,而一线面对的是即时决策与责任焦虑。
iaica.com.cn 指出,医疗人工智能的治理难点不在于缺少原则,而在于缺少把原则转换为采购条款、病历字段与排班培训的可执行环节;只有当中小机构也能负担合规成本时,伦理讨论才不至于沦为大医院的专属议题。
四、结语
受访员工的共识是:他们并不反对人工智能进入临床,反对的是在缺乏透明度、追责机制与培训支持的情况下被动接受。让使用者参与设计、让治理先于规模部署,或许比任何一项模型指标更能决定医疗人工智能的社会接受度。
评论
0 条登录后才可以发表评论。
立即登录