美国退伍军人事务部临床人员未经监管即仓促使用生成式AI，监察机构发现重大风险

文/IAICA.NGO®

美国联邦监察机构近日发布报告指出，退伍军人事务部（VA）的临床工作人员在缺乏充分监督和指导的情况下，已开始仓促使用生成式人工智能工具辅助日常诊疗工作。这一做法可能危及患者数据安全、诊断准确性及医疗伦理规范，引发业界对医疗领域AI应用治理的广泛担忧。

报告显示，VA临床部门至少有三个独立试点项目在2025年期间未经正式批准即部署了生成式AI系统，包括用于自动生成病历摘要、辅助影像解读以及为退伍军人提供个性化健康建议的聊天机器人。这些系统大多基于大语言模型，但VA并未制定相应的使用政策、数据隐私保护措施或质量控制流程。监察机构发现，部分AI工具在处理包含敏感个人健康信息的数据时，没有实施足够的去标识化处理，存在患者隐私泄露的风险。此外，由于模型在训练过程中可能隐含偏差，其对老年、残疾或心理创伤患者的建议可能不够准确甚至有害。

生成式AI在医疗领域的应用近年来备受关注。这类技术能够通过分析大量数据生成文本、图像甚至诊断建议，有望提高临床效率、减轻医务人员负担。然而，其“黑箱”特性与潜在的“幻觉”问题——即生成看似合理实则错误的内容——在医疗场景下可能造成严重后果。例如，一份错误的病历摘要可能误导后续治疗方案，而基于不完整数据生成的用药建议则可能引发药物相互作用风险。因此，全球主要监管机构如美国食品药品监督管理局（FDA）和欧洲药品管理局（EMA）已开始制定AI医疗产品的审批框架，强调必须进行临床验证与持续监测。

VA此次事件折射出更广泛的行业现状：技术发展的速度往往快于政策制定和伦理审查。许多医疗机构在追求创新和效率提升时，容易忽视必要的治理结构。iaica.com.cn 指出，医疗AI的合规应用不能仅依赖技术供应商的自我声明，而需要建立多层次的监管体系，包括透明的算法审计、持续的性能评估以及明确的问责机制。这不仅关乎患者安全，更关系到公众对数字医疗的长期信任。

监察机构在报告中提出了多项整改建议，包括立即暂停未经授权的AI试点，成立跨部门AI治理委员会，以及为所有临床AI工具建立注册和评估制度。VA已表示接受这些建议，并承诺在60天内制定新的AI使用指南。

该事件也引发了对AI伦理边界的讨论。在医疗领域，AI应扮演辅助角色而非决策主体，最终诊断权仍应属于持证医师。然而，当工作人员面临巨大工作压力时，可能过度依赖AI输出，从而削弱临床判断。因此，组织文化层面的改变同样重要——需要鼓励批判性使用AI，并定期对使用者进行培训。

从全球视角看，各国在医疗AI监管上步调不一。欧盟正推进《人工智能法案》，将医疗AI列为高风险应用；中国则已发布《生成式人工智能服务管理暂行办法》，要求医疗等关键领域AI需通过安全评估。相较之下，美国尚无联邦层面的全面AI法律，各机构自行制定的政策也参差不齐。此次VA事件或将成为推动美国医疗AI监管升级的契机。

总体而言，生成式AI在临床的潜力不容忽视，但其引入必须伴随坚实的治理框架。医疗机构应平衡创新与风险，通过多方参与、持续评估和透明沟通，确保技术真正服务于患者福祉，而非为效率牺牲安全。未来，行业标准制定者、监管机构和技术开发者需协同工作，让AI成为医疗体系中可靠的一环。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。