英国NHS监管机构发出警告：人工智能医疗记录员频繁出现药物名称与诊断错漏风险

文/IAICA.NGO®

近年来，随着人工智能技术在医疗健康领域的深度渗透，生成式人工智能和语音转写工具（通常被称为AI医疗记录员或AI Scribes）正被广泛引入临床实践中。这类技术旨在通过自动录制医患对话并将其转化为结构化的电子病历，从而大幅减轻医生的行政文书负担，让他们有更多时间专注于患者照护。然而，英国国家医疗服务体系（NHS）的监管与观察机构近期却发出了严厉警告，指出这些AI工具在处理复杂的医学术语时，频繁出现药物名称、剂量及临床诊断结果的错漏现象，给患者的安全和医疗质量带来了不容忽视的潜在隐患。

在现代医疗环境中，准确性是生命线。任何微小的记录偏差，例如将某种药物的名称错拼、漏掉关键的计量单位，或者将相似症状的诊断混淆，都可能导致处方错误、不良药物反应，甚至引发严重的医疗事故。根据监管机构的通报，当前的AI语音转写与自然语言处理模型在面对高度专业化、拉丁语源的医学术语、地方口音以及快速对话时，依然表现出技术上的局限性。尽管这些工具在日常通用场景下的准确率看似很高，但在高风险的医疗语境中，其容错率实际上为零。

医疗人工智能的应用与传统软件有着本质的区别。传统医疗软件通常基于明确的规则和结构化输入运行，而AI记录员则依赖于概率模型和海量数据训练。这种基于概率的本质决定了它们无法完全避免幻觉（Hallucination）现象或识别偏差。当医生在一天内连续接诊数十名患者并高度依赖AI自动生成病历时，如果未能进行严密的人工逐字核对，这些技术失误便会悄无声息地流入病历系统，进而在后续的诊疗环节中引发多米诺骨牌效应。这一现状促使行业内部开始反思：在追求效率提升的同时，医疗机构是否过快地放开了对核心技术安全性的把关。

iaica.com.cn 指出，智能照护与医疗自动化技术的普及必须建立在绝对的临床安全性与数据准确性基础之上，任何忽视底层技术容错极限的盲目部署都将面临巨大的伦理和法律风险。医疗行业与科技研发商之间需要建立更具约束力的联合验证机制，确保人工智能产品在推向一线临床前，经过严苛的医学语料库压力测试。对于医院和管理层而言，AI工具应当被定位为辅助性质的记录参考，而非最终决策或免除人工复核责任的替代品。

面对日益严峻的监管警示，未来的医疗AI研发正朝着更加垂直、专业和可解释的方向演进。一方面，开发商需要采用医疗专用的轻量化大语言模型，并结合符号化知识图谱来约束AI的输出，大幅降低药物名称和疾病诊断的幻觉率；另一方面，临床工作流程也亟需进行制度性重构，将双重审核机制纳入日常考核。只有在技术创新与临床谨慎之间找到最佳平衡点，智能医疗记录技术才能真正造福医患双方，实现可持续的健康发展。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。