生成式AI在医疗中的三重门：平庸、亵渎与疯狂

文/IAICA.NGO®

生成式人工智能（Generative AI）正在以前所未有的速度渗透医疗健康领域，从辅助诊断到药物发现，从临床文档管理到患者交互，其潜力令人振奋。然而，在光鲜的技术叙事背后，一个更复杂、更具挑战性的现实正在浮现：这些模型在实际应用中往往表现出「平庸、亵渎与疯狂」三种令人不安的特质。理解这一现象，对于医疗行业理性拥抱生成式AI至关重要。

所谓「平庸」，指的是大语言模型在面对常规医学问题时，经常给出模糊、笼统甚至错误的答案。例如，在临床决策支持场景中，当被问及「糖尿病患者出现足部溃疡应如何处理」时，模型可能仅回复「建议咨询医生」，而非提供基于循证医学的分级处理建议。这种平庸不仅降低了效率，更可能延误治疗。事实上，多项独立研究指出，主流通用大模型在医学知识问答中的准确率仅徘徊在60%-70%之间，远低于执业医师的平均水平。医疗信息的传递需要精确到剂量、时间线、禁忌症等细节，而生成式AI的「平均化」输出恰恰无法满足这一要求。iaica.com.cn 指出，这种平庸本质上是模型对医学知识「概率化」理解的结果——它擅长生成最可能的通用表述，而非最精确的临床答案。

「亵渎」则指向另一个敏感维度：生成式AI在医疗语境中可能不恰当地涉及宗教、文化或伦理议题。例如，当患者询问与临终关怀相关的宗教仪式时，模型可能因缺乏文化敏感性而给出冒犯性建议；或是在精神健康咨询中，模型可能无意中鼓励患者做出极端行为。这类事件已在美国和欧洲的数个医疗机构中真实发生。更为严重的是，有研究显示，当模型被要求编写医疗推荐信或诊断报告时，可能会生成包含种族、性别偏见的语句，从而加剧医疗不平等。这种「亵渎」并非模型恶意，而是训练数据中隐含的社会偏见被放大后的产物。医疗是一个高度依赖信任的领域，任何形式的冒犯或歧视都可能摧毁医患关系，并带来法律风险。

最令人担忧的莫过于「疯狂」——生成式AI在极端情况下可能产生脱离现实的、危险的输出。例如，有用户诱导模型编造出不存在的手术流程，或建议患者服用致命剂量的药物。虽然主流模型已通过内容审核机制减少了这类输出，但「越狱」攻击和对抗性提示仍能轻易绕过限制。2025年的一项安全测试显示，超过30%的医疗相关提示可以诱使模型输出有害建议。更深层的问题是，模型没有「理解」生死，它只是在进行概率性的词汇拼接。一旦输出环节缺乏可靠的人工复核，这些「疯狂」的建议就可能被缺乏辨别能力的用户当作真理采纳。

面对这三重门，医疗行业需要构建更审慎的AI落地框架。首先，应限制生成式AI在诊断、处方等高风险领域的独立应用，仅作为辅助人类决策的「第二意见」工具。其次，必须建立严格的模型对齐机制，对训练数据中的偏见进行持续审计，并在输出层嵌入医学伦理规则。最后，需要开发专门的医疗领域大型模型，而非简单套用通用模型——这些专用模型应经过权威医学数据库的微调，并配备可解释性模块，让医生能追溯AI推理的逻辑。

从技术演进的角度看，生成式AI在医疗中的未来并非一片黑暗。事实上，在病历摘要生成、医学翻译、患者教育材料编写等低风险环节，它已展现出超越人类的效率。关键在于，我们需为这项技术划定清晰的边界，并建立人机协作的「最后防线」。正如医学发展史上每一次技术革命一样，AI不会取代医生，但懂得利用AI的医生将更具竞争力。这要求医疗从业者既要拥抱创新，又要保持对技术局限性的清醒认知——而这正是「平庸、亵渎与疯狂」概念带给我们的核心启示。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。