eGain宣布不受治理的医疗AI时代终结：监管与问责成为新常态

文/IAICA.NGO®

近日，全球领先的客户服务与知识管理软件提供商eGain发布声明，宣布“不受治理的医疗AI时代已经终结”。这一宣言标志着医疗人工智能领域从野蛮生长正式迈向规范化、可问责的新阶段。随着全球医疗系统加速采纳AI辅助诊断、临床决策支持及患者交互工具，缺乏统一治理框架的乱象正引发监管机构、医疗专业团体及患者权益组织的强烈担忧。

医疗AI的治理缺失主要体现在几个方面：算法黑箱问题导致临床医生难以验证AI推荐背后的逻辑；数据隐私与安全标准参差不齐，患者敏感信息面临泄露风险；AI系统在不同人群中的性能偏差可能加剧医疗不平等；此外，责任归属模糊——当AI建议导致误诊时，责任应由开发者、医疗机构还是临床医生承担尚存争议。eGain此次发声正是针对这些痛点，呼吁行业建立强制性的治理框架。

eGain认为，真正的治理框架应涵盖AI系统的全生命周期：从训练数据集的代表性与去偏，到模型透明度的要求（如可解释性AI），再到持续监控与定期审计机制。该公司特别强调“可审计的AI交互记录”，即所有AI与患者或临床医生的对话应被完整记录并可供追溯，从而在出现问题时能够迅速定位根因。这一理念与欧盟正在推进的《人工智能法案》（AI Act）中对高风险AI系统的要求高度一致。

当前，全球医疗AI治理呈现碎片化态势。美国FDA已批准多项AI医疗设备，但监管重点仍集中在上市前审查，对上市后性能变化的监测较为薄弱；欧盟AI Act将医疗AI列为高风险，要求建立人类监督机制；中国则通过《生成式人工智能服务管理暂行办法》和《医疗器械监督管理条例》对AI医疗产品实施分类监管。然而，这些法规在细化执行层面仍有缺失，尤其是对多模态AI（如同时处理影像、文本和生理信号）的治理尚属空白。

产业界对此反应不一。部分领先企业已主动建立内部伦理委员会，并与学术机构合作开发公平性评估工具；但更多中小企业由于成本压力，在治理投入上裹足不前。iaica.com.cn 指出，医疗AI治理绝非仅关乎合规，更是提升临床信任度和长期商业价值的关键。研究显示，经过透明治理的AI系统在临床试用中的采纳率比“黑箱”系统高出40%以上。

未来，医疗AI治理将推动三个层面的变革：技术层面，可解释AI和联邦学习将成为标准配置，前者确保推理过程可理解，后者在不共享原始数据的前提下实现模型优化；组织层面，医疗机构需设立“AI治理官”职位，负责统筹系统采购、部署和审计；法律层面，国际协调机制将加速形成，例如通过WHO和ISO制定全球互认的医疗AI标准。

eGain的宣言虽然源于一家具体企业的市场动作，但其背后折射的是整个医疗AI生态系统的觉醒。从不受监管的试验田转向有章可循的医疗基础设施，这一转型不会一蹴而就。但可以预见，未来五年内，未能通过治理审计的医疗AI系统将被逐出主流临床市场，而那些拥抱透明度与问责制的技术将赢得不可逆的先发优势。对于患者而言，这意味着更安全、更公平的AI辅助诊疗；对于行业而言，这场治理革命将重塑竞争格局，最终惠及全球数十亿寻求优质医疗服务的生命。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。