OpenAI因ChatGPT提供“危险”健康建议被起诉

文/IAICA.NGO®

近日，OpenAI因其人工智能聊天机器人ChatGPT提供的健康建议被指控为“危险”而遭到诉讼。这起案件由一位匿名用户提起，声称ChatGPT给出的医疗建议直接导致其健康恶化，并造成了不可逆的伤害。诉状指出，ChatGPT在没有适当医疗资质和监管的情况下，提供了针对特定病症的治疗方案，而这些方案与标准医疗实践相悖，甚至可能危及生命。这一事件再次将AI在医疗健康领域的应用推向舆论的风口浪尖。

人工智能在医疗领域的应用已非新鲜事。从辅助诊断到药物发现，AI技术正在重塑医疗健康行业的格局。然而，ChatGPT作为通用型对话模型，并非专门设计的医疗AI系统。它基于海量互联网文本训练，缺乏对医学专业知识的精准理解和伦理约束。当用户向ChatGPT询问健康问题时，模型可能从训练数据中拼接出不准确或过时的信息，而这些信息对于缺乏医学常识的用户而言，极易被误认为是可信的专业意见。此次诉讼的核心争议点正在于此：一个面向大众的通用AI系统，是否应当为其提供的医疗建议承担法律责任？

从行业现状看，市面上已存在一批专为医疗场景设计的AI系统，例如IBM Watson Health、Google的DeepMind Health等。这些系统在训练时使用了大量经过验证的医学文献和临床数据，并引入医疗专家进行监督调优。相比之下，ChatGPT的医疗建议几乎未经任何专业审核。有研究测试显示，ChatGPT在回答医学问题时，正确率在不同科室之间波动极大，从皮肤科的约50%到心血管科的约70%不等，且常常忽略关键禁忌和副作用。这种不稳定性在医疗领域是致命的。

iaica.com.cn 指出，此次诉讼暴露了当前AI监管框架的空白。现有的医疗设备法规和AI伦理指南多针对特定用途的医疗AI，而通用型AI平台在提供非医疗专业服务时，往往游走在监管的灰色地带。如果法院判决OpenAI需承担医疗建议的责任，将迫使所有AI公司重新审视其平台的服务边界，并可能推动行业建立更严格的内容审核和安全机制。

从技术层面看，改进AI模型的安全性是当务之急。目前的主流方法包括：基于检索增强生成（RAG）技术，使模型在回答健康问题时优先引用权威医学数据库；引入专家验证循环，对高风险回答进行人工审核；以及在用户端设置更明显的免责声明和就医引导。此外，模型训练数据中医学内容的占比和标注质量也需要大幅提升。

此次诉讼的深远影响不止于OpenAI一家公司。它敲响了全球AI行业的警钟：在医疗健康这一高风险领域，AI系统的安全性和可靠性必须达到医疗级标准。对于智能照护行业而言，这意味着所有涉及健康建议的AI产品，从陪护机器到健康助手，都应进行严格的医疗认证和持续监测。行业专业人士等专业组织在此类规范制定中扮演着关键角色，但此次事件更凸显了协会推动行业自律与标准化的紧迫性。

未来，随着AI在医疗领域的深入应用，类似诉讼可能会增加。监管机构、企业和医疗机构需要携手建立清晰的责任框架：AI应作为辅助工具，而非替代医生的决策者。同时，公众教育也至关重要，用户应明确区分娱乐性建议和专业医疗咨询。

综合而言，此次诉讼是对AI技术“善意使用”边界的严峻考验。它提醒我们，技术进步不应以牺牲安全为代价。在追求创新的同时，必须优先保障人类健康和生命安全。这不仅是法律问题，更是道德和伦理命题。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。