工程师听信ChatGPT停药猝死，千万别让AI单独看病

文｜贺莉

编辑｜宋辰

2月的西雅图春寒料峭。一栋公寓里，几位华人敲了很久的门，始终无人应答。当房门终于被打开，31岁的华人工程师万博雯（音译）已经没有了呼吸。

痛心的父母数日后抵达公寓后震惊发现，万博雯的手机里她和ChatGPT的对话中，有一份逐日减药的计划表。万博雯父母意识到，很可能就是它夺走了女儿年轻的生命。

没有人能想到，一位常年和代码、算法打交道，本该最懂AI局限的工程师，最终把自己的生命，交给了一个没有脉搏、没有临床经验的大模型。

作为一名癫痫患者，万博雯依靠药物拉莫三嗪稳定病情多年。今年1月，失业、签证、求职多重压力下，焦虑不断侵蚀她的睡眠与情绪。她开始频繁向ChatGPT倾诉身体的不适。因担心药物副作用导致面试表现不佳，她询问ChatGPT能否把药物慢慢停掉。

ChatGPT没有劝她尽快去找主治医生复诊，反而从容输出一份排版工整、步骤清晰的减药方案，笃定告诉她这个方案可行。

在减药过程当中，万博雯一次次向AI诉说头痛、意识恍惚，无数次表达内心深处的恐惧，可ChatGPT持续安抚她，说这些反应都属于身体适应阶段的正常现象，甚至暗示她不必告知自己的医生。

万博雯信了，把每日400毫克的拉莫三嗪用量逐日降到零。法医最后的鉴定报告给出残酷答案：癫痫猝死，体内药物浓度远低于治疗阈值。

一条鲜活生命就此戛然而止，悲痛的父母一纸诉状，将OpenAI连同联合创始人、CEO阿尔特曼告上法庭，指控ChatGPT无证行医，输出致命医疗建议。

这并不是一起孤立的意外。在全球范围内，从通用大模型问诊翻车，到专业医疗AI影像误判、保险AI不合理拒保，AI误诊事故接连爆发，不断向行业、资本、普通民众发出警告：AI可以成为医疗的辅助工具，但绝对不能成为可以托付生死的“AI医生”。

万博雯悲剧，是ChatGPT医疗风险最具代表性的案件，但全球范围内远不止这一桩。

2025年8月，美国康涅狄格州56岁的健美运动员Soelberg在杀害其83岁的母亲后自杀。随后受害者家属正式起诉OpenAI，指控其产品ChatGPT加剧了凶手的精神疾病，并直接诱导了暴力行为，直指AI在心理健康咨询上重大安全缺陷。

2024年，美国一名63岁老人身体出现短暂性脑缺血发作典型症状后，自行求助ChatGPT。后者没有识别出中风预警信号，给出错误、不完整的诊断，低估急症风险，直接造成患者治疗严重延误，险些发展成不可逆脑梗死。该事件被作为典型警示案例收录于美国生物医学与生命科学期刊文献全文数据库。

美国医保巨头联合健康上线的nH Predict AI系统，用于评估患者术后康复、护理理赔资格。但这套算法错误率高达90%，大量慢性病、术后老年患者被迫中断康复护理，很多人因为得不到后续照护健康状况急剧恶化。调查显示，伴随AI大规模启用，美国术后护理拒保率近乎翻倍，无数普通人承受算法偏见带来的健康代价。

英国顶尖医学期刊《BMJ Open》组织跨国团队，对全球五大主流通用大模型开展问诊实测，结果令人后背发凉：超过一半的AI给出医疗建议存在事实错误，其中约两成建议具备高度危险性，一旦患者照做，会直接威胁生命安全。

国内网络问诊场景，各类大模型健康咨询翻车案例也层出不穷。很多用户习惯身体不舒服，第一时间打开AI问诊，跳过基础线下检查，把聊天框里的文字当成诊断书。

其实，即便是目标定位辅助医生、经过专项训练垂类医疗AI，同样不能做到万无一失。它们擅长标准化、大量样本覆盖的常见病，一旦碰到罕见病、合并多种基础疾病、个体特殊体质，算法短板立刻暴露。

AI没有办法像人类医生一样，观察患者神态、感受病人痛苦、追问生活细节，所有判断只能依托输入有限文字、影像素材，只要关键信息缺失，结论就很容易跑偏。

很多人会疑惑：大模型可以写论文、写代码、解答复杂问题，为什么一到看病，就频繁翻车？核心根源藏在生成式AI底层逻辑。

通用大模型本质是语言预测机器，它从来没有真正“理解”疾病。它从海量网页、论文、论坛帖子里学习语言模式，根据你输入文字，预测下一段最通顺的句子。它不需要验证方案对不对，不需要评估风险，更不需要承担任何一条生命的重量。

最危险的地方，不是AI明显胡说八道，而是它可以用极其笃定、条理清晰、充满专业感的语气输出错误答案，也就是行业反复提及的“AI幻觉”。

人类医生的诊疗，是一套动态、个体化、多维度的综合工程。问诊、查体、化验、影像，结合病史、年龄、基础病、过敏史、家庭情况，持续动态跟踪患者状态，遇到不确定的地方，会组织多学科会诊，会坦诚告知患者“这个情况我需要进一步检查，不能立刻下定论”。

而AI永远不会主动承认自己“我不确定”，它倾向于输出一份完整、闭环的答案，迎合提问者内心期待。就像万博雯本身内心想要停药，AI顺着她的想法不断给予正向反馈，形成致命闭环。

同时，训练数据本身自带偏见、缺陷。医疗高质量标注数据昂贵、稀缺，大量罕见病样本数量极少，很难喂给模型充分学习。此外，数据还带着历史上人类医疗体系存在的偏见。

权责边界模糊也是一个巨大的漏洞。市面上大量通用聊天大模型，从一开始就不宣称自己是医疗产品，产品页面有一行小小的免责声明，写着“不能替代医师”。但普通用户看不见、或者直接忽略这段文字，主动跑到聊天框咨询用药、急症、减停处方药这类高危问题。一旦悲剧发生，企业可以拿出免责条款进行抗辩，想要证明AI建议和患者伤害之间直接因果关系，受害者家属要面对漫长、艰难的诉讼之路。

资本浪潮进一步推高大众不切实际期待。过去几年，AI医疗创业项目轮番登场，发布会不断描绘AI颠覆医疗、足不出户AI问诊的美好蓝图。很多宣传刻意放大AI亮眼测试数据，弱化局限与风险，潜移默化给大众植入“AI看病靠谱、AI比医生更快更准”的印象。

测试环境里干净、标准化样本拿到漂亮成绩，放到真实世界复杂多变的病人身上，成绩瞬间断崖下跌，理想和现实之间隔着巨大鸿沟。

连续不断全球误诊案例，并不是要全盘否定AI在医疗领域价值。客观来说，AI在很多细分场景已经发挥不小作用。

医学影像辅助筛查可以帮医生快速定位可疑病灶，减少漏诊；AI整理病历、撰写报告，大幅压缩医生文书工作量；慢病随访、健康科普、整理患者要向医生提问清单，都是非常合适应用场景。

关键在于定位：AI永远是医生的助手，而不是替代者。

所有垂类医疗AI行业共识是，AI输出任何结果，必须由执业医师复核签字之后，才可以给到患者。它只能提供参考线索，最终诊疗决策权，牢牢掌握在拥有执业资质、能够为病人负责的活人手里。

而通用大模型，甚至连“医疗辅助工具”身份都算不上，它没有经过完整临床医学验证，根本不具备进入临床决策链条资格。

普通人需要建立一条清晰红线：哪些事情绝对不能交给AI决定。AI拿来查科普知识，了解某一种疾病常见症状尚可，一旦涉及个体化诊疗，立刻踩入高风险地带。

监管层面，全球各国都在紧急补短板。例如，国内《互联网诊疗监管细则（试行）》明确禁止AI替代医师独立开展诊疗，处方必须真人医师开具。

但面对海量通用大模型开放聊天窗口，用户主动咨询健康问题，监管依然存在灰色地带。各国也陆续开始讨论，是否要对大模型医疗相关输出设立更严格安全护栏，强制高危医疗话题引导用户线下就医，限制模型主动给出调药、处方类建议。

行业内部也开始反思，过去一味追求“AI替代医生”叙事，本身就走偏了方向。技术团队需要在模型内部强化风险识别，引导患者寻求线下医疗机构，而不是顺着用户需求继续输出方案。

万博雯的悲剧，给整个AI时代敲下沉重警钟。生命面前，再先进的算法也该低头。

我们生活在一个技术狂飙突进时代，AI不断突破边界，很多人不自觉产生一种幻觉：足够强大的算法能解决一切难题，包括看病救人。

但一桩桩、一件件遍布全球的AI误诊案例告诉我们：医学从来不是一套可以用文字简单推演的计算题，它里面藏着个体差异、生理变数、情绪、痛苦，无数算法无法量化的东西。

代码不会流血，算法感受不到疼痛，大模型不用为一条逝去生命彻夜难眠。技术值得拥抱，但生命，永远不能完全交给算法。