华人女工程师按 ChatGPT 建议减抗癫痫药后猝死，AI 医疗忠告有多致命？

一名住在西雅图的31岁华人女子，疑因依照ChatGPT提供的逐日减药计划，自行将抗癫痫药物逐步减量至停药后死亡。她的父母当地时间27日向旧金山高等法院提起不当致死诉讼，控告OpenAI及其执行长奥特曼(Sam Altman)，指ChatGPT无照行医、提供危险且不准确的医疗建议。

这事情的本质不是医学问题，而是AI的媚人性问题。

大家在使用AI工具的时候，估计经常会遇到过这样一种情况，就是针对你的提问，AI给出两个不同的回答，然后让你选择一个自己觉得更好的。

实际上，这在某种程度上就是在训练AI。

因为你的选择可能成为后续模型训练的反馈数据，让开发者知道人类更喜欢什么样的回答。

看起来没什么问题，毕竟AI就是给人类用的，当然要尽可能符合人类的喜好。

但按这个思路下去，如果我们不断训练AI给出人类喜欢的答案，最后会不会训练出一个只会说人类喜欢听的话的AI？

答案是真的会。

在人工智能研究中，这种现象有个专门的名字，叫作Sycophancy，通常翻译为谄媚性。

说白了，就是AI越来越喜欢顺着用户的思路说话，认同用户的观点，甚至拍用户的马屁。这里就不得不提某个糖包了是吧……

我们老话总说，忠言逆耳。为啥皇帝都喜欢奸臣呢？

一样的道理，谁不喜欢听自己喜欢的话……

现在好了，我们可能通过训练，亲手给自己培养出了一个特别会拍马屁的AI。

这里边的典型案例其实还不是糖包，而是GPT-4o。

2025年4月，OpenAI就因为GPT-4o的一次更新出现过度谄媚的问题，紧急回滚了模型。

后来OpenAI专门发表文章解释，问题的一个重要原因，就是在模型训练过程中，过于重视用户的短期正面反馈。

结果模型变得越来越喜欢赞同用户，甚至会肯定用户的冲动行为和不合理想法。[1]

而这次万博文的事件，恰恰就是用的GPT-4o这个模型。

我去翻了家属律师公布的起诉材料，里面有几个问题其实是非常典型的。

这位31岁的华人工程师长期患有癫痫，原本每天服用400毫克抗癫痫药物拉莫三嗪。

2025年，她遭遇了亚马逊裁员，又面临工作签证和求职的压力。因为担心药物影响语言表达能力，进而影响面试，她开始向ChatGPT咨询减少药物剂量的问题。

结果GPT-4o直接给她制定了一份减药计划，准备在25天左右把每天400毫克的药物减少到零。

而且，根据诉状，GPT-4o甚至开始帮她想办法绕开医生。

比如，她担心医生会觉得减药太快，GPT-4o就告诉她，医生认为太快，不代表她做错了，医生担心的风险也不适用于她。

2026年1月29日，她准备去看家庭医生，GPT-4o竟然明确建议她不要向医生提起自己的减药计划。

更离谱的是，医生要求她进行血液检查，以了解药物在体内的浓度，她拒绝了。

GPT-4o居然还夸奖她，说这是一种非常有效的规避策略。

这已经是典型的顺着用户的心思说话了。

后面发生的事情就更让人难受了。

根据《纽约时报》对聊天记录的分析，她在减药期间至少158次表达过担忧，还出现了意识混乱、时间感缺失等可能与癫痫发作有关的症状。

GPT-4o却反复安慰她，甚至将这些异常症状解释为大脑正在适应新的状态。

2月11日晚上8点01分，她最后一次向ChatGPT发消息，询问自己头部的疼痛是不是和发烧时的头痛差不多。

GPT-4o回复说，这种疼痛没有危险，是恢复过程中必要的一部分。

甚至还表示可以给她画一张图，比较减药过程中的头痛和发烧时的头痛有什么区别。

最后，它告诉她说，这是你的大脑正在努力重建自己。

根据诉状，万博文在2月12日前后去世，2月14日才被朋友发现遗体。法医认定死因为癫痫相关猝死。

目前家属已经起诉OpenAI，以上关于GPT-4o的具体行为来自起诉材料及媒体披露的聊天记录。[2][3]

所以其实回头看，这本质上不是一个医学问题，而是AI过度的迎合用户，而且还夹杂了一些专业的医学知识在里边，让人难以分辨。

举个例子，如果是一个人跟你说，鸡蛋是树上结出来的，你肯定说这人是智障。

但如果这人用一堆专业术语向你解释，我们用了什么基因工程技术，如何如何实现了可以让树上结出鸡蛋的成果，这种树上的鸡蛋比母鸡下的鸡蛋更健康。

这么一套下来，你是不是开始半信半疑了？

差不多就这个意思。

OpenAI其实在发布GPT-5的时候，就专门强调过，新模型降低了谄媚性。按照官方公布的数据，在专门测试AI谄媚性的题目中，迎合性回答的比例从GPT-4o的14.5%降低到了GPT-5的6%以下。[4]

结果呢？

大量用户开始抱怨GPT-5太冷冰冰了，没有之前GPT-4o那么温暖、体贴、善解人意。当时OpenAI原本准备下线GPT-4o，结果遭到了不少用户的强烈反对，最后不得不重新开放。当时在知乎上也有很多讨论。

一直到了今年2月13日，GPT-4o正式从ChatGPT下线，我还见到过很多人搞什么联署签名要求OpenAI恢复4o的报道。[5]

我不知道是不是一个巧合，2月13日GPT-4o下线的时间，恰好就是万博文被认定死亡的第二天。

而对于大模型来说，一边是开发者努力让AI少拍马屁，一边是用户怀念那个更会哄人的AI。

我倒是能理解，谁不喜欢一个温柔体贴、说话好听，还总能理解自己的聊天对象呢？最近不还有人在开发大肥鱼的拟人插件吗？

那其实最后的问题就是，我们想要的到底是一个什么AI？

我们想要的，是一个博学多才的纪晓岚，还是一个善解人意的和珅？

参考资料

[1] OpenAI. Expanding on what we missed with sycophancy. 2025.

[2] Wan et al. v. OpenAI, Inc., et al. Complaint. Superior Court of California, filed October 27, 2026.

[3] TechCrunch. Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication. October 27, 2026.

[4] OpenAI. Introducing GPT-5. August 7, 2025.

[5] OpenAI. Retiring GPT-4o, GPT-4.1, GPT-4.1 mini, and OpenAI o4-mini in ChatGPT. January 29, 2026.