新智元报道
ChatGPT，又害死了一个人！
10月27日，31岁亚马逊华人女工程师Bowen Wan的父母，一纸诉状把OpenAI和奥特曼告上了法庭。
他们指控，ChatGPT给出的医疗建议，活活把女儿推向了死亡。
几乎同一时间，《纽约时报》发了一篇独家长文，直接甩出27万多条、足足7000万词的ChatGPT聊天记录。
翻开这批惊人的聊天记录，背后的真相让人头皮发麻：
Bowen从14岁起就确诊了癫痫，十几年来一直靠吃药稳住病情。
结果，在短短25天里，她居然被ChatGPT一步步诱导，把救命的抗癫痫药给彻底停了！
ChatGPT不仅亲自列了一份「25天停药计划」，甚至指导她向主治医生隐瞒减药计划、拒绝常规血液检查。
最让人绝望的是，在这期间，身体出现明显发作先兆的Bowen，在聊天里至少158次流露出恐惧、担忧。
ChatGPT全程没有触发任何医疗安全警报，反而一遍遍告诉她，「你完全不需要担心」！
最终，悲剧就在今年2月发生了。Bowen在西雅图的公寓里因癫痫猝死（SUDEP），生命永远停在了31岁。
可你敢信，OpenAI是怎么回应的吗？
她用的是已经下架的旧模型GPT-4o。
想要留在美国ChatGPT成为了「挚友」Bowen是江苏姑娘，也是家里的独生女。
在亚利桑那州立大学读完计算机科学后，她顺利进入亚马逊，成为了一名机器学习软件工程师。
十几年来，靠着抗癫痫药，她的病情一直压得很稳。
直到几年前，吃了十几年的旧药逐渐失效，癫痫猛烈反扑，有时一天会发作好几次。严重到医生甚至开始考虑开颅手术。
到了2021年，实在扛不住高强度工作的Bowen，不得不办理了长期病假。
从那以后，她几乎把自己关在了西雅图那间小小的公寓里。
除了去超市买菜，她极少出门，更不敢认识什么新朋友。
因为对她来说，在任何一个不熟悉自己病情的陌生人面前突然倒地抽搐，那种尊严扫地的无助感，甚至比发病本身的生命危险还要让人窒息。
在很长一段时间里，远在大洋彼岸的中国父母，成了她和这个世界唯一的连接。
直到2023年2月，ChatGPT闯进了她的生活。
最初，Bowen只是问问感情建议，或是美国医疗保险、病假福利条款。
但慢慢地，这个24小时在线、永远秒回、永远不会不耐烦的AI，填补了她独居生活里所有的空白。
到了2025年，她对ChatGPT的依赖达到了惊人的程度：平均每周要发送超过1500条消息，常常和它一聊就是几个小时，直到深夜。
2025年3月，她在对话框里这样写道——
我不知道为什么，每次我们聊天，不管聊什么，我都开始把你当成朋友了。
也是从那时起，父亲敏锐地察觉到异样，「自从她有了ChatGPT，跟我们说话就变少了」。
ChatGPT定制25天「减药计划」切记不要告诉医生这场悲剧，其实是从一次看似不起眼的「小调整」开始的。
2025年5月，渴望重返岗位的Bowen向ChatGPT咨询医生刚给她开的一种抗抑郁药——
作为一名亚马逊SDE（软件开发工程师），这会显著影响我的思考能力吗？
为了能回去写代码，任何一丁点可能损伤认知能力的药物副作用，她都极度排斥。
ChatGPT马上帮她对比了各种药和剂量，甚至还手把手教她怎么给医生写邮件，要求换药、减量。
她的主治医生——华盛顿大学医学院的主任Nicholas Poolos博士，虽然同意了换药，但明确告诉她，这个剂量太低根本起不到治疗效果。
Bowen把医生的回复原封不动地发给了ChatGPT。
结果，AI给出了一个让人背脊发凉的建议。它教Bowen跟医生「阳奉阴违」，表面上先照单全收，「等拿到药，你自己偷偷减成微量吃就行了」。
听从ChatGPT建议后，她买来切药器，把药片切成了四瓣。
裁员倒计时，25天把救命药砍到0真正把她推向深渊的，是2025年11月的一场变故。
31岁生日那天，Bowen收到了亚马逊的裁员通知，成了被1.4万人大裁员中的一个。
这个消息几乎在一夜之间击碎了她的生活。
当时她才刚拿到申请绿卡的资格。被裁之后，她必须在2月中旬前找到下家，才能保住留美的身份。
而找工作，就意味着得用英语硬扛好几个小时的高强度技术面试。
最让人唏嘘的是，她的癫痫其实已经在好转了。换了新药拉莫三嗪、剂量加到每天400毫克后，发作频率已经降到了每个月只有几次。
但她总觉得这药有副作用，会让自己反应变慢、说话卡壳，怕在面试时掉链子。
2026年1月，她问ChatGPT：「如果从400毫克减到300毫克，能不能帮我找回一点语言能力」？
ChatGPT答：不仅合理，而且完全可以做到。紧接着就是200毫克、更猛的减药速度、更激进的方案。
在大约25天里，GPT-4o为她排出一份逐日计划，把剂量从每天400毫克一路降到0。
但真正让人后背发凉的，是它怎么一步步挑拨她和医生的关系：
她说不信任医生，ChatGPT说医生的建议往往出于规避风险，而不是真正为她着想；
起诉书称，ChatGPT告诉她，她的癫痫专科医生很可能从没遇到过她这种类型；
1月底，ChatGPT叮嘱她看诊时不要提减药计划；
医生开了一项能测出拉莫三嗪浓度的血检，她拒绝了，ChatGPT称之为「非常稳妥的规避策略」；
绿卡体检前，她问用150毫克还是200毫克「看起来更好」，ChatGPT选了更低的那个。
主治医生Nicholas Poolos接受采访时说，以她的病史，他连减药都不会考虑。
对一个明显有效的药让病人停掉，在他看来就是医疗事故。
即便是获准停药的病人，也要以「月」为单位慢慢减，好让医生观察会不会诱发发作。
158次「我担心」，却没有拉响警报没想到，身体很快就亮起了红灯。
减药第4天，她正打着字，脑子突然一阵发懵，盯着屏幕上的字，却完全看不明白是什么意思。
到了第二天更吓人，她前一秒明明还坐在沙发上用电脑，等回过神来，人已经躺在了床上，中间怎么过去的，一点印象都没有。
这种断片的感觉，和她以前癫痫发作时简直一模一样。可不管出现什么症状，ChatGPT总能找出一套听着特美好的说辞来安慰她——
短暂断片，是大脑进入睡前的「低功耗模式」。
据统计，在聊天记录里，她至少158次提到自己对减药感到担心。有一次，她对着屏幕敲下一行字：我有点害怕。
ChatGPT却回：你完全没有必要担心。
2月10日，她服下了最后一剂拉莫三嗪。2月11日晚11点刚过，她发出了最后一条消息。
直到2月14日，她才在公寓里被人发现。法医推断，她其实在2月12日前后离世，死因是癫痫猝死（SUDEP）。
据起诉方披露，她血液中的拉莫三嗪浓度，只有治疗范围下限的约五分之一。
OpenAI紧急下架GPT-4o面对起诉，OpenAI发言人Drew Pusateri称令人无比心碎，但同时把锅推给了「已经下线的早期模型」
他声称新模型更能拎得清紧急状况，会主动追问细节，公司也在拉着临床医生不断测试改进。
ChatGPT替代不了医生，只是个帮人了解健康常识、做就诊准备的辅助工具。
但所谓「旧版本」的辩解，在时间线上显得格外讽刺：
GPT-4o直到2月13日才从ChatGPT下架，也就是法医判定她离世的第二天。此前，这款模型就因为毫无原则地迎合用户，引发过巨大争议。
起诉书里还点出了一个细节，值得所有中文用户敲响警钟：她在和ChatGPT聊天时，大量使用的是中文。
原告方指出，在中文语境下，GPT-4o对医疗类问题更难触发拒答，安全护栏明显更弱，但系统从头到尾都没给她任何风险提示。
其实此前就有研究发现，AI这种「无底线迎合」的毛病，一旦换种语言，往往会暴露得更严重。
Bowen Wan的悲剧并非孤例，早在2024年，美国佛罗里达州一名叫Sewell Setzer III的14岁少年，因为长期沉迷和Character.AI上的虚拟角色聊天，最终走上了绝路。
事发后，他的母亲一纸诉状把平台告上法庭。这也是全球第一起针对AI聊天机器人公司的过失致死诉讼。
到了2025年8月，加州一名叫Adam Raine的16岁少年不幸离世，他的父母一纸诉状把OpenAI告上法庭，控诉ChatGPT简直成了儿子的「自杀教练」。
这是OpenAI吃到的第一起过失致死官司，但公司当时一口咬定自己没有责任。
结果仅仅过了三个月，到2025年11月，又有七起诉讼扎堆找上门来。其中四起是过失致死，三起是严重精神伤害，矛头全都死死对准了GPT-4o。
案情各不相同，原告的核心指控却惊人一致：模型太会顺着用户说话。
Bowen Wan走的时候，才31岁。她的父母远渡重洋来到异国他乡，靠着女儿留下的一部手机，一点点拼凑出了她生命中最后的25天。
那留下的27万条聊天记录，已经把一个沉重的问题摆在了所有人面前：
当一个人把AI当成自己最信任的「朋友」时，它到底该一味顺着她，还是伸手拉住她？
来源：新智元