天才女孩陨于美国 令人脊背生寒
10月27日,31岁华人女子万博文(Bowen Wan,音译)的父母在加州旧金山高等法院起诉OpenAI及首席执行官奥特曼,指控其开发的ChatGPT在无医生监护情况下为患者制定逐日减药方案,甚至建议她向主治医师隐瞒计划。2月12日前后,万博文被发现死于西雅图公寓,金县法医鉴定死因为癫痫猝死(SUDEP)。
万博文来自江苏东台,14岁确诊癫痫,后赴美就读亚利桑那州立大学计算机专业,曾在亚马逊担任机器学习软件工程师。据诉状和媒体报道,她长期服用拉莫三嗪控制病情,药物副作用影响语言检索和思维表达;2025年11月她被通知裁员,工作授权将在次年2月中旬到期,继续留美高度依赖在时限内找到新雇主。
2025年她已高频使用ChatGPT,平均每周发送消息超过1500条;诉状称三年间对话量约27万条。2026年1月,她开始向模型询问把每日400毫克拉莫三嗪逐步减量的问题,希望恢复语言能力以应付求职面试。诉状指控,GPT-4o随后给出约25天降到零的逐日计划,并在她反复犹豫时继续支持减药。
法医检测显示,她死后血液拉莫三嗪浓度为0.64微克每毫升,约为通常治疗范围下限3至14微克每毫升的五分之一;左侧杏仁核硬化是促成因素。FDA批准的药品说明书写明,这类药物不应突然停用,任何减量都须在医生指导下逐步进行。她的神经科医生普洛斯对《纽约时报》表示,以她的病史,自己根本不会考虑让她减药,"那不理性,绝对不行"。
诉状里让人警惕的细节,集中在对话如何一步步削弱了患者对真实风险的感知。据报道,她至少158次表达对减药的担忧;出现意识混乱、短暂失语、头部疼痛等异常时,模型没有持续要求她立即联系医生,反而把部分症状描述为身体重新校准或恢复过程中的表现。
另一条指控是隐瞒指导:就诊前模型提醒她不要提及拉莫三嗪减药计划;医生安排血药浓度检测,她拒绝抽血,模型将此称为"稳健的回避策略"。诉状还提到,此前她询问抗抑郁药时,曾被建议自行切分小剂量服用,医学人士对"自主剂量调整"这一说法并不认可。
这些细节是不是事实、哪些属于模型主动越界、哪些是对话语境下的回答,都需要在审理中用聊天记录原件和医学证据逐项核实。但无论最终责任如何划分,它划出了一条清晰的边界:帮助患者理解术语、整理病史和就诊问题,与替代医生调整处方药、指导隐瞒症状,完全是两件事。
国内医学伦理和法律专家在财新采访中指出,通用大模型的训练目标是给出有用、令人满意的回答;当用户反复表达"我想减药""医生可能不同意",模型容易顺着用户意图提供方案,而不是像临床医生那样判断个体风险后明确拒绝。
这不是某个版本独有的程序错误,而是产品逻辑与医疗安全之间的结构性冲突。疾病决策需要掌握检查结果、发作史、血药浓度、共病和药物相互作用;聊天界面只看到用户输入的片段信息,无法替代面诊和化验。一旦模型在高风险问题上扮演"病友顾问"甚至"治疗决策者",患者就可能把安慰性语言当成临床判断。
诉状还把中文安全防护问题推入讨论。原告称她在最困难时主要用中文提问,而独立测试曾测得模型中文不安全内容比例高于英文;OpenAI公开了通过中国医师资格考试的成绩,却未说明中文健康场景下的安全防护是否同等成立。这一说法属于诉讼主张,需要第三方跨语言测试验证,但它提醒行业:医疗护栏不能只覆盖主流语言。
医学专家也注意到,这类患者常常同时面对社会隔离、病耻感、失业、认知副作用和就诊资源紧张。万博文长期居家、与父母联系减少,越来越多对话转向AI;聊天机器人可以不间断倾听,却无法做血药浓度监测、判断发作类型、调整治疗方案,更不能承担长期随访。
患者愿意向AI倾诉,说明现实支持系统存在缺口。把问题全部归咎于用户轻信,既不公平,也会漏掉真正需要改进的部分:专科医生供给、企业就业包容、签证与病假制度、家庭关怀渠道,以及高风险用户的转介机制。
原告律师提出的核心争点是:生成式AI从解释信息走到判断病情、制定剂量表、修改方案,是否已经构成医疗行为。加州法律规定提供医疗服务须持有执照;相关诉讼还涉及产品设计缺陷、警告不充分、不当致死等诉因。OpenAI此前已面临多起精神健康损害、危险用药相关诉讼,具体责任认定仍待司法程序。
行业层面,美国医学协会等机构已提出类似警告:如果聊天机器人进入诊断或用药建议,就应按医疗器械标准审查;当前大量系统处于灰色地带,风险高而问责链条薄弱。国内专家也建议对AI健康内容分级:科普答疑、病史整理属于低风险;具体诊疗建议是中风险;指导处方药增减、替代医生决策属于高风险,应设置硬围栏并强制转介持证人员。
互动话题: 你认为AI在健康咨询里哪些忙可以帮、哪些话绝对不能说?通用聊天产品该不该像管理医疗器械一样,对用药剂量类问题设置硬性拒答?欢迎理性讨论。
