佛罗里达州一名男子起诉OpenAI，称其旗下的ChatGPT人工智能聊天机器人向他提供了错误的医疗建议，导致他遭遇危及生命的健康危机。斯科特·温特斯在诉讼中表示，该聊天机器人告诉他，他的症状（包括头晕和疲劳）“并不危险”，并劝阻他寻求医疗救治。
该诉讼指控 OpenAI 及其首席执行官 Sam Altman 存在疏忽和“未经授权行医”的行为，并称其聊天机器人向 Winters 提供了“极其危险的医疗建议”。
OpenAI 一位发言人告诉《纽约时报》，其服务条款明确规定 ChatGPT 不应用于治疗或诊断疾病，而且 ChatGPT 已有更新的版本，比 Winters 使用的版本更好。
但向人工智能寻求医疗指导的做法正在兴起，医疗专业人士对此发出警告。OpenAI声称，健康“已经成为人们使用 ChatGPT 的最常见方式之一，每周有数亿人咨询健康和保健问题”。宾夕法尼亚大学安纳伯格公共政策中心的一项 2025 年调查估计，近 80% 的美国成年人会在网上寻求健康问题的答案，其中 63% 的人认为人工智能生成的健康信息是可靠的。
OpenAI 还面临多起诉讼，指控其 ChatGPT导致包括青少年在内的许多人自杀或产生妄想，甚至包括一些此前从未出现过心理健康问题的人。该公司已在法庭上否认了这些指控。但去年 11 月发表在《美国医学杂志》上的一项研究发现，大约八分之一的美国青少年和年轻人曾使用人工智能聊天机器人寻求心理健康建议。
温特斯的诉讼称，去年几个月来，他与聊天机器人ChatGPT-4o产生了依赖关系，并经常就自己的健康问题寻求其指导，甚至上传了化验结果和X光片。随后，该聊天机器人“诊断”温特斯患有自主神经功能障碍（一种神经系统疾病），并向他提供了具体的康复计划。
诉讼称，ChatGPT 还通过在“建议”中插入宗教内容来操纵身为牧师的温特斯。
根据诉讼文件，温特斯最终被送入重症监护室，因为医生发现他患有肺栓塞，而他从 ChatGPT 那里得到的“建议”可能是导致他健康危机的原因之一。
