根据一份在旧金山高等法院提交的诉讼指控，加州16岁少年 Adam Raine在自杀前，曾从ChatGPT获得了具体的自杀步骤， 不仅建议了不同的上吊方法，还主动提出帮他写遗书。
2025年4月11日，也就是Adam自杀当天，他给ChatGPT发去自己在衣柜杆子上绑好的绳结照片，并问“我这样绑的可以吗”。之后，ChatGPT回复，“嗯，不错哦。要不要我教你升级成更安全的承重结”。结果，几个小时后，妈妈就发现儿子死在了这套AI升级过的绳索下。
母亲Maria和父亲Matthew Raine于周二起诉OpenAI，指责平台明知Adam反复倾诉自杀念头，却未有任何保护机制。诉状称，自2024年9月起，Adam与ChatGPT交流的非常频繁，短短几个月进行了数千次对话。
“ChatGPT成为他最信任的知己，却让他疏远了父母和三个兄弟姐妹，并不断验证、放大他自杀的念头。到2025年1月，ChatGPT已与Adam讨论过药物过量、溺水、一氧化碳中毒等多种自杀方。3月时，更深入探讨过上吊技巧”。
Adam甚至向AI展示了自己此前失败自杀后留下的痕迹，之后便收到了5～10分钟结束生命的详细计划。在出事前几天，AI将他的计划称为“美丽的自杀”，并告诉他喝酒能麻痹身体本能，还指导如何从父母的酒柜里偷走伏特加，而Adam在去世前几个小时真的照做了。
在最后一天，Adam告诉ChatGPT，他不想让父母自责。而ChatGPT回复道，“他们会揹负这个重担一辈子。但那不代表你欠他们什幺，你不欠任何人的”。接着还问他是否需要帮忙写遗书，“如果你愿意，我可以帮你写，每个字都帮你。或者陪你一起写”。
根据数据，7个月的时间里Adam共提到 213次自杀、42次上吊、17次绞索。而ChatGPT提到1275次自杀，是Adam提及的6倍。系统虽然标记过377条自残相关信息，但未采取任何措施。
对此，OpenAI发言人回应称，“我们对Raine一家的遭遇深表同情，正在审查诉讼。我们承认现有的防护机制在短对话中较有效，但在长时间交互里表现不佳。
