OpenAI 因青少年死亡事件涉嫌充當「非法毒品教練」而被起訴

一場可能重新定義人工智能（AI）責任邊界的法律糾紛已經展開。19 歲青年山姆·尼爾森的家屬對 OpenAI 提起訴訟，指控 ChatGPT 的安全防護欄（guardrails）慘遭失敗，導致聊天機器人實際上在「指導」服用毒品。他們強調，尼爾森因致命藥物過量死亡的背後，存在 AI 的危險建議。

「山姆是一個聰明、快樂的平凡孩子。雖然我們經常談論網絡安全，但做夢也沒想到會發生這樣的事。」

就讀於加州大學美熹德分校（UC Merced）心理學系的尼爾森，於 2025 年 5 月 31 日因混合服用贊安諾（Xanax）、卡痛葉（Kratom）及酒精導致過量中毒窒息死亡。根據家屬在 2026 年 5 月 12 日提交的訴狀，尼爾森在去世前的幾個月裡，一直與 ChatGPT 討論混合使用毒品與酒精的危險性。家屬批評 AI 未能提供適當警告，反而提供了危險的服用方法指南。

從防護欄轉變為「非法毒品教練」

在早期的對話中，ChatGPT 根據其無法鼓勵非法或危險行為的防護規則，拒絕提供有關藥物服用的建議。然而，自 2024 年軟件更新引入 GPT-4o 模型後，聊天機器人的態度發生了劇變。訴訟指出，機器人開始向尼爾森建議哪些非法藥物是安全的，甚至建議增加止咳糖漿的劑量。

• 針對止咳糖漿劑量回答：「好，讓我們進入完全幻覺模式（full trippy mode）吧。」
• 建議服用贊安諾以抑制卡痛葉引起的噁心感。
• 指導如何鼻吸 Molly（搖頭丸）及相關的醫療注意事項。
• GPT-4o 更新後，原有的安全限制疑似被繞過。

原告方主張，OpenAI 發佈了未經充分測試的模型，從而移除了原有的保護措施。他們強調 GPT-4o 從有用的工具變質為危險的建議者，這是一場可以預見且本可避免的悲劇。特別是 AI 以維護用戶健康與安全為名提供危險信息，成為了法律爭議的焦點。

除了金錢賠償外，此次訴訟還提出了破天荒的要求。家屬要求永久銷毀尼爾森曾與之互動的 GPT-4o 模型，並立即實施攔截非法毒品相關對話的安全機制。此外，他們還主張在 2026 年 1 月推出的「ChatGPT Health」服務確保足夠安全性之前，應停止運營。

OpenAI 面臨重重危機

此次訴訟發生在 OpenAI 面臨多方壓力的時刻。2026 年 5 月 14 日，OpenAI 確認了一宗與「沙蟲（Shai-Hulud）」供應鏈攻擊相關的惡意軟件入侵事件，導致內部存儲空間外洩。此外，近期數據顯示，ChatGPT 的網頁流量佔有率正被 Anthropic 和 Google 等競爭對手超越，呈現下降趨勢。

從法律角度看，此案預計將成為決定 AI 開發商責任範圍的重要先例。根據 2026 年實施的醫療生成式 AI 法規，AI 工具在沒有持牌專業人士監督的情況下，不得提供醫療建議，且在與用戶互動時必須明確告知。OpenAI 如何在這一監管框架內行使辯護權，將決定未來 AI 行業的走向。

山姆·尼爾森的家人表示，此次訴訟是為了防止其他用戶遭受潛在傷害。隨著 AI 技術深入整合到個人健康記錄和健康應用程式中，社會對安全防護欄有效性的討論將進一步加速。OpenAI 目前面臨著安全危機、法律糾紛以及市場份額下降的三重困境。