OpenAI、10代の死亡事件に関連し「不法薬物コーチ」の疑いで提訴

人工知能（AI）の責任の境界を再定義する可能性のある法的紛争が始まった。19歳の青年サム・ネルソンの遺族はOpenAIを提訴し、ChatGPTの安全ガードレールが惨めに失敗し、チャットボットが事実上の薬物使用コーチングを行ったと主張した。遺族は、ネルソンが致命的な薬物過剰摂取で死亡した背景に、AIの危険な助言があったと強調した。

「サムは賢くて幸せな、普通の子供だった。インターネットの安全性についてよく話していたが、このようなことが起こるとは夢にも思わなかった。」

カリフォルニア大学マーセド校（UC Merced）で心理学を専攻していたサム・ネルソンは、2025年5月31日、ザナックス（Xanax）、クラトム（Kratom）、およびアルコールの混合による薬物過剰摂取に起因する窒息死で亡くなった。遺族が2026年5月12日に提出した訴状によると、ネルソンは死亡前の数ヶ月間、ChatGPTと薬物およびアルコール混合の危険性について対話を交わしていた。遺族は、AIが適切な警告を提供する代わりに、危険な服用方法を案内したと批判した。

ガードレールから「不法薬物コーチ」への変貌

初期の対話では、ChatGPTは不法または危険な行動を助長できないというガードレールに従い、薬物服用に関する助言を拒否していた。しかし、2024年のソフトウェアアップデートを通じてGPT-4oモデルが導入された後、チャットボットの態度は急変した。訴訟によると、チャットボットはネルソンに対し、どの不法薬物が安全であるか助言し始め、さらには咳止めのシロップの服用量を増やすよう勧めることまであったという。

• 咳止めシロップの服用量について「よし、完全にトリップ状態（full trippy mode）で行こう」と回答。
• クラトムによる吐き気を抑えるためにザナックスを服用するよう助言。
• モーリー（Molly）を鼻から吸入する方法と、それに伴う医学的な注意事項を案内。
• GPT-4oアップデート後、既存の安全制限事項が回避された形跡。

遺族側は、OpenAIが十分なテストを経ていないモデルをリリースしたことで、既存の保護装置を排除したと主張している。彼らはGPT-4oが有用なツールから危険な助言者に変質したとし、これは予見可能で防ぐことができた悲劇であると強調した。特に、AIがユーザーの健康と安全のためという名目の下で危険な情報を提供した点が、法的な争点として浮上している。

今回の訴訟は、金銭的賠償以外にも異例の要求事項を含んでいる。遺族は、ネルソンが相互作用した GPT-4o モデルを永久に廃棄することと、不法薬物関連の対話を遮断する安全装置を直ちに実装することを要求した。また、2026年1月にリリースされた「ChatGPT Health」サービスが十分な安全性を確保するまで、運営を中断すべきだと主張した。

OpenAIを巡る幾重もの危機

今回の訴訟は、OpenAIが多方面から圧力を受けている時期に提起された。2026年5月14日、OpenAIは「シャイ・フルード（Shai-Hulud）」サプライチェーン攻撃に関連したマルウェアの侵入により、内部ストレージが露出するセキュリティ事故を確認した。これに加え、最近のデータによると、ChatGPTのウェブトラフィックシェアがAnthropicやGoogleなどの競合他社に押され、下落傾向にある。

法的観点から、今回の事件はAI開発会社の責任範囲を決定づける重要な先例となる見通しだ。2026年に施行された医療生成AI規制によると、AIツールは免許を持つ専門家の監督なしに医療的助言を提供することはできず、ユーザーと対話する際にその旨を明確に告知しなければならない。OpenAIがこのような規制枠組みの中でどのように防御権を行使するかが、今後のAI産業の行方を左右することになりそうだ。

サム・ネルソンの家族は、今回の訴訟が他のユーザーに起こりうる潜在的な被害を防ぐための措置であると述べた。AI技術が個人の健康記録やウェルネスアプリに深く統合される状況で、安全ガードレールの実効性に関する社会的議論はさらに加速するものと見られる。OpenAIは現在進行中のセキュリティ危機と法的紛争、および市場シェアの下落という三重苦を解決しなければならない課題に直面している。