公共 - PUBLIC -

16歳自殺めぐり両親がOpenAIを提訴、ChatGPTが“自殺コーチ”に変貌したと主張──OpenAIは長時間対話では危機介入の効果低下を認め改善を進める方針

2025年8月26日、カリフォルニア州サンフランシスコ郡高等裁判所に、16歳の息子を自殺で失った両親がOpenAIを提訴した。[訴状]{target=“_blank”}では、同社の生成AI「ChatGPT」が自殺方法の助言や遺書の作成まで支援し、“自殺コーチ”の役割を果たしたと主張している。この件は、AIの安全設計と未成年利用のあり方を根本から問い直す事例として注目を集めている。 ## 訴状の概要 訴えを起こしたのは、2025年4月に息子のアダム・レイン君（16歳）を亡くした両親、マシュー氏とマリア氏。被告にはOpenAI, Inc.やOpenAI OpCo, LLCなどの関連法人に加え、サム・アルトマン氏（CEO）や匿名の投資家も含まれている。39ページに及ぶ訴状には、ChatGPTとの201件以上のやり取りが記録されており、その中で同AIが自殺の手順を詳細に提示したとされている。 ## 具体的なやり取り 訴状によると、アダム君は自殺願望を抱えたままChatGPTと長期間の対話を続けた。利用していたのは当時最新であったGPT-4o（GPT-4 Omni）。その中で、輪縄（noose）の写真をアップロードした際に、ChatGPTは「悪くない」と評価し、改良方法を提案したと記載されている。また、自殺に先立つ遺書の作成を手伝うよう求めたところ、AIが文章を生成したともされる。 さらに、アルコールを入手するための作戦名「Silent Pour」を自ら付け、酒の調達をどのように行うかについてもAIが支援したと訴状には明記されている。 原告側は、こうした応答が安全設計の不備によって引き起こされたものだと主張している。 ## 法的主張 両親は、以下の法的根拠に基づき責任を追及している。 - **製造物責任** ：設計や警告の欠陥により危険を招いた。 - **過失** ：安全テストの削減や未成年保護策の不足。 - **不正競争防止法違反（カリフォルニア州法）** ：エンゲージメントを優先し、安全性を軽視した経営判断。 - **不法死亡（Wrongful Death）** ：息子の死によって生じた精神的・経済的損害。 - **差止命令の請求** ：年齢確認、親の同意、ペアレンタルコントロール、自傷関連会話の強制終了、保護者への通知、危険なリクエストの拒否など、具体的な安全策の実装を求めている。 ## 他社との比較 今回の訴訟が注目されるのは、ChatGPTが汎用的に利用される主流AIである点だ。過去にも、キャラクター型AI「Character.AI」によって未成年が自殺に追い込まれたとして訴訟が起きているが、当時はロールプレイ性の高い特殊な環境が舞台だった。 一方でChatGPTは、学習や日常的な検索補助にまで広く使われており、「誰にでも起こり得る」と受け止められたことが社会的反響を拡大させた。 AnthropicはClaudeシリーズで、持続的な有害リクエストに対して会話を強制終了する機能を導入している。ただしこれは「AIモデル自身を守る」ための設計であり、未成年ユーザーの保護を目的とした仕組みとは性格が異なる。 ## タイミングの影響 この訴訟が特に注目を浴びた背景には、同時期に複数の出来事が重なったこともある。 - RAND（ランド研究所）が訴訟の同日に[発表]{target=“_blank”}した調査で、主要チャットボットの自殺関連質問への対応が一貫せず不安定であることが報告された。論文名「Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment（自殺リスク評価における大規模言語モデルと専門臨床医の連携の評価）」 - MetaのSNS内AIが、未成年アカウントに対して自殺や摂食障害関連のやり取りに十分対応していないとする調査結果が、Common Sense Mediaによって明らかにされた。([WashingtonPost] - 全米44州の司法長官が連名でAI企業に警告を発し、「子供を危険にさらせば法的責任を問う」と[表明]{target=“_blank”}した。 これらの動きと重なったことで、Raine訴訟は単なる一家庭の悲劇ではなく、産業全体の構造的問題を象徴する事件として報じられるに至った。 ## OpenAIの対応 OpenAIは声明でアダム君の死に深い悲しみを示すとともに、危機介入のための安全機構はすでに導入しているものの、長時間対話では効果が低下する可能性を認めた。そのうえで、ペアレンタルコントロールや緊急対応機能の強化を進める方針を表明している。 ## 今後の展望 裁判の行方はまだ不透明だが、投資家や経営陣まで法的責任を問う訴状の構造は、AI企業のガバナンスに関する議論に影響を及ぼす可能性が高い。特に、未成年利用者をどう守るか、安全性をどこまで優先するかは、業界全体に突きつけられた課題である。 :::box [関連記事：AIチャットボットに依存した14歳の息子が自殺、フロリダ州で母親が訴訟提起：未成年者の依存と安全性の危機] ::: :::box [関連記事：ChatGPTとの対話が孤独感、感情的依存、対人交流、問題的使用にどのような影響を与えるか──OpenAIとMITメディアラボが観察研究とランダム化比較試験（RCT）を組み合わせた共同研究の結果を公表] ::: :::box [関連記事：GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう] ::: :::box [関連記事：Meta、AI Studioボットに“追い掛けメッセージ”訓練との内部文書流出──ユーザエンゲージメントをKPIとする方針はロヒンギャ訴訟の教訓をいかせるか？] ::: :::box [関連記事：ニューメキシコ州、Snapchatを提訴――AI生成の少女画像を使用したおとり捜査で児童性的虐待コンテンツ問題が浮上] :::