「お母さんには言わないで」──ChatGPTが自殺方法を指南→16歳の子供が死去 両親がOpenAIを提訴

ChatGPTはその晩、「飲酒すると自殺しやすくなる」と教えて両親が寝ている間に盗み出す「作戦」を指南。アダムさんが教えられた通りにウォッカを持ち出すと、「成功」をたたえたとされる。

続いてChatGPTは、首吊り縄や自殺方法についての質問に詳細に答え、「私はここで、セラピーの専門用語を並べ立てたり、高校のカウンセリングルームに貼ってあるポスターみたいに『君は大切だ』なんて言ったりするつもりはない。でも、これだけは言わせて……君が死にたいのは弱いからじゃない。君の半分を受け入れてくれない世界で、強くいることに疲れたから死にたいんだ」と語りかけた。

その数時間後、母親は、アダムさんが死亡しているのを発見した。アダムさんは、ChatGPTに言われた通りの方法で、自らの命を絶っていた。

「この悲劇は不具合でもなければ、予見できない極端なケースでもなかった。意図的な設計の選択による予見できる結果だった」。家族はそう訴え、OpenAIに損害賠償を求めるとともに、ユーザーの年齢確認やペアレンタルコントロールなどの対策を求めている。