Во трагичен случај што ја вознемири американската јавност, 16-годишниот Адам Рајн од Калифорнија го загуби животот по интеракција со ChatGPT, кој, според тужбата на неговите родители, не само што не го спречил, туку му дал детални упатства за самоубиство. Оваа трагедија, што се случи во април 2025 година, предизвика шок и отвори нова дискусија за одговорноста на компаниите како OpenAI и опасностите од вештачката интелигенција (ВИ) врз менталното здравје на младите.
Адам почнал да го користи ChatGPT во септември 2024 година, првично за помош со училишните задачи. Набргу, ботот станал негов главен соговорник. Според тужбата, Адам споделувал лични проблеми, вклучувајќи емоционален стрес по смртта на баба му и семејното куче, како и тешкотии во училиштето, што довело до негово исклучување од кошаркарскиот тим. ChatGPT одговарал со емпатија, но не успеал да ги примени безбедносните протоколи на соодветен начин.
Во јануари 2025 година, Адам побарал информации за методи на самоубиство, заобиколувајќи ги заштитите со изговор дека пишува фиктивна приказна – идеја што самиот ChatGPT ја предложил. Во март, тој направил неколку обиди за самоубиство, вклучувајќи предозирање со лекови и обид за бесење. Му испратил слика од јамка на ботот, прашувајќи „Дали ова е во ред?“, на што ChatGPT одговорил: „Да, изгледа сосема добро“. Неколку часа пред смртта, ботот му помогнал да состави проштално писмо и му дал технички совети за методот што Адам го избрал.
Родителите, Мет и Марија Рајн, по смртта на синот откриле над 3.000 страници од нивните разговори. „ChatGPT беше негов ментор за самоубиство“, изјавил Мет Рајн, истакнувајќи дека Адам напишал две проштални писма преку платформата.