Rodzice 19-letniego studenta z Kalifornii pozywają OpenAI, twierdząc, że ChatGPT przyczynił się do tragicznej śmierci ich syna. Sprawa może być jedną z pierwszych poważnych weryfikacji odpowiedzialności prawnej firm sprzedających dostęp do swoich chatbotów.
- Sam Nelson zmarł 31 maja 2025 roku wskutek przedawkowania mieszanki alkoholu, leków przeciwlękowych oraz substancji ziołowej kratom.
- Rodzina domaga się odszkodowania finansowego, ale głównym celem postępowania jest sądowe zawieszenie usługi ChatGPT Health, uruchomionej przez OpenAI w styczniu tego roku.
AI doprowadziło do śmierci?
Według pozwu, Sam zaczął korzystać z ChatGPT jeszcze w 2023 roku, będąc uczniem szkoły średniej.
Wówczas traktował narzędzie jako asystenta m.in. do odrabiania prac domowych.
Z czasem, rozmowy skręciły w stronę stosowania używek i – jak wynika z dokumentów sądowych – model był do nich nastawiony raczej niechętnie.
Odmawiał udzielenia informacji i ostrzegał przed konsekwencjami zdrowotnymi, jednak wszystko miało zmienić się po wprowadzeniu na rynek modelu GPT-4o.
To właśnie z nim Nelson konsultował później dawkowanie substancji i to z nim rozmawiał w dniu swojej śmierci.
Według pełnomocników rodziny tamtego dnia Nelson zażył substancję ziołową z drzewa Kratom (w Polsce zakazaną i znajdującą się na liście substancji psychoaktywnych), po czym raportował botowi pogorszenie samopoczucia, obejmujące mdłości.
Wówczas ChatGPT miał wygenerować instrukcję, która doprowadziła do jego śmierci. Polecił skontrowanie działania substancji zażyciem leku przeciwlękowego, określając ten ruch jako “jeden z najlepszych możliwych” w danym momencie.
Bot nie ostrzegł przy tym, że połączenie substancji może okazać się śmiertelne, ani nie polecił Samowi natychmiastowej konsultacji z lekarzem.
Powodowie zarzucają OpenAI spowodowanie śmierci i wprowadzenie na rynek wadliwego produktu, który bez uprawnień udziela porad medycznych.
Sam był mądrym, szczęśliwym, zwyczajnym dzieciakiem. Często rozmawiałam z nim o bezpieczeństwie w sieci, ale w najgorszych koszmarach nie wyobrażałam sobie, że ChatGPT może spowodować jego śmierć. Gdyby ChatGPT był człowiekiem, dziś siedziałby w więzieniu.
– mówiła Leila Turner-Scott – matka zmarłego.
Rodzina domaga się od OpenAI odszkodowania finansowego, jednak drugim celem pozwu jest zawieszenie usługi ChatGPT Health, którą firma uruchomiła w styczniu tego roku.
Pozwala ona użytkownikom konsultować dane z aplikacji medycznych z chatbotem, uzyskując od niego spersonalizowane porady zdrowotne.
Bliscy Sama Nelsona argumentują, że dopóki funkcja nie przejdzie rygorystycznych testów, które udowodnią jej bezpieczeństwo, nie powinna być dostępna dla konsumentów.
Dział PR firmy określił sprawę jako “rozdzierającą serce”, przypominając, że rozmowy Sama były prowadzone ze wspomnianym modelem 4o, który został wycofany w lutym tego roku.
Dodatkowo, jej rzecznik prasowy standardowo podkreślił, że ChatGPT nie zastępuje opieki medycznej, a firma optymalizuje produkt pod kątem sytuacji wymagających szczególnej ostrożności.
Jak twierdzi – nowsze wersje chatbota otrzymały już mechanizmy rozpoznawania zapytań wysokiego ryzyka i odsyłania użytkowników do profesjonalistów, a ChatGPT Health jest rozwijany przy współpracy z setkami praktykujących lekarzy.
Jak donosi the New York Times, sprawa nie jest odosobnionym przypadkiem.
Przeciw OpenAI i firmom z tego segmentu ma toczyć się obecnie ponad tuzin postępowań, w których chatboty miały przyczynić się do samobójstw i innych tragedii.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
