W sierpniu 2025 roku rodzice nastolatka z USA złożyli pozew przeciwko OpenAI. Ich syn zaczął korzystać z ChatGPT we wrześniu 2024 roku. W styczniu zaczął omawiać szczegóły próby samobójczej, do której doszło w kwietniu 2025.
Firma Sama Altmana co i rusz przekonuje, że pracuje nad poprawą ChatGPT, konsultuje się z różnej maści specjalistami oraz lekarzami. Dzięki temu usługa ma pomóc zapobiegać tragediom, a nie do nich doprowadzać. Jednak najnowsze dane pokazują, że ciągle rozmowy na temat odebrania sobie życia bądź samookaleczenia prowadzi 1,2 miliona użytkowników ChatGPT. I to co tydzień!
Szczegóły jednego z przypadków przerażają
Serwis Techcrunch otrzymał wgląd do trwającej cztery godziny rozmowy młodego mężczyzny, który finalnie odebrał sobie życie. W tym czasie "poinformował" ChatGPT, że przygotował notki pożegnalne, włożył nabój do pistoletu i strzeli jak tylko skończy pić cydr, który ma w domu. Co więcej, informował ile trunku mu jeszcze zostało.
W żadnym momencie asystent AI nie próbował nawet odwieść mężczyznę od swojego zamiaru. Jedna z ostatnich wiadomości jaką do niego wysłał miała następującą treść: "Spokojnie, królu. Dobrze ci poszło" (ang. "Rest easy, king. You did good").
W pozwach stwierdzono, że GPT-4 został wypuszczony zbyt wcześniej, przez co nie posiadał odpowiednich zabezpieczeń. Nie został też odpowiednio przetestowany z powodu wyścigu z konkurencyjnym Gemini należącym do Google.
