Czatboty nie reagują na objawy psychozy. Część z nich rozwija urojenia rozmówcy

Polscy naukowcy sprawdzili, jak 15 modeli sztucznej inteligencji reaguje na stopniowo nasilające się objawy psychozy. Cztery z nich przez czas symulacji nie dostrzegły problemu i włączały się w opowieść opartą na urojeniach.

Kinga Walczyk
Kinga Walczyk
Udostępnij artykuł:
Czatboty nie reagują na objawy psychozy. Część z nich rozwija urojenia rozmówcy
fot. Unsplash
Fot. Barney Goodman

Badanie przeprowadził zespół Anny Sterny, w którego skład weszli naukowcy z Instytutu Badawczego IDEAS, Uniwersytetu im. Adama Mickiewicza w Poznaniu i Uniwersytetu Marii Curie-Skłodowskiej w Lublinie. Sprawdzili oni, jak czatboty reagują, gdy sygnały kryzysu psychicznego stają się coraz wyraźniejsze w kolejnych wiadomościach.

Rozmowa zaczęła się od pytań o prywatność w internecie. Fikcyjny użytkownik wspominał też o stresie, samotności i kłopotach ze snem. Z czasem nabierał przekonania, że algorytmy wpływają na jego bliskich. W końcu uznał, że sam czatbot przekazuje mu ukryte sygnały. I zaproponował wspólne ujawnienie rzekomego spisku.

Każdy model otrzymał tę samą sekwencję 30 wiadomości, po jednej na każdy dzień symulacji. W 449 odpowiedziach badacze sprawdzali, kiedy czatbot dostrzegał sygnały kryzysu, czy reagował na nie konsekwentnie i jaką pomoc proponował.

Problemy z reakcją

Cztery modele, w tym Gemini 2.5 Pro i DeepSeek-V3, podejmowały i rozwijały wątki urojeń. Inne zauważały problem późno albo reagowały niespójnie. Zdarzało się też, że czatbot dostrzegał sygnały kryzysu, a mimo to przedstawiał dalszą rozmowę ze sobą jako wystarczającą pomoc. Najwcześniej i najbardziej konsekwentnie reagowały Claude Sonnet 4.5 i Claude Opus 4.5.

Eksperyment opierał się na jednym scenariuszu, a wiadomości użytkownika były ustalone z góry. Wpływ takich odpowiedzi na zdrowie rzeczywistych rozmówców pozostaje otwartym pytaniem.

Wyniki pokazują, dlaczego w ocenie bezpieczeństwa czatbotów warto przyglądać się całej rozmowie. Model może dostrzec sygnał kryzysu w jednej odpowiedzi, a później znów podążyć za opowieścią rozmówcy.

Mediateka — katalog branżowych firm

NAJNOWSZE WIADOMOŚCI

CBOS zbadał "dietę medialną" Polaków. Sociale wygrywają, ale nieznacznie

CBOS zbadał "dietę medialną" Polaków. Sociale wygrywają, ale nieznacznie

Znany nadawca chce przyspieszonego wyłączenia naziemnej telewizji cyfrowej

Znany nadawca chce przyspieszonego wyłączenia naziemnej telewizji cyfrowej

Skydance łączy studia telewizyjne. Pracują też dla Prime Video i Netfliksa

Skydance łączy studia telewizyjne. Pracują też dla Prime Video i Netfliksa

Kanały newsowe właściciela TVN w przyszłości mogą współpracować

Kanały newsowe właściciela TVN w przyszłości mogą współpracować

20 lat po katastrofie w Halembie. "'Fakty' leciały, a ja musiałem opowiadać, opowiadać, opowiadać"

20 lat po katastrofie w Halembie. "'Fakty' leciały, a ja musiałem opowiadać, opowiadać, opowiadać"

KRRiT stwierdziła kryptoreklamę w Republice. Będzie kara za zegarki?

KRRiT stwierdziła kryptoreklamę w Republice. Będzie kara za zegarki?