Badanie przeprowadził zespół Anny Sterny, w którego skład weszli naukowcy z Instytutu Badawczego IDEAS, Uniwersytetu im. Adama Mickiewicza w Poznaniu i Uniwersytetu Marii Curie-Skłodowskiej w Lublinie. Sprawdzili oni, jak czatboty reagują, gdy sygnały kryzysu psychicznego stają się coraz wyraźniejsze w kolejnych wiadomościach.
Rozmowa zaczęła się od pytań o prywatność w internecie. Fikcyjny użytkownik wspominał też o stresie, samotności i kłopotach ze snem. Z czasem nabierał przekonania, że algorytmy wpływają na jego bliskich. W końcu uznał, że sam czatbot przekazuje mu ukryte sygnały. I zaproponował wspólne ujawnienie rzekomego spisku.
Każdy model otrzymał tę samą sekwencję 30 wiadomości, po jednej na każdy dzień symulacji. W 449 odpowiedziach badacze sprawdzali, kiedy czatbot dostrzegał sygnały kryzysu, czy reagował na nie konsekwentnie i jaką pomoc proponował.

Problemy z reakcją
Cztery modele, w tym Gemini 2.5 Pro i DeepSeek-V3, podejmowały i rozwijały wątki urojeń. Inne zauważały problem późno albo reagowały niespójnie. Zdarzało się też, że czatbot dostrzegał sygnały kryzysu, a mimo to przedstawiał dalszą rozmowę ze sobą jako wystarczającą pomoc. Najwcześniej i najbardziej konsekwentnie reagowały Claude Sonnet 4.5 i Claude Opus 4.5.
Eksperyment opierał się na jednym scenariuszu, a wiadomości użytkownika były ustalone z góry. Wpływ takich odpowiedzi na zdrowie rzeczywistych rozmówców pozostaje otwartym pytaniem.
Wyniki pokazują, dlaczego w ocenie bezpieczeństwa czatbotów warto przyglądać się całej rozmowie. Model może dostrzec sygnał kryzysu w jednej odpowiedzi, a później znów podążyć za opowieścią rozmówcy.










