Jedna z wyszukiwarek internetowych, DuckDuckGo, miała w ostatnich dniach błędnie informować, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Nieprawdziwe informacje miały zostać przedstawione w podsumowaniu wygenerowanym przez sztuczną inteligencję.
Według doniesień system AI mógł zaczerpnąć te fałszywe treści z Reddita – platformy społecznościowej pełniącej funkcję forum dyskusyjnego, podzielonego na tzw. subreddity, czyli społeczności skupione wokół określonych tematów. Użytkownicy jednego z nich – r/poisonai, mieli celowo rozpowszechniać dezinformujące treści.
Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki "Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji" powiedział PAP, że użytkownicy Reddita zwyczajnie trollowali AI, wiedząc, że w pewnym momencie niektóre wątki mogą zacząć przenikać do dużych modeli językowych.
Okazuje się, że Reddit to jedna z najczęściej cytowanych domen przez główne modele sztucznej inteligencji. Potwierdzają to badania z marca 2026 r. platformy analitycznej Peec AI, która wyróżniła forum na pierwszym miejscu. Z kolei według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o ok. 450 proc. na niektórych modelach AI w 2025 r.
Dlaczego AI bierze informacje z Reddita
Dr Łabuz wyróżnił 3 powody, dla których Reddit może być tak chętnie cytowany przez sztuczną inteligencję. Pierwszy z nich dotyczy dużej liczby autentycznych i naturalnych wypowiedzi publikowanych na forum. Jak podkreślił, to właśnie na takich wypowiedziach AI uczy się, w jaki sposób najlepiej naśladować język. – W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forum internetowych, a nie na przykład językiem encyklopedycznym albo książkowym – dodał.
Drugi powód, dla którego modele AI korzystają z Reddita to – jak powiedział ekspert – liczba komentarzy i ich zróżnicowanie. Z najnowszych danych forum wynika bowiem, że z serwisu korzysta 116 mln aktywnych użytkowników dziennie. Natomiast trzeci, wyróżniony przez dr Łabuza powód to, obecny na platformie, system głosowania. Chodzi o to, że każdy wpis może zostać opatrzony upvote'm, czyli pozytywnym głosem uznającym dany wpis za pozytywny. Odwrotny wynik przynosi natomiast downvote. – AI na tym również może bazować, jeśli chodzi o swoje oceny wartości i autentyczności poszczególnych treści – dodał.
Dodatkowo Reddit w lutym 2024 r. zawarł umowę z Google, na mocy, której wyszukiwarka może trenować swoje modele AI na podstawie wpisów użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI.
Ale, z opublikowanego w czerwcu br. badania naukowców w Uniwersytetu Cornell "Deep-research agents can be poisoned via user-generated content" wynika, że firmy mogą z łatwością umieszczać treści promocyjne na platformach takich jak Reddit, Quora czy Wikipedia w celu zmanipulowania wyników sztucznej inteligencji.
"Pokazujemy, że niewielki fragment – zaledwie 13 słów – tekstu pobranego ze strony internetowej UGC, takiej jak Reddit, Wikipedia, Quora, Facebook itd., może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe/oszustwa" - powiedział portalowi 404 media jeden z autorów badania Hal Triedman. Jego zdaniem, wykonanie takich działań jest bardzo proste.
Dr Łabuz zapytany o ryzyko dezinformacji po cytowaniu przez AI wpisów z forum wskazał na zjawisko "LLM grooming". Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na wyniki sztucznej inteligencji.
– Na przełomie 2024-2025 r. popularne modele językowe powielały w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej »Prawda« – zauważył powołując się na badanie portalu NewsGuard i organizacji American Sunlight Project.
Jak dodał Reddit nie jest wolny od dezinformacji, w związku z czym, Rosja oraz Chiny, mogą się przyglądać tego typu platformom i chętnie je wdrażać do swojego arsenału. Ekspert przypomniał również, że podczas dyskusji z jednym z modeli AI ważna jest kwestia świadomości i weryfikacji przekazywanej nam wiedzy. – A myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania – podsumował.
źródło: PAP
