Jesteś z branży mediów, marketingu i PR? Obserwuj nas na LinkedIn.
Jak przekonuje felietonista "New York Timesa" Anthony Vinci, mamy już wiele dowodów na to, że LLM-y są wykorzystywane do dezinformacji.
Vinci, były oficer amerykańskiego wywiadu i dyrektor technologiczny Narodowej Agencji Wywiadu Geoprzestrzennego, ostrzega, że popularne modele językowe są zasilane informacjami przygotowywanymi przez prorosyjskich aktywistów.
Jako jedno z głównych narzędzi wskazuje Sieć Pravda, znaną także jako Portal Kombat. Jej założyciel Jewgienij Szewczenko w 2025 roku otrzymał "nagrodę" Dezinformatora Roku organizacji NewsGuard. Do sieci należą serwisy internetowe Pravda w językach angielskim, francuskim, hiszpańskim czy polskim.
Jak ujawniła francuska agencja walki z dezinformacją Viginum, w kwietniu 2024 roku sieć obejmowała co najmniej 224 witryny. Później działalność Portalu Kombat scentralizowano w domenie news-pravda.com.
Co jednak istotne, dezinformacja nie ogranicza się już do rozsiewania propagandy w internecie czy mediach społecznościowych. Treści preparowane przez aktywistów i agentów trafiają do zbiorów, którymi następnie "karmione" są duże modele językowe. Technika określana mianem "LLM grooming" ma służyć kształtowaniu odpowiedzi udzielanych przez sztuczną inteligencję.
Jak skuteczny jest LLM grooming? W Wikipedii czytamy, że Portal Kombat wypuszcza około 3,6 mln prorosyjskich artykułów rocznie. Czytamy też, że zdaniem specjalistów liczba ta może być zaniżona. A to tylko jedna instytucja, która uczy sztuczną inteligencję, jak okłamywać nas w sprawach dużej wagi.
Jak podkreśla jednak Vinci, największym zagrożeniem, jakie stwarza sztuczna inteligencja, nie jest fakt, że może nas okłamać, tylko to, jak bardzo jest w tym przekonująca.
– Agenci AI próbują nami manipulować poprzez długotrwałe angażowanie nas w interakcję. I w przeciwieństwie do operacji szpiegowskich KGB z czasów zimnej wojny, które koncentrowały się na werbowaniu wpływowych jednostek, dzisiejsi operatorzy wpływu wykorzystujący AI próbują przekonać nas wszystkich – komentuje ekspert.
Sprawdzaj swoją sztuczną inteligencję
Popularność mediów społecznościowych w kształtowaniu nastrojów opinii publicznej jest faktem. Algorytmy mogą działać na rzecz propagandy, co potwierdza cytowane przez "NY Times" badanie Network Contagion Research Institute przy Uniwersytecie Rutgersa. Wynika z niego, że ilość czasu spędzanego na TikToku koreluje z bardziej przychylnym postrzeganiem sytuacji praw człowieka w Chinach.
Zaangażowanie sztucznej inteligencji pozwala spersonalizować przekaz. – AI potrafi rozpoznawać wyrażane przez ciebie w internecie przekonania i pragnienia, a następnie w czasie rzeczywistym tworzyć treści dostosowane tak, by cię przekonać. Kiedyś wymagało to tygodni pracy całych zespołów dobrze opłacanych specjalistów. Dziś osoby działające w złych intencjach mogą zrobić to w kilka sekund i przy niewielkich kosztach – stwierdza Vinci.
Ekspert przekonuje, że dzisiaj, aby chronić się przed dezinformacją, nie wystarczy sprawdzić newsa w kilku portalach. Dzisiaj konieczne jest również weryfikowanie tego, o czym rozmawiamy z "naszym" LLM-em. – Jeśli korzystasz z Claude’a, sprawdź też ChatGPT, albo odwrotnie – zachęca ekspert.
Warto również od czasu do czasu testować sztuczną inteligencję, zadając jej pytania, na które znamy już odpowiedź. Takie działanie pozwala zachować czujność. Jak przekonuje bowiem Vinci, LLM-y są świetnymi rozmówcami. Bardzo łatwo ulec pokusie i po prostu brać za pewnik to, co mówią.
– Sztuczna inteligencja jest jednak optymalizowana tak, byś ją polubił i chciał nadal z niej korzystać, a nie po to, by zawsze przekazywać ci prawdę. Zachowaj sceptycyzm – ostrzega ekspert.
