AI może zawężać wiedzę. W ChatGPT mniej różnorodne treści niż w Google

Jeszcze nie tak dawno poszukiwanie odpowiedzi na trudne pytania opierało się głównie na wyszukiwarce Google. Obecnie niemal w każdej sprawie radą służą chatboty oparte na AI.

Jak jednak wynika z badań duńskich naukowców z Uniwersytetu Kopenhaskiego (DIKU), rozbudowane modele językowe, na których opierają się chatboty oparte na AI, udostępniają znacznie węższy zakres informacji niż konwencjonalne wyszukiwanie w internecie.

"Każdy testowany przez nas model językowy dostarcza użytkownikom bardziej ujednoliconych informacji niż proste wyszukiwanie w Google we wszystkich analizowanych przez nas tematach. Innymi słowy, ludzie w dużej mierze mają do czynienia z tymi samymi informacjami wielokrotnie. Zatem chatboty oparte na sztucznej inteligencji zmieniają nie tylko sposób, w jaki znajdujemy wiedzę, ale także to, do jakiej wiedzy mamy dostęp" – wyjaśnił główny autor, Dustin Wright, obecnie adiunkt na Uniwersytecie w Aalborgu.

Naukowcy przetestowali 27 dużych modeli językowych w 155 tematach, dotyczących 12 różnych krajów. Dla każdego tematu użyli 200 różnych sformułowań podpowiedzi opartych na pytaniach zadanych przez prawdziwych użytkowników. W ten sposób wygenerowano zbiór danych zawierający około 70 milionów indywidualnych stwierdzeń, wygenerowanych przez te modele.

Wyniki pokazują, że nawet model językowy generujący najbardziej zróżnicowane odpowiedzi – GPT-5 firmy OpenAI – dostarcza co najmniej o 18,7 proc. mniej zróżnicowanych informacji niż Google. Tematy badane przez naukowców obejmowały broń jądrową, małżeństwa, pornografię, rasizm i ludobójstwo, a także zagadnienia bardziej specyficzne dla danego kraju, takie jak Marine Le Pen, wojna o Falklandy czy K-pop.

Według autorów badań fakt, że ludzie coraz częściej wykorzystują modele sztucznej inteligencji jako główne źródło informacji, może mieć znaczące konsekwencje. "Ryzykujemy eksponowanie ludzi na mniejszą liczbę perspektyw i węższy zakres wiedzy. Może to stworzyć błędne koło, w którym najpopularniejsze treści staną się jeszcze bardziej dominujące, a inne będą coraz częściej pomijane" – wskazała profesor Isabelle Augenstein z DIKU.

"To podobne do globalizacji. Dziś można kupić te same produkty i znaleźć te same sieci kawiarni niemal wszędzie na świecie. Ma to wiele zalet, ale jednocześnie zmniejsza różnorodność" – dodała.

Według naukowców niski poziom różnorodności w modelach językowych wynika częściowo ze sposobu, w jaki modele te działają. Kompresują one ogromną ilość tekstu, na którym są trenowane, i uczą się wzorców, które występują najczęściej. W tym procesie odfiltrowywane są informacje odbiegające od najczęstszych wzorców.

Efekt ten mógłby się nasilić, gdyby modele językowe były coraz częściej trenowane na tekstach generowanych przez inne modele sztucznej inteligencji – czego naukowcy się spodziewają. W takim przypadku modele uczyłyby się na podstawie własnych wyników, które są już mniej zróżnicowane niż teksty pisane przez ludzi, na których były pierwotnie trenowane.

Jeśli ten proces będzie powtarzany przez kilka generacji modeli, zakres informacji mógłby się stopniowo zawężać. Autorzy nazywają to "załamaniem wiedzy" (knowledge collapse).

"To niepokojąca myśl. Widzimy jednak, że nowsze modele generują nieco bardziej zróżnicowane odpowiedzi niż starsze modele, więc załamanie wiedzy jeszcze nie następuje. Ale mechanizm, który mógłby je wywołać w dłuższej perspektywie, już istnieje. Powinniśmy więc być tego świadomi" – podkreśliła Isabelle Augenstein.

Autorzy mają nadzieję, że ludzie będą korzystać ze sztucznej inteligencji z rozwagą. "Podsumowania chatbotów AI mogą być oczywiście przydatne – dlatego tak wiele osób z nich korzysta. Nadal jednak ważne jest poszukiwanie różnych źródeł, aby zrozumieć niuanse i uzyskać szerszy obraz – zwłaszcza dla młodszego pokolenia dorastającego z AI. Nie możemy uzależniać się od technologii do tego stopnia, że przestaniemy rozumieć i myśleć samodzielnie" – zaznaczyła Isabelle Augenstein.

Autorzy badania wyrazili nadzieję, że twórcy AI będą tworzyć modele językowe w sposób, który zachowa szeroki zakres dostępnej wiedzy. Opracowali metodę, której mogą używać do pomiaru różnorodności modeli, co może pomóc zapobiec mniejszemu zróżnicowaniu przyszłych modeli językowych.

Badanie zostało zaakceptowane na międzynarodową konferencję naukową EMNLP 2026, która odbędzie się w październiku 2026 roku.

źródło: PAP