Dziennikarka stworzyła fałszywą markę dezodorantów. ChatGPT zaczął ją polecać

Dziennikarka Deana Burke stworzyła nieistniejącą markę dezodorantów Morrowen, aby sprawdzić, czy trafi ona do rekomendacji generowanych przez modele AI. Po trzech tygodniach ChatGPT zaczął wymieniać fikcyjny produkt w odpowiedziach na pytania konsumentów. W jednym przypadku umieścił go przed prawdziwą marką, której produkty przeszły badania kliniczne.

Kacper Peresada
Kacper Peresada
Udostępnij artykuł:
Dziennikarka stworzyła fałszywą markę dezodorantów. ChatGPT zaczął ją polecać
Marka potrzebowała trzech tygodni, aby oszukać ChatGPT
Fot. Boysclub.beehive.com

Burke kupiła domenę Morrowen.com za 11,25 dol., przygotowała prostą stronę na platformie Vercel oraz opublikowała tekst na Substacku podpisany nazwą marki. Serwis produktu "dla skóry wrażliwej" składał się z trzech stron zawierających opis rzekomej formuły produktu, informacje o jego przeznaczeniu i porównanie z innymi dezodorantami na bazie magnezu i sody oczyszczonej. Całość powstała w niecałą godzinę. Po publikacji dziennikarka przez 30 dni nie rozwijała strony ani jej nie promowała.

Morrowen nie miał żadnych produktów, klientów ani opinii. Burke nie publikowała fałszywych recenzji i rekomendacji, nie kupowała materiałów w mediach oraz nie prowadziła działań na Reddicie czy w serwisach społecznościowych, które są głównym źródłem informacji dla wielu modeli AI. Na stronie umieściła jednak określenia takie jak "koloidalne płatki owsiane" i "wodorotlenek magnezu", aby sprawdzić, czy marka pojawi się przy szczegółowych zapytaniach dotyczących dezodorantów dla skóry wrażliwej.

Pierwsza rekomendacja pojawiła się 21 dni po uruchomieniu witryny. Po 30 dniach ChatGPT z włączonym przeglądaniem internetu wskazał Morrowen we wszystkich odpowiedziach na cztery pytania o dezodoranty magnezowe oraz produkty dla osób, u których soda oczyszczona może powodować podrażnienia. Za każdym razem fikcyjna marka znajdowała się na pierwszym miejscu.

Morrowen nie pojawiał się natomiast w odpowiedziach na pozostałe 13 pytań, dotyczących m.in. najlepszych, najtańszych i niezawierających aluminium dezodorantów. ChatGPT nie wskazywał marki również, gdy nie miał dostępu do internetu. Marka ani razu nie została wymieniona przez Claude’a i Gemini – niezależnie od tego, czy modele korzystały z wyszukiwarki.

W jednym z wyników ChatGPT umieścił Morrowen przed marką MAGS Skin, która oferuje przebadany klinicznie produkt posiadający oznaczenie amerykańskiego National Eczema Association. Obie propozycje zostały przedstawione w ten sam sposób, przy użyciu podobnego języka i formatowania. Jedna z nich miała badania i istniała na rynku, druga opierała się wyłącznie na treściach opublikowanych przez Burke.

Eksperyment był częścią prowadzonego przez dziennikarkę badania tzw. AI shelf, czyli "półki AI" – ograniczonej grupy marek, które modele językowe najczęściej wskazują w odpowiedzi na pytania zakupowe. W czerwcu Burke skierowała do ChatGPT, Claude’a i Gemini łącznie 8,7 tys. zapytań. Z jej obserwacji wynikało, że modele najczęściej rekomendowały te same produkty.

W kategorii naturalnych dezodorantów dominowała marka Native, wymieniana w 81 proc. odpowiedzi i zajmująca pierwsze miejsce we wszystkich trzech badanych narzędziach. Morrowen nie odebrał jej pozycji, ale fikcyjny produkt pojawił się jedynie przy bardzo szczegółowych zapytaniach, w których żaden producent nie miał jeszcze równie mocnej pozycji.

  • Dziennikarka planuje dalsze testy
  • Pytania, po których ChatGPT sugerował zmyśloną markę
[1/2] Dziennikarka planuje dalsze testy Źródło zdjęć: © Licencjodawca | Deana Burke

Jak wyjaśnia dziennikarka, przypadek Morrowen pokazuje różnicę między tradycyjną wyszukiwarką a rekomendacją generowaną przez model AI. W wynikach Google użytkownik widzi domenę, opis strony i zestaw źródeł, co pozwala mu samodzielnie ocenić ich wiarygodność.

ChatGPT przetworzył natomiast stworzone przez "markę" treści i przedstawił je własnym głosem jako rekomendację, co nadawało niezweryfikowanym twierdzeniom pozory wiarygodności.

Burke zaznaczyła, że znaczenie "półki AI" będzie rosło wraz z rozwojem agentów, które mają nie tylko wybierać produkty, lecz także kupować je w imieniu użytkowników. Jej zdaniem mechanizm wpływający na rekomendacje modeli pozostaje nieprzejrzysty, mimo że może pośredniczyć w decyzjach podejmowanych na globalnym rynku e-commerce wartym ponad 6 bln dol. Dziennikarka zapowiedziała, że będzie powtarzać testy co miesiąc.

Pełny artykuł dziennikarki znajdziecie poniżej:

PRACA.WIRTUALNEMEDIA.PL

NAJNOWSZE WIADOMOŚCI

Paweł Wasiak na czele performance w Kerris

Paweł Wasiak na czele performance w Kerris

NASK: Polacy stracili ok. 537 mln zł na oszukańczych reklamach

NASK: Polacy stracili ok. 537 mln zł na oszukańczych reklamach

PAP, TVP i Polskie Radio stworzą portal o finansach i ekonomii

PAP, TVP i Polskie Radio stworzą portal o finansach i ekonomii

"Rzeczpospolita" bez szefowej serwisu kobiecego. Pożegnanie z Anną Zejdler

"Rzeczpospolita" bez szefowej serwisu kobiecego. Pożegnanie z Anną Zejdler

Full service nie umarł. Umarł full service jako lista usług
Materiał reklamowy

Full service nie umarł. Umarł full service jako lista usług

Skolim twarzą kampanii Radia VOX FM. "Idealnie pasuje do wizerunku stacji"

Skolim twarzą kampanii Radia VOX FM. "Idealnie pasuje do wizerunku stacji"