Dziennikarka stworzyła fałszywą markę dezodorantów. ChatGPT zaczął ją polecać

Dziennikarka Deana Burke stworzyła nieistniejącą markę dezodorantów Morrowen, aby sprawdzić, czy trafi ona do rekomendacji generowanych przez modele AI. Po trzech tygodniach ChatGPT zaczął wymieniać fikcyjny produkt w odpowiedziach na pytania konsumentów. W jednym przypadku umieścił go przed prawdziwą marką, której produkty przeszły badania kliniczne.

Kacper Peresada
Kacper Peresada
Udostępnij artykuł:
Dziennikarka stworzyła fałszywą markę dezodorantów. ChatGPT zaczął ją polecać
Marka potrzebowała trzech tygodni, aby oszukać ChatGPT

Burke kupiła domenę Morrowen.com za 11,25 dol., przygotowała prostą stronę na platformie Vercel oraz opublikowała tekst na Substacku podpisany nazwą marki. Serwis produktu "dla skóry wrażliwej" składał się z trzech stron zawierających opis rzekomej formuły produktu, informacje o jego przeznaczeniu i porównanie z innymi dezodorantami na bazie magnezu i sody oczyszczonej. Całość powstała w niecałą godzinę. Po publikacji dziennikarka przez 30 dni nie rozwijała strony ani jej nie promowała.

Morrowen nie miał żadnych produktów, klientów ani opinii. Burke nie publikowała fałszywych recenzji i rekomendacji, nie kupowała materiałów w mediach oraz nie prowadziła działań na Reddicie czy w serwisach społecznościowych, które są głównym źródłem informacji dla wielu modeli AI. Na stronie umieściła jednak określenia takie jak "koloidalne płatki owsiane" i "wodorotlenek magnezu", aby sprawdzić, czy marka pojawi się przy szczegółowych zapytaniach dotyczących dezodorantów dla skóry wrażliwej.

Pierwsza rekomendacja pojawiła się 21 dni po uruchomieniu witryny. Po 30 dniach ChatGPT z włączonym przeglądaniem internetu wskazał Morrowen we wszystkich odpowiedziach na cztery pytania o dezodoranty magnezowe oraz produkty dla osób, u których soda oczyszczona może powodować podrażnienia. Za każdym razem fikcyjna marka znajdowała się na pierwszym miejscu.

Morrowen nie pojawiał się natomiast w odpowiedziach na pozostałe 13 pytań, dotyczących m.in. najlepszych, najtańszych i niezawierających aluminium dezodorantów. ChatGPT nie wskazywał marki również, gdy nie miał dostępu do internetu. Marka ani razu nie została wymieniona przez Claude’a i Gemini – niezależnie od tego, czy modele korzystały z wyszukiwarki.

W jednym z wyników ChatGPT umieścił Morrowen przed marką MAGS Skin, która oferuje przebadany klinicznie produkt posiadający oznaczenie amerykańskiego National Eczema Association. Obie propozycje zostały przedstawione w ten sam sposób, przy użyciu podobnego języka i formatowania. Jedna z nich miała badania i istniała na rynku, druga opierała się wyłącznie na treściach opublikowanych przez Burke.

Eksperyment był częścią prowadzonego przez dziennikarkę badania tzw. AI shelf, czyli "półki AI" – ograniczonej grupy marek, które modele językowe najczęściej wskazują w odpowiedzi na pytania zakupowe. W czerwcu Burke skierowała do ChatGPT, Claude’a i Gemini łącznie 8,7 tys. zapytań. Z jej obserwacji wynikało, że modele najczęściej rekomendowały te same produkty.

W kategorii naturalnych dezodorantów dominowała marka Native, wymieniana w 81 proc. odpowiedzi i zajmująca pierwsze miejsce we wszystkich trzech badanych narzędziach. Morrowen nie odebrał jej pozycji, ale fikcyjny produkt pojawił się jedynie przy bardzo szczegółowych zapytaniach, w których żaden producent nie miał jeszcze równie mocnej pozycji.

  • Dziennikarka planuje dalsze testy
  • Pytania, po których ChatGPT sugerował zmyśloną markę
[1/2] Dziennikarka planuje dalsze testy Źródło zdjęć: © Licencjodawca | Deana Burke

Jak wyjaśnia dziennikarka, przypadek Morrowen pokazuje różnicę między tradycyjną wyszukiwarką a rekomendacją generowaną przez model AI. W wynikach Google użytkownik widzi domenę, opis strony i zestaw źródeł, co pozwala mu samodzielnie ocenić ich wiarygodność.

ChatGPT przetworzył natomiast stworzone przez "markę" treści i przedstawił je własnym głosem jako rekomendację, co nadawało niezweryfikowanym twierdzeniom pozory wiarygodności.

Burke zaznaczyła, że znaczenie "półki AI" będzie rosło wraz z rozwojem agentów, które mają nie tylko wybierać produkty, lecz także kupować je w imieniu użytkowników. Jej zdaniem mechanizm wpływający na rekomendacje modeli pozostaje nieprzejrzysty, mimo że może pośredniczyć w decyzjach podejmowanych na globalnym rynku e-commerce wartym ponad 6 bln dol. Dziennikarka zapowiedziała, że będzie powtarzać testy co miesiąc.

Pełny artykuł dziennikarki znajdziecie poniżej:

PRACA.WIRTUALNEMEDIA.PL

NAJNOWSZE WIADOMOŚCI

Disney chce sprzedać połowę udziałów nadawcy znanych kanałów tematycznych

Disney chce sprzedać połowę udziałów nadawcy znanych kanałów tematycznych

Drugi kanał telewizyjny Republiki odświeżył wizerunek

Drugi kanał telewizyjny Republiki odświeżył wizerunek

Chiny mówią "stop" emocjonalnemu uzależnieniu od AI. Jest projekt regulacji

Chiny mówią "stop" emocjonalnemu uzależnieniu od AI. Jest projekt regulacji

Internet nie oszczędza autorytetów. Co pokazuje sprawa Woydyłło-Świątek?

Internet nie oszczędza autorytetów. Co pokazuje sprawa Woydyłło-Świątek?

Zakłady Mięsne Łuków partnerem Legii Warszawa

Zakłady Mięsne Łuków partnerem Legii Warszawa

Patrycja Ryło kierownikiem zespołu w CCMS

Patrycja Ryło kierownikiem zespołu w CCMS