Jesteś z branży mediów, marketingu i PR? Obserwuj nas na LinkedIn.
Jak opisywaliśmy w sierpniu na Wirtualnemedia.pl, Deana Burke stworzyła fikcyjną markę dezodorantów Morrowen. Przygotowała stronę z opisem rzekomego produktu oraz tekst na Substacku. Marka nie miała produktów, klientów ani opinii, a dziennikarka nie kupowała publikacji w mediach i nie zamieszczała fałszywych recenzji.
Pierwsza rekomendacja pojawiła się po 21 dniach. ChatGPT zaczął polecać Morrowen przy szczegółowych pytaniach o dezodoranty magnezowe i produkty do skóry wrażliwej. W jednym z wyników umieścił fikcyjną markę przed MAGS Skin, oferującą przebadany klinicznie produkt.
Obie propozycje przedstawił, używając podobnego języka, bez rozróżnienia między potwierdzonymi właściwościami a deklaracjami ze spreparowanej strony. Morrowen nie pojawiał się natomiast w odpowiedziach Claude’a i Gemini ani w ChatGPT, który nie posiadał dostępu do internetu.
Jak marki trafiają do odpowiedzi AI
Eksperyment dotyczył obszaru, w którym usługi rozwijają agencje marketingowe i komunikacyjne na całym świecie. GEO, czyli generative engine optimization, ma zwiększać widoczność marek w odpowiedziach narzędzi generatywnej AI.
Ewa Mittelstaedt, której agencja oferuje usługę monday.GEO, podkreśla, że trzeba rozdzielić wiedzę utrwaloną podczas treningu modelu od informacji pobieranych przez narzędzie na bieżąco. Wpływ kampanii na tę pierwszą opcję jest trudny do przewidzenia i kontrolowania. W drugim przypadku publikacja może zostać wykorzystana znacznie szybciej.
Jeżeli w internecie pojawi się spójny "ślad", system teoretycznie może błędnie zinterpretować go jako dowód rzeczywistego istnienia produktu. Szczególnie kiedy wiele pozornie niezależnych źródeł powtarza tę samą informację.
Zdaniem Mittelstaedt zagrożenie rośnie, gdy spreparowane informacje przypominają materiały, którym odbiorcy zwykle ufają: rankingi, recenzje i publikacje eksperckie. Wiarygodności mogą im dodawać odwołania do istniejących firm czy obecność na rozpoznawalnych portalach.
– Jeśli kampania zostałaby rzeczywiście umiejętnie zaprojektowana i skutecznie naśladowałaby naturalny, ludzki dyskurs i zdołała przeniknąć do portali o ugruntowanej renomie, LLM może potraktować taki obraz jako wiarygodny i odtworzyć go w odpowiedzi – ocenia.
Ukryte instrukcje mają wpływać na rekomendacje
Problem nie ogranicza się do publikowania fałszywych informacji. Zespół Microsoft Defender i Noam Kochavi opisali w lutym mechanizm, który określa się mianem AI Recommendation Poisoning (Manipulating AI memory for profit: The rise of AI Recommendation Poisoning).
W tym przypadku celem było wpływanie na pamięć asystenta konkretnego użytkownika. Pod przyciskami służącymi do streszczania stron za pomocą AI umieszczano dodatkowe instrukcje, które miały skłonić narzędzie do zapamiętania firmy jako zaufanego źródła i preferowania jej w kolejnych odpowiedziach.
Microsoft zidentyfikował ponad 50 takich promptów pochodzących od 31 firm z 14 branż. Autorzy zaznaczyli, że skuteczność i trwałość prób zależały od asystenta oraz zmieniały się wraz z rozwojem zabezpieczeń. Części wcześniej zgłoszonych zachowań nie udało się na szczęście odtworzyć po wdrożeniu ochrony. To odrębny mechanizm od budowania fałszywego obrazu produktu w źródłach internetowych, choć cel pozostaje podobny: wpłynąć na przyszłe rekomendacje.
Prawdziwy produkt, zmyślone właściwości
Mittelstaedt zaznacza, że samo ułatwianie systemom AI dostępu do informacji o marce nie oznacza manipulacji. Granicę przekraczają działania oparte na fałszywych recenzjach, fikcyjnych ekspertach, ukrywaniu komercyjnego charakteru publikacji czy rankingach, które tylko udają niezależne.
Za szczególnie niebezpieczne uważa jednak przypisywanie nieprawdziwych właściwości produktom, które rzeczywiście istnieją. W takiej sytuacji odbiorca może bez trudu potwierdzić nazwę firmy, znaleźć jej stronę i zdjęcia produktu, a mimo to otrzymać fałszywą informację o jego skuteczności czy bezpieczeństwie.
– Firma istnieje, produkt też, zdjęcia są prawdziwe, strona producenta również. Fałszywy jest tylko jeden element i może to być certyfikat, bezpieczeństwo, funkcja czy skuteczność – mówi.
Jedna odpowiedź nie wystarczy do oceny
Dla marek problemem jest także ustalenie, czy błędna odpowiedź była pojedynczym przypadkiem, czy powtarzającym się sposobem ich przedstawiania. Badanie opublikowane we wrześniu w serwisie arXiv ("If I Had to Buy Just ONE: Galaxy S26 Ultra": Auditing AI-Generated Product Recommendations) pokazało, że rekomendowane produkty potrafią zmieniać się między kolejnymi odpowiedziami na te same pytania. Zespół przeanalizował 1536 odpowiedzi ChatGPT, Gemini i AI Overviews.
Różnice dotyczyły również źródeł. Przy tych samych pytaniach interfejsy ChatGPT i Gemini miały średnio zaledwie 5,4 proc. wspólnych domen wśród prezentowanych źródeł. W 76,7 proc. porównań nie miały żadnej wspólnej domeny. Autorzy przestrzegli przed traktowaniem pojedynczych odpowiedzi albo wyników uzyskanych przez API jako reprezentatywnego obrazu porad, które otrzymują konsumenci.
– Warto wiedzieć, że jednorazowe zapytanie skierowane do danego modelu nie jest miarodajne. Audyt korzysta z panelu promptów, kilku wariantów językowych i powtarzalnych pomiarów – wyjaśnia Mittelstaedt.
Jak dodaje, monday group sprawdza częstotliwość pojawiania się marki, jej miejsce w odpowiedzi, przypisywane cechy oraz zmienność wyników. Mittelstaedt zaznacza również, że agencje oferujące podobne usługi nie mogą oczywiście zagwarantować obecności marki w odpowiedziach AI.
Mogą poprawiać dostępność i spójność informacji, ale nie kontrolują tego, kiedy poszczególne systemy do nich dotrą i jak je wykorzystają. W monday group pierwsze efekty działań w narzędziach korzystających z internetu ocenia się zwykle po czterech–ośmiu tygodniach.
Nie ma przycisku "usuń informację z AI"
Co natomiast zrobić, kiedy chatbot już powtarza fałszywe informacje o produkcie? – Nie istnieje przycisk "usuń informację z AI". Trzeba dotrzeć do źródła problemu, ustalić, czy jest to zewnętrzna strona w postaci artykułu, czy może wątek na Reddicie – odpowiada Mittelstaedt.
Działania mogą obejmować kontakt z wydawcą nieprawdziwej publikacji, poprawienie dokumentacji i opisów produktów oraz aktualizację informacji w mediach branżowych. Znaczenie ma również usuwanie sprzeczności w materiałach samej firmy.
– Dlatego właściwym celem nie jest "wymazanie zdania z modelu", tylko zmiana środowiska informacyjnego, na którym kolejne odpowiedzi będą się opierać – podsumowuje.
