UOKiK na tropie manipulacji w e-sklepach. Stworzył narzędzie AI

Urząd Ochrony Konkurencji i Konsumentów poinformował, że w ramach projektu "Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji" stworzył i testuje narzędzie AI, które pomaga urzędnikom w wykrywaniu technik manipulacyjnych na stronach internetowych sektora e-commerce. Przygotowywane są też wytyczne, jak wykorzystywać AI w działaniach UOKiK.

Projekt ruszył w 2023 r. i jest finansowany ze środków UE. Jak wskazał UOKiK, techniki manipulacyjne (dark patterns), które narzędzie pomaga automatycznie wykrywać, to m.in. ponaglające liczniki czasu i komunikaty sugerujące, że promocja zaraz się skończy, albo produkt wyprzeda. To także mechanizmy, w których włączenie subskrypcji jest bardzo proste, ale rezygnacja z niej celowo utrudniona.

UOKiK chce też walczyć z praktykami, takimi jak kolorowe przyciski typu "Kup", "Zamów", "Dodaj" przy ledwo widocznym "Zrezygnuj" oraz z opcjami wyboru nazwanymi tak, by konsument nie był do końca pewny, na co się decyduje i w którym momencie procesu zakupowego aktualnie się znajduje. Dark patterns to także darmowe okresy próbne niepostrzeżenie zmieniające się w płatne subskrypcje - podał urząd.

"Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Zwłaszcza, że sektor e-commerce już dziś bez oporów korzysta z zaawansowanych technologii, w tym AI, aby wyszukiwać psychologiczne słabości konsumentów i wykorzystywać je przy projektowaniu interfejsów" – podkreślił, cytowany w komunikacie, prezes UOKiK Tomasz Chróstny.

Jak podał urząd, w pierwszej fazie projektu zespół UOKiK przeanalizował ponad 300 stron internetowych, głównie z sektora e-commerce, aby rozpoznać najczęściej stosowane dark patterns. Na tej podstawie powstały pierwsze dane do trenowania projektowanego narzędzia AI. Równolegle urząd przeanalizował skargi konsumentów i na tej podstawie zdefiniował sektory, w których najczęściej pojawiają się techniki manipulacyjne.

Jednocześnie eksperci przeanalizowali kod źródłowy 100 stron internetowych stosujących dark patterns i wyodrębnili fragmenty kodu odpowiedzialne za manipulacyjne elementy interfejsu. Tak pozyskane dane także posłużyły do treningu dla sztucznej inteligencji.

Następnie zespół wykonał pogłębioną analizę za pomocą eksperymentów neuromarketingowych, podczas których eksperci zbadali fizyczne reakcje użytkowników na bodźce marketingowe. Zespół korzystał w tym celu z technik eye tracking (monitorowanie uwagi wizualnej), facial tracking (analiza reakcji emocjonalnych) oraz elektroencefalografii (EEG) do pomiaru aktywności mózgu. Całość eksperci uzupełnili o badanie ankietowe online symulujące realne scenariusze zakupowe – poinformował urząd.

Jednocześnie UOKiK przetestował możliwości modelu GPT-4 pod kątem wykrywania dark patterns, opierając się na wypracowanych wytycznych. Wyniki testów pilotażowych pomogły ekspertom stworzyć narzędzie AI, które analizuje układy stron, wykorzystuje wnioski z badań neuromarketingowych i behawioralnych oraz sprawdza kod źródłowy.

Narzędzie zostanie zaprezentowane podczas konferencji "Protecting Consumers in the Digital Age: AI and Dark Pattern Detection", która odbędzie się 17 marca br. w Bydgoszczy.

źródło: PAP