Jak informuje PAP, podczas wtorkowej konferencji eksperci dyskutowali m.in. o wpływie deepfake’ów na wiarygodność mediów i bezpieczeństwo publiczne, a także o metodach wykrywania zmanipulowanych treści.
Paweł Sanowski z Instytutu Monitorowania Mediów zwracał uwagę na szybko rosnący udział automatycznego ruchu w internecie. Jak mówił, 57 proc. zapytań do stron HTML ma być generowanych przez boty, a coraz większą część aktywności w sieci tworzą agenci wykorzystujący sztuczną inteligencję. Jego zdaniem może to w przyszłości dodatkowo utrudniać odróżnianie prawdziwych informacji od treści generowanych automatycznie.
Błażej Strzelczyk, szef działu fact-checkingu PAP, wskazywał z kolei, że fałszywe treści można dziś tworzyć szybko i niskim kosztem, podczas gdy ich rzetelna weryfikacja wymaga czasu i większych zasobów.
16 tys. reklam AI i ponad 450 wykorzystanych wizerunków
Ewelina Bartuzi-Trokielewicz, kierowniczka Zakładu Analiz Audiowizualnych i Systemów Biometrycznych NASK, poinformowała, że w trakcie pięciotygodniowego monitoringu wykryto 16 tys. reklam wygenerowanych przez AI. Ustalono też ponad 450 osób, których wizerunki zostały w nich wykorzystane.
Według przedstawionych podczas konferencji szacunków Polacy stracili na oszukańczych reklamach ok. 537 mln zł.
Bartuzi-Trokielewicz zaprezentowała również system DROZD, przeznaczony do analizy i wykrywania deepfake’ów oraz innych zmodyfikowanych treści. Narzędzie ma pomagać m.in. w identyfikowaniu manipulacji głosem i obrazem w materiałach wideo.
Jednymi z głośniejszych przypadków były reklamy z wizerunkiem prezesa InPostu Rafała Brzoski i jego żony. Fałszywe materiały publikowane na Facebooku i Instagramie miały służyć do wyłudzania pieniędzy.
W sprawę zaangażował się wicepremier i minister cyfryzacji Krzysztof Gawkowski, który wezwał Metę do przedstawienia informacji o skali oszukańczych reklam w Polsce, w tym wykorzystujących wizerunki osób publicznych i przedsiębiorców.
Meta nie podała danych dotyczących wyłącznie Polski. Przekazała natomiast, że w całej Unii Europejskiej w analizowanym okresie otrzymała 788 745 zgłoszeń na Facebooku i 353 997 na Instagramie na podstawie art. 16 Aktu o usługach cyfrowych (DSA).
Rafał Brzoska postuluje wprowadzenie kar finansowych dla platform społecznościowych publikujących fałszywe treści. Według niego sankcja powinna sięgać 150 proc. przychodów uzyskanych z ich emisji.
