Skandaliczne reklamy na Facebooku i Instagramie. Z seksualnym wykorzystywaniem dzieci

Tech Transparency Project (TTP) zidentyfikował 332 reklamy, które pojawiły się na platformach należących do Mety. Według organizacji większość z nich wykorzystywała zdjęcie dziecka, które następnie było przekształcane za pomocą sztucznej inteligencji w materiał o charakterze seksualnym. W części przypadków wykorzystano fotografie prawdziwych dzieci.

Reklamy miały łącznie dotrzeć do ponad 29 tys. użytkowników. Były wyświetlane m.in. odbiorcom w Unii Europejskiej, Wielkiej Brytanii, Stanach Zjednoczonych, Indiach i Australii. Niektóre docierały do niewielkiej liczby osób, ale dwie z nich osiągnęły ponad 2,5 tys. odbiorców w samej Unii Europejskiej.

Znaczna część reklam kierowała użytkowników do aplikacji wykorzystujących AI do generowania i modyfikowania zdjęć oraz filmów. Według TTP wiele z tych narzędzi pochodziło od chińskich deweloperów i umożliwiało tworzenie fałszywych materiałów intymnych na podstawie zdjęć prawdziwych osób.

Organizacja ustaliła również, że część reklam została zamieszczona przez współpracujących z Metą partnerów reklamowych w Chinach. Chociaż Facebook i Instagram są w tym kraju niedostępne, chińskie firmy wykorzystują system reklamowy Mety do docierania do użytkowników na innych rynkach.

TTP informował już wcześniej o podobnym problemie. W sierpniu organizacja ujawniła pierwszą grupę 53 reklam zawierających takie materiały. Meta deklarowała wówczas wdrożenie nowych mechanizmów służących skuteczniejszemu wykrywaniu treści związanych z wykorzystywaniem dzieci. Według TTP kolejne reklamy pojawiały się jednak także po wprowadzeniu tych zabezpieczeń.

Meta podkreśla, że materiały przedstawiające wykorzystywanie dzieci – zarówno prawdziwe, jak i wygenerowane przez AI – są zabronione na jej platformach.

Przedstawiciel koncernu Andy Stone przekazał Bloombergowi, że wiele reklam wskazanych przez badaczy zostało wcześniej usuniętych. Zaznaczył też, że podmioty rozpowszechniające niedozwolone materiały regularnie zmieniają stosowane metody, próbując ominąć zabezpieczenia Mety. Firma ma stale rozwijać systemy ich wykrywania.

Według Mety większość zakwestionowanych reklam miała mniej niż 200 wyświetleń, a łączne wydatki reklamodawców na nie wyniosły poniżej 5 tys. dolarów. TTP podał natomiast, że na 1 września około połowy zidentyfikowanych reklam nie było już dostępnych w bibliotece reklam Mety. Pozostałe firma usunęła po przekazaniu jej wyników dochodzenia.

Zdaniem TTP sprawa stawia pod znakiem zapytania skuteczność procesu weryfikowania reklam przez Metę. Organizacja zwraca uwagę, że problem nie dotyczył jedynie treści publikowanych przez użytkowników – materiały trafiały do płatnego systemu reklamowego Facebooka i Instagrama.

Wcześniejsze ustalenia TTP i WIRED wskazywały, że reklamy zawierające niedozwolone materiały mogły pozostawać aktywne przez kilka dni. Organizacja twierdzi również, że reakcja Mety na zgłoszenia niektórych reklam trwała tydzień lub dłużej.