Jak informuje "The Guardian", sprawa dotyczy dwóch filmów opublikowanych na Facebooku. Jeden przedstawiał szkocką polityczkę Partii Pracy, której za pomocą AI przypisano wypowiedź dotyczącą uchodźców. Drugi był zmanipulowanym materiałem przedstawiającym młodą muzułmankę zaangażowaną w kampanię dotyczącą edukacji na temat zdrowia menstruacyjnego.
Niezależna rada nadzorcza Mety (Oversight Board) to powołany w 2020 roku organ zajmujący się rozpatrywaniem spornych decyzji dotyczących moderowania treści na platformach koncernu. W obu najnowszych sprawach Rada uznała, że materiały powinny zostać usunięte, a sposób, w jaki Meta radzi sobie z deepfake'ami, wymaga zmian.
Facebook pozostawił deepfake z polityczką
Pierwszy przypadek dotyczył szkockiej radnej Partii Pracy. W wygenerowanym przy użyciu AI filmie przypisano jej wypowiedzi dotyczące uchodźców. Jedną z oznak manipulacji był brak pełnej synchronizacji ruchu ust z dźwiękiem.
Materiał został zgłoszony Mecie, jednak firma początkowo zdecydowała, że nie narusza on zasad platformy. Film nie został również oznaczony jako wygenerowany przez sztuczną inteligencję. Meta podtrzymała swoją decyzję także po zainteresowaniu sprawą przez Radę Nadzorczą.
Rada doszła jednak do innego wniosku. Uznała, że materiał narusza zasady Mety dotyczące mowy nienawiści, ponieważ przypisywał uchodźcom jako grupie zachowania przestępcze i seksualnie drapieżne. Według Rady film powinien zostać usunięty.
Deepfake z młodą muzułmanką miał milionowe zasięgi
Druga decyzja dotyczyła młodej muzułmanki z Europy uczestniczącej w kampanii na rzecz edukacji dotyczącej zdrowia menstruacyjnego i ograniczenia stygmatyzacji problemów zdrowotnych kobiet i dziewcząt z mniejszości etnicznych.
W zmanipulowanym materiale kobietę przedstawiono w sytuacjach, które nie miały miejsca. Film był jednym z większej liczby wygenerowanych lub przerobionych przy użyciu AI materiałów mających ją ośmieszać. Według "The Guardian" treści wymierzone w kobietę uzyskały łącznie dziesiątki milionów wyświetleń na różnych platformach społecznościowych.
Rada nadzorcza uznała, że wskazany film narusza zasady dotyczące nękania i prześladowania, i nakazała jego usunięcie. Wezwała również Metę do zmiany definicji "niechcianych zmanipulowanych obrazów", aby jednoznaczniej obejmowała deepfake'i przedstawiające osoby prywatne jako mówiące lub robiące rzeczy, które w rzeczywistości nie miały miejsca.
Rada nadzorcza krytykuje zabezpieczenia Mety
Zdaniem rady problem nie ogranicza się do dwóch konkretnych filmów. Obecne zabezpieczenia stosowane przez Metę wobec deepfake'ów zostały przez nią ocenione jako "konsekwentnie i fundamentalnie niewystarczające".
Rada przedstawiła dziewięć rekomendacji dotyczących polityki Mety. Postuluje m.in. szersze stosowanie oznaczeń dla treści AI wysokiego ryzyka, ograniczanie zasięgu takich materiałów, wprowadzenie ekranów ostrzegawczych oraz zwiększenie konsekwencji wobec kont regularnie publikujących zmanipulowane materiały.
Jednym z proponowanych rozwiązań jest obniżanie przez algorytmy Facebooka widoczności materiałów zakwalifikowanych jako szczególnie ryzykowne. Dzięki temu miałyby one rzadziej trafiać do użytkowników.
Rada proponuje również stosowanie ostrzeżeń pojawiających się przed wyświetleniem niektórych treści wygenerowanych przez AI. Użytkownik, zanim zobaczy materiał, otrzymywałby informację o jego charakterze.
Deepfake'i coraz częściej wykorzystywane do atakowania kobiet
Rada nadzorcza zwróciła szczególną uwagę na wykorzystywanie generatywnej AI do atakowania kobiet uczestniczących w debacie publicznej. Według niej problem dotyczy zarówno polityczek, jak i osób prywatnych zabierających publicznie głos.
Pamela San Martin, współprzewodnicząca Oversight Board, wskazała, że kobiety uczestniczące w życiu publicznym są nieproporcjonalnie narażone na nękanie i dezinformację wykorzystujące deepfake'i. Rada ocenia, że Meta oraz inne platformy społecznościowe powinny skuteczniej reagować na rozpowszechnianie takich materiałów.
