UN Women, agenda ONZ zajmująca się prawami kobiet, we współpracy z badaczami z City St George’s University of London, opublikowali raport "Tipping Point: Online violence impacts, manifestations and redress in the AI age", analizujący przemoc wobec kobiet w internecie w epoce sztucznej inteligencji. Szczególną uwagę poświęcono kobietom funkcjonującym w przestrzeni publicznej – przede wszystkim dziennikarkom, aktywistkom i obrończyniom praw człowieka.
Autorzy raportu wskazują, że rozwój narzędzi AI znacząco zwiększył skalę i intensywność przemocy online. Chodzi m.in. o tworzenie fałszywych materiałów pornograficznych typu deepfake, manipulowanie wizerunkiem, skoordynowane kampanie nękania czy seksualizowane ataki prowadzone za pomocą generatywnej AI.
Dziennikarki pod presją
Kobiety pracujące w mediach zostały wskazane jako jedna z grup najbardziej narażonych na cyfrową przemoc.
Według raportu: 41 proc. respondentek przyznało, że zaczęło autocenzurować swoje wypowiedzi w mediach społecznościowych, 19 proc. ograniczyło publiczne wypowiedzi związane z pracą zawodową, można zauważyć także całkowite wycofanie się z aktywności online po doświadczeniu zmasowanych ataków.
Autorzy raportu podkreślają, że przemoc internetowa wobec dziennikarek przestaje być wyłącznie problemem indywidualnym. Coraz częściej wpływa na jakość debaty publicznej i pluralizm mediów.
AI ułatwia nękanie i manipulację
Szczególnie niepokojący fragment raportu dotyczy wykorzystania sztucznej inteligencji do tworzenia materiałów o charakterze seksualnym.
Jak wynika z badania: 27 proc. kobiet otrzymało niechciane seksualne wiadomości lub obrazy, 12 proc. miało rozpowszechniane intymne materiały bez zgody, 6 proc. padło ofiarą deepfake’ów lub zmanipulowanych treści generowanych przez AI.
Eksperci zwracają uwagę, że rozwój łatwo dostępnych narzędzi AI znacząco obniżył próg wejścia dla sprawców. Jeszcze kilka lat temu stworzenie realistycznego deepfake’a wymagało specjalistycznej wiedzy technicznej. Dziś podobne materiały mogą powstawać masowo i praktycznie anonimowo. Do nasilenie zjawiska przyczyniło się także osłabienie moderacji treści na platformach społecznościowych.
W rozmowie z Euronews współautorka raportu Julie Posetti z City St George’s University of London, użyła określenia "AI-assisted virtual rape" [wirtualny gwałt wspomagany przez AI – red.], opisując najbardziej drastyczne przypadki cyfrowej przemocy seksualnej.
Problemy psychiczne i efekt mrożący
Raport wskazuje również na poważne konsekwencje psychiczne przemocy online.
Blisko jedna czwarta badanych kobiet zadeklarowała, że doświadczyła stanów lękowych lub depresji związanych z atakami internetowymi. 13 proc. respondentek mówiło o objawach zespołu stresu pourazowego (PTSD).
W przypadku dziennikarek skutki często przekładają się bezpośrednio na pracę redakcyjną. Kobiety ograniczają obecność w mediach społecznościowych, unikają tematów politycznych lub światopoglądowych, a część rezygnuje z aktywności komentatorskiej.
Nie tylko dziennikarki
Choć raport mocno koncentruje się na kobietach pracujących w mediach, badanie objęło również aktywistki, polityczki, ekspertki i przedstawicielki organizacji społecznych.
Według autorów wszystkie te grupy coraz częściej stają się celem skoordynowanych kampanii nękania, których celem jest zastraszenie i ograniczenie udziału kobiet w debacie publicznej.
UN Women apeluje m.in. o: zaostrzenie regulacji wobec platform internetowych, szybsze usuwanie treści typu deepfake, skuteczniejsze mechanizmy zgłaszania przemocy, większą odpowiedzialność firm technologicznych za działanie algorytmów.
