Raport, w którym Dyżurnet.pl (zespół działający jako punkt kontaktowy do zgłaszania nielegalnych treści w internecie) podsumował ubiegły rok, pokazuje m.in. że rośnie skala wykorzystania sztucznej inteligencji w celu krzywdzenia dzieci.
Rok do roku liczba wygenerowanych przez AI materiałów przedstawiających seksualne wykorzystywanie dzieci na podstawie obrazów prawdziwego dziecka lub wygenerowanej postaci dziecka wzrosła o 300 proc.
Czemu powstaje więcej CSAM? Aplikacje, brak wiedzy to tylko początek
Dzieje się tak m.in. dzięki powszechnemu dostępowi do aplikacji nudyfikujących, tzn. pozwalających na "rozebranie" osoby na zdjęciu. Wykorzystywane w tym celu są m.in. zdjęcia publikowane przez dzieci, ich rodziców i opiekunów w mediach społecznościowych.
- Przestępcy (...) potrafią na podstawie 20 zdjęć wygenerować konkretne zdjęcia CSAM. Niestety idzie to jeszcze dalej - dzisiaj są modele, które potrafią generować filmy z udziałem dzieci. I te filmy (...) są coraz lepsze i niestety niedługo nie będziemy w stanie określić, czy materiały, które my analizujemy, były wytworzone przez sztuczną inteligencję czy nie - wyjaśniła Katarzyna Nyczka z Dyżurnet.pl podczas spotkania, na którym zaprezentowano raport.
Jej zdaniem rozwiązaniem problemu może być unijny pakiet legislacyjny nazywany "Omnibus VII" ws. zamiany aktu o sztucznej inteligencji (AI Act), który ma m.in. wprowadzić obowiązek oznaczania treści generowanych przez AI.
Arkadiusz Michałowski przypomniał o "Szon Patrolach", których temat media nagłośniły pod koniec ubiegłorocznych wakacji. Początkowo przedstawiane jako zjawisko uliczne okazały się formą cyberprzemocy rówieśniczej.
Wyjaśnił, że w mediach społecznościowych powstawały konta, których nazwy tworzono poprzez połączenie słowa "szon" i informacji sugerującej, że jest to grupa o charakterze lokalnym, związana z jakąś szkołą, miejscowością lub dzielnicą. Publikowano na nich opatrzone wyzwiskami zdjęcia dziewczyn.
Jego zdaniem to zjawisko było niepokojące m.in. dlatego, że jednym z głównych powodów, dla których nastolatki są szkalowane w internecie, jest - według osób, które doświadczyły tej formy przemocy - wygląd.
Dyżurnet współpracuje z platformami
Na zamykanie kont promujących ten trend pozwala współpraca Dyżurnet.pl z platformami społecznościowymi, jednak z obserwacji Michałowskiego wynika, że stosujący przemoc użytkownicy przenoszą się z dużych platform do takich, które mają ograniczone formy moderacji, przez co dotarcie do pewnych treści jest trudniejsze - tak dla analityków, jak i organów ścigania.
W dystrybucji nielegalnych treści dużą rolę odgrywa Telegram. W ciągu roku Dyżurnet.pl otrzymał prawie 600 zgłoszeń dotyczących użytkowników i grup działających na tej platformie. Ponad 440 z nich dotyczyło materiałów przedstawiających seksualne wykorzystywanie dzieci.
Materiały generowane przez dzieci. Rośnie skala problemu
Kierowniczka Dyżurnet.pl Martyna Różycka zauważyła, że 18 proc. spośród 2866 CSAM, które pracownicy jej zespołu przeanalizowali w 2025 r., stanowiły treści wygenerowane samodzielnie przez dzieci. Podkreśliła jednak, że "samodzielnie" nie znaczy "dobrowolnie".
- To oznacza, że za tym stoi manipulacja, za tym stoi sprawca, który namówił dziecko do tego, aby te treści zostały wytworzone. Czyli w taki sposób pokierował rozmową z dzieckiem, albo w taki sposób dziecko miało do czynienia wcześniej z materiałami pornograficznymi, że samo stało się producentem - wyjaśniła.
Pozyskane w ten sposób materiały służą przestępcom m.in. do szantażowania dzieci.
Nielegalne treści przedstawiające wykorzystanie seksualne dzieci (CSAM) albo zawierające jakiekolwiek znamiona cyberprzemocy należy zgłaszać do Dyżurnet.pl. Można to zrobić za pomocą formularza, który znajduje się na stronie internetowej, a także przy pomocy aplikacji mObywatel, poprzez zakładkę Bezpiecznie w sieci.
Źródło: PAP
