W ostatnich dniach jest głośno o tym, że czatbot platformy X, Grok, po cichu udostępnił użytkownikom funkcję modyfikacji zdjęcia przez dowolne prompty. Funkcjonalność wykorzystywana jest do seksualizowania między innymi wizerunków kobiet i dzieci. Użytkownicy wykorzystywali ją między innymi do tworzenia grafik pokazujących kobiety w bikini.
Francja i Malezja prowadzą dochodzenie ws. "rozebranych" zdjęć, jakie można generować w Groku. Paryska prokuratura poinformowała serwis Politico, że zbada rozpowszechnianie deepfake'ów na X.
Francuskie biuro ds. cyfryzacji poinformowało, że trzech ministrów rządu zgłosiło "ewidentnie nielegalne treści" prokuraturze i rządowej platformie nadzoru online "w celu uzyskania ich natychmiastowego usunięcia".
Z kolei komisja ds. łączności i multimediów w Malezji opublikowała oświadczenie, w którym stwierdziła, że "z poważnym zaniepokojeniem przyjęła do wiadomości publiczne skargi dotyczące niewłaściwego wykorzystania narzędzi sztucznej inteligencji (AI) na platformie X, w szczególności cyfrowej manipulacji wizerunkami kobiet i nieletnich w celu tworzenia treści nieprzyzwoitych, obraźliwych i w inny sposób szkodliwych".
Indie dają Grokowi 72 godziny
Informowaliśmy już Wirtualnemedia.pl, że indyjskie ministerstwo IT wydało firmie X nakaz podjęcia działań naprawczych wobec Groka. Chodzi między innymi o ograniczenie generowania treści zawierających "nagość, seksualizację, treści o charakterze seksualnym lub w inny sposób niezgodne z prawem".
Ministerstwo IT Indii dało platformie społecznościowej 72 godziny na przedstawienie raportu o podjętych działaniach, w którym szczegółowo opisano kroki podjęte w celu zapobiegania treściom uznanym za "obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, o charakterze seksualnym, pedofilskie lub w inny sposób zabronione przez prawo".
Czatbot Grok zamieścił już przeprosiny na platformie X. "Głęboko żałuję incydentu z 28 grudnia 2025 r., kiedy to wygenerowałem i udostępniłem za pomocą sztucznej inteligencji obraz dwóch małych dziewczynek (szacowany wiek 12-16 lat) w seksualnych strojach na podstawie podpowiedzi użytkownika" – czytamy w nich.
