W ostatnich dniach jest głośno o tym, że czatbot platformy X, Grok, po cichu udostępnił użytkownikom funkcję modyfikacji zdjęcia przez dowolne prompty. Funkcjonalność wykorzystywana jest do seksualizowania wizerunków kobiet i dzieci. Użytkownicy wykorzystywali ją między innymi do tworzenia grafik pokazujących kobiety w bikini.
Ministerstwo IT Indii dało platformie społecznościowej w piątek 72 godziny na przedstawienie raportu o podjętych działaniach, w którym szczegółowo opisano kroki podjęte w celu zapobiegania treściom uznanym za "obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, o charakterze seksualnym, pedofilskie lub w inny sposób zabronione przez prawo".
Sprawę opisuje znany serwis technologiczny TechCrunch. Decyzja Indii jest następstwem działań użytkowników, którzy pokazali przykłady, jak Grok był nakłaniany do zmiany wizerunku osób – głównie kobiet – tak, aby wyglądały na rozebrane (ubrane w bikini). Skłoniło to indyjską parlamentarzystkę Priyankę Chaturvedi do złożenia formalnej skargi.
Odrębnie zgłoszono przypadki, w których chatbot AI generował obrazy o charakterze seksualnym z udziałem nieletnich. Problem wynikał z zaniedbań w zabezpieczeniach. Obrazy te zostały później usunięte.
Najnowsze zarządzenie zapadło kilka dni po tym, jak indyjskie ministerstwo IT wydało w poniedziałek szersze ostrzeżenie dla platform mediów społecznościowych dotyczące treści obscenicznych.
W ostrzeżeniu wezwano firmy do wzmocnienia wewnętrznych zabezpieczeń. Zaznaczono, że nieprzestrzeganie tych zasad może skutkować podjęciem kroków prawnych na podstawie indyjskiego prawa dotyczącego IT i prawa karnego.
"Powtarzamy, że nieprzestrzeganie powyższych wymogów będzie traktowane poważnie i może skutkować surowymi konsekwencjami prawnymi wobec platformy, jej odpowiedzialnych urzędników oraz użytkowników platformy, którzy dopuścili się naruszenia prawa, bez konieczności dalszego powiadamiania" – ostrzeżono w nakazie.
