Jak informuje Polska Agencja Prasowa, śledztwo w sprawie seksualizacji treści przez chatbota Grok firmy xAI zostało wszczęte w poniedziałek, a urząd zbada, czy firma nie złamała brytyjskiego prawa i wystarczająco chroniła konsumentów.
"Pojawiły się bardzo niepokojące doniesienia o tym, że chatbot Grok w serwisie X jest używany do tworzenia i rozpowszechniania obrazów rozebranych ludzi - co może być uznane za naruszenie intymności lub pornografię - oraz grafik seksualizujących dzieci, co może być uznane za materiały wykorzystujące seksualnie dzieci" - napisano w oświadczeniu Ofcom.
Urząd podkreślił, że nie "nie jest cenzorem", ale zajmuje się badaniem, czy firmy i aplikacje stosują się do brytyjskiego przepisów dotyczących m.in. zamieszczania niezgodnych z prawem treści, ochrony prywatności czy ochrony dzieci.
Regulator przeanalizuje teraz materiały w sprawie i zdecyduje, czy chatbot naruszył zasady. Przed ostateczną decyzją xAI ma mieć szansę na obronę swojego stanowiska. Jeżeli Ofcom potwierdzi naruszenia, może zobowiązać firmę do dostosowania swojego produktu do brytyjskich przepisów i nałożyć grzywnę do 18 mln funtów lub 10 proc. globalnego przychodu.
Brak zabezpieczeń. Setki poszkodowanych
xAI spotkał się w ostatnim czasie z krytyką po tym, gdy Grok był wykorzystywany przez użytkowników serwisu X do generowania lub edytowania obrazów skąpo ubranych lub nagich osób (w tym dzieci), które nie wyrażały na to zgody. Media informowały o setkach poszkodowanych kobiet i nastolatek.
Działania Groka zaczęły być badane przez regulatorów z Europy i Azji. Wielu polityków krytykowało brak odpowiednich zabezpieczeń i adekwatnej reakcji ze strony xAI. Indonezja i Malezja zablokowały dostęp do chatbota.
Musk powiedział wcześniej, że krytycy jego platformy szukają "jakiegokolwiek pretekstu do wprowadzania cenzury".
Źródło: PAP
