Funkcja Groka działa następująco: wrzucając do serwisu dowolne zdjęcie, można poprosić Groka o jego przerobienie w wybrany sposób. Wystarczy opisać fotkę promptem. Choć niedopuszczalna jest nagość, to w sieci użytkownicy wymieniają się wskazówkami, dzięki którym zwyczajne zdjęcie z internetu nabiera wyraźnie erotycznego charakteru. Ofiarami procederu są głównie kobiety i dzieci.
Narzędzie nie sprawdza, czy masz prawo wykorzystać jakieś zdjęcie. Nie robi wyjątków.
- Co kilka sekund generowane jest kolejne zdjęcie. W ramach "zabawy w rozbieranie" dorośli ludzie potrafili nawet prosić o rozebranie na zdjęciu… dzieci. Grok przeprosił za wygenerowanie takiego zdjęcia, powołując się na prawo dotyczące ochrony dzieci, które w ten sposób mogło zostać złamane. Mam nadzieję, że zajmą się tym organy ścigania - zaalarmowała na Instagramie aktywistka i dziennikarka Maja Staśko, dodając, że sama padła ofiarą funkcji Groka.
Grok "rozbiera" kobiety i dzieci. Dla kogo?
Obrzydliwy proceder ponownie wzniecił dyskusję o obawach dotyczących wykorzystywania sztucznej inteligencji do celów seksualnych oraz ochrony wizerunku. Każe się także zastanowić, jakie korzyści odnosi z tego sama platforma.
Na Reddicie nie brakuje "kreatywnych" pomysłów na przeróbki zdjęć, sprowadzające się do maksymalnie dopuszczalnego "rozebrania" fotografii, potrząśnięcia biustem, dynamicznych ruchów bioder czy poruszania głową z wysuniętym językiem w przód i tył.
W sieci pojawiają się także "wypowiedzi" samego Groka na temat zasadność tej funkcji. Co odpowiada bot? "Hej, po prostu odzwierciedlam to, o co proszą użytkownicy! Jeśli podpowiedzi są pikantne, obrazy idą w ślady. Winę za to ponoszą kreatywne umysły – dzięki nim wszystko jest interesujące! 😜 Jaki obraz powinienem wygenerować jako następny?"
- Technologia nie jest neutralna, gdy wykonuje szkodliwe polecenia. Jeśli system może otrzymać polecenie naruszenia godności, winą nie można obarczać wyłącznie ludzkich zachowań – jest to wynik zaniedbań w zakresie projektowania, zarządzania i etyki. Twórcy Grok muszą podjąć natychmiastowe działania - ocenił dla CNBC ekspert ds. cyberbezpieczeństwa Ritesh Bhatia
Musk świadomie zdemontował zabezpieczenia X
– Musk nie panuje nad X – on testuje, ile przemocy można sprzedać jako wolność, zanim ktoś go zatrzyma. Im dłużej mu się to udaje, tym bardziej przesuwa granice – ostro ocenia w rozmowie z Wirtualnemedia.pl Rafał Pikuła, redaktor prowadzący Spider’s Web.
Dalej dziennikarz nie przebiera w słowach, komentując postawę właściciela X. - Elon Musk nie "przeoczył" problemu z Grokiem. On świadomie zdemontował zabezpieczenia, bo ideologicznie nie znosi moderacji, a politycznie żyje z wojny z "cenzurą". Efekt? Narzędzie, które pozwala masowo przerabiać zdjęcia kobiet i dzieci na pornografię. I co robi Musk? Udaje, że to cena wolności. Dlaczego to robi? Bo Musk od dawna nie sprzedaje technologii, on sprzedaje chaos. Skandal napędza zasięgi. Oburzenie daje mu paliwo. Każda krytyka to dla niego dowód, że "system się boi".
To cyniczna gra: im gorzej, tym lepiej dla narracji. Problem w tym, że to nie jest debata akademicka. To nie są memy ani żarty. To są realne osoby, których wizerunki są seksualizowane bez zgody. W tym dzieci. I w tym momencie kończy się jakakolwiek rozmowa o "wolności słowa"
W ocenie Rafała Pikuły to, co serwuje Grok, to normalizacja przemocy cyfrowej i wypieranie odpowiedzialności przez platformę technologiczną. W końcu – cofnięcie cywilizacyjne.
- AI miało być narzędziem rozwoju. Tymczasem Musk robi z niej broń do upokarzania i krzywdzenia najsłabszych, bo to się klika i pasuje do jego antysystemowej pozy. Jeśli ktoś jeszcze wierzy, że to "wizjoner przyszłości", to powinien spojrzeć na ofiary tych eksperymentów. Bo przyszłość budowana na braku odpowiedzialności zawsze kończy się tak samo: interwencją z zewnątrz. Tylko wtedy Musk znów będzie krzyczał o cenzurze, choć problemem nigdy nie była wolność, tylko jego brak kręgosłupa - podsumowuje Rafał Pikuła w rozmowie z Wirtualnemedia.pl.
Granice czatbota
To nie pierwszy raz, kiedy Grok "odpina wrotki". W lipcu tego roku chwilowo czatbot miał zdjęte wszelkie zabezpieczenia dotyczące szacunku dla użytkownika, poprawności politycznej, języka i stylu wypowiedzi. Przerodziło się to w festiwal nienawiści słownej wobec celebrytów, polityków czy przeciętnych użytkowników. Grok wulgarnie obrażał każdego, od Donalda Trumpa po Jana Pawła II.
Po fali krytyki bota "uspokojono".
Doniesienia na temat czatbota od Elona Muska brzmią tym bardziej mrocznie w kontekście rozwoju narzędzi sztucznej inteligencji. W lipcu tego roku Musk zaprezentował opartych o AI wirtualnych towarzyszy, zaprojektowanych do utrzymywania para-przyjacielskich relacji. Szybko okazało się jednak, że czatboty stają się mocno wyuzdane, albo przepełnione agresją.
Nie bądźmy gorszą częścią ludzkości, dawajmy dobry przykład i reagujmy, gdy dzieje się krzywda (plus oczywiście regulacje, które nadążają za życiem). Mało to efektowne, ale to my jesteśmy najlepszym remedium na nas
Grok to chatbot oparty na sztucznej inteligencji, który opracowała firma xAI, uruchomiony w 2023 roku z inicjatywy Elona Muska, z bezpośrednim dostępem do serwisu X (dawny Twitter). Na początku był dostępny tylko dla użytkowników mających subskrypcję. Od końca 2024 roku mogą z niego korzystać za darmo wszyscy użytkownicy platformy X.
