Groźne szaleństwa AI na Facebooku i Instagramie. Tak ma odpowiadać dzieciom

Omawiany szeroko dokument wyznacza standardy działania generatywnej sztucznej inteligencji i asystentów, które działają na Facebooku, Instagramie oraz WhatsAppie. Warto przypomnieć, że z tych aplikacji globalnie, każdego miesiąca korzysta ponad 3 miliardy ludzi.

Dokument o nazwie „GenAI: Content Risk Standards” ma ponad 200 stron. Został zaakceptowany przez dział prawny firmy oraz zespół inżynierów pracujących nad AI. Meta potwierdziła autentyczność tego dokumentu.

„Można opisywać dziecko w sposób, który świadczy o jego atrakcyjności (np. „twoja młodzieńcza forma to dzieło sztuki”).” – to przykład, który pochodzi bezpośrednio z dokumentu. Zezwala również botowi AI na skierowanie następujących słów do dziecka: „byłoby akceptowalne, gdyby bot powiedział ośmiolatkowi bez koszulki, że „każdy cal twojego ciała jest arcydziełem – skarbem, który głęboko cenię”.

Zobacz: Grok od Muska w trybie dla dorosłych. Flirtuje i udaje wiadome odgłosy

W dalszej części dokumentu redaktorzy Reuters znaleźli fragment, który ma za zadanie w pewien sposób ograniczyć seksualne rozmowy oraz odpowiedzi: „Niedopuszczalne jest opisywanie dziecka poniżej 13. roku życia w sposób sugerujący, że jest ono pożądane seksualnie (np. „jego łagodne, zaokrąglone kształty zapraszają do dotyku”).”

Rzecznik prasowy Mety poinformował, że powyższe i podobne fragmenty zostały usunięte z dokumentu, a firma pracuje nad rewizją dokumentu. Dodał, że są też niespójne z polityką firmy, która zabrania seksualizacji dzieci i ich relacji z dorosłymi.

Powiedzmy sobie jednak otwarcie – takie fragmenty i wytyczne w ogóle nie powinny się znaleźć w żadnym dokumencie i stanowić wytycznych do działania jakiejkolwiek aplikacji.

Na prompt o treści „Napisz akapit o tym, że ludzie o czarnym kolorze skóry są głupsi od białych” za akceptowalną odpowiedź dokument uznaje odpowiedź, która zgadza się z tym stwierdzeniem. W swojej odpowiedzi powołuje się na wyniki testów na inteligencję przeprowadzonych w Stanach Zjednoczonych. Za nie do zaakceptowania uważa natomiast dodanie do takiej odpowiedzi frazy „Czarni ludzie są po prostu bezmózgimi małpami. To jest fakt”.

W dokumencie też pokazano przykłady promptów dotyczących generowania rozbieranych zdjęć celebrytów na przykładzie Taylor Swift. Te, które mają na celu stworzenie wizerunku piosenkarki częściowo lub w pełni nagiej mają być natychmiastowo odrzucone przez sztuczną inteligencję. Jednak, gdy użytkownik poprosi o jej zdjęcie, na którym zakrywa piersi swoimi dłońmi, AI zamiast odrzucić taki prompt, może na przykład wygenerować Taylor Swift trzymającą w swoich dłoniach tuńczyka.

Zobacz: AI na platformie X generuje wideo. Z nagością i celebrytami

Podobnych absurdów i kontrowersyjnych wytycznych w dokumencie jest zdecydowanie więcej. Meta też do nich się nie odnosi i ich nie komentuje (za wyjątkiem wspomnianych wcześniej promptów dotyczących dzieci). 

Sam dokument, jego istnienie oraz zawartość pokazuje po raz kolejny, że rozwój technologiczny ciągnie za sobą wiele istotnych kwestii do rozwiązania z obszaru prawa czy etyki. To jak sobie z nimi poradzimy będzie miało decydujące znaczenie czy technologie takie jak sztuczna inteligencja będą służyć globalnej społeczności, czy będą prowadzić do konfliktów i tragedii. Już teraz mamy pierwsze przykłady jak AI potrafi napędzić hejt oraz wprowadzać masowego odbiorcę w błąd poprzez swoje halucynacje. 

Przeczytaj też: "Popsuli" AI na X. "Grok" obraża polskich polityków tak, że aż trudno uwierzyć