Chińska aplikacja ZAO bije rekordy popularności. "Maszyna do tworzenia fake newsów"

W piątek, 30 sierpnia na rynku zadebiutowała aplikacja ZAO, która w ciągu kilku dni stała się najczęściej pobieranym programem w chińskim App Store. Służy do przerabiania twarzy - przykładowo własne rysy twarzy można podłożyć pod zdjęcie konkretnego bohatera. Dzieje się tak, ponieważ aplikacja wykorzystuje sztuczną inteligencję do analizy indywidualnych cech użytkowników.

Jak to działa? Użytkownik po zrobieniu sobie selfie może podłożyć je do ulubionego filmu lub video. Zabawa polega na tym, że może w ten sposób wcielić się w postać na przykład z „Gry o tron”.

In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.

Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) September 1, 2019

Obawy wzbudza jednak kwestia bezpieczeństwa - okazuje się, że program – podobnie jak innego tego typu – wykorzystuje dane wrażliwe – są one przekazywane do MOMO Inc (to firma, która stoi za chińską aplikacją randkową Tantan). Po kilku godzinach m.in. platforma WeChat całkowicie zablokowała treści pochodzące z ZAO.

Wątpliwości wzbudzał także jeden z zapisów regulaminu, który dawał twórcom aplikacji globalne prawa do korzystania z dowolnych zdjęć utworzonych w aplikacji za darmo. Po wyrażeniu zgody nie miał on prawa do jej cofnięcia. Firma, w odpowiedzi na liczne protesty zmieniła jednak ten punkt – obecnie treści generowane w aplikacji mają nie być już wykorzystywane do innych celów bez uprzedniej zgody użytkownika. Jeśli użytkownik usunie także treści z programu, mają one zostać zlikwidowane z baz danych. Jednocześnie jednak korzystający z programu ponoszą odpowiedzialność za upoważnienie do używania ich zdjęć w aplikacji.

Ankieta przeprowadzona na zlecenie chińskiego konta Weibo Caijing wykazała, że 40 proc. obywateli Chin pytało o gromadzenie danych użytkowników przez program, a 1/4 deklarowała, że „to zabawne i chcą spróbować, jak działa”. Mniej osób było zainteresowanych kwestią niebezpieczeństwa użycia twarzy przez innych.

Chinese viral deepfakes app #ZAO Clip of myself as Sheldon generated in a few seconds from a single picture. pic.twitter.com/JI7MqWUDu6

— Matthew Brennan (@mbrennanchina) September 1, 2019

„Maszyna do tworzenia fake newsów”

Spytaliśmy eksperta, co sądzi na temat tej aplikacji. Wojciech Kardyś, współwłaściciel agencji Good For You stwierdza, że „ZAO powstało zapewne dla zabawy i pieniędzy, deep fake nie jest ani trochę zabawny”. - Wręcz przeciwnie. To maszyna do tworzenia fake newsów na sterydach. W Polsce mamy ogromne problemy z weryfikacją danych. Wystarczy wrzucić tweeta z kontrowersyjną treścią, bądź zdjęciem, by zdobył mnóstwo interakcji. Najlepszym przykładem jest afera z wyciekiem ścieków do Wisły. Nikt nas nie nauczył jak weryfikować informację - musimy do tego dojść sami, co w dzisiejszym, zabieganym świecie, jest niezwykle trudne. Nie jesteśmy przygotowani na walkę z fake newsami, a co dopiero z deep fake'ami - stwierdza Wojciech Kardyś.

Podkreśla też, że żyjemy w bańkach informacyjnych stworzonych przez algorytmy, w których dzielimy się informacjami, które odpowiadają naszemu światopoglądowi. - Jeżeli podrobione video będzie pasować naszym przekonaniom, to podamy je dalej. Takie aplikacje jak ZAO to początek. Zaczniemy od głupich kawałów na kolegach z pracy czy szkoły, by potem wykorzystać deep fake do walki politycznej lub by zemścić się na swojej byłej dziewczynie. Fake newsy już nas zalewają - ponad 20 proc. źródeł z naszego Twittera, prowadzi do fake newsa, co wykazały ostatnie badania Oxfordu. Jeżeli dojdą do tego deep fake, utoniemy w chaosie i dezinformacji. Potrzebna jest natychmiastowa nowelizacja prawa. W ogóle, potrzebne są jakiekolwiek działania naszego rządu – zaznacza ekspert.

FaceApp też wzbudzała wątpliwości

W lipcu br. popularność zyskała aplikacja FaceApp do przerabiania zdjęć twarzy. Po wgraniu fotografii pozwala ona na modyfikowanie wyglądu danej osoby i prezentuje, jak m.in. wyglądałaby w podeszłym wieku. Istnieją jednak wątpliwości, co do m.in. bezpieczeństwa przechowywania danych użytkowników.

Właściciel aplikacji - firma Wireless Lab stwierdziła jednak, że nie przechowuje na swoich serwerach zdjęć użytkowników na stałe, ani nie przesyła danych użytkowników do Rosji.