Wykorzystali głos youtubera do kanału AI. "Niebezpieczny precedens"

W poniedziałek popołudniu na profilu Podcastu Wojenne Historie ukazał się następujący wpis: "Chcieliście mieć AI, to macie AI. Na tym przykładzie widać, jak ktoś próbuje ukraść mój... głos. Oczywiście złodzieja i oszusta zgłaszamy na YT, ale za chwilę każdy z nas – głosem, obrazem – może zostać wygenerowany sztucznie. I potem się mamy tłumaczyć?".

Projekt Wojenne Historie prowadzą od czterech lat historycy Kamil Kawalec i Norbert Bączyk. Ich kanał na YouTube subskrybuje obecnie 275 tys. osób, a prawie 1200 filmów zapewniło ponad 200 mln wyświetleń.

Ich profil na Patronite co miesiąc może liczyć na ponad 60 tys. zł wsparcia od 1700 patronów. Dwa lata temu napisali także książkę "Historia lubi się powtarzać" wydaną przez wydawnictwo Altenberg.

Głos Bączyka został użyty w materiale "Zakazane modyfikacje, które uratowały B-17 -historia jednego mechanika i tysiąca ocalonych załóg", który ukazał się na kanale Opowieści II Wojny. Subskrybowany przez zaledwie 144 osoby kanał tworzony jest na bazie AI.

Informacji na ten temat nie znajdziemy jednak w opisie projektu, a w opisie poszczególnych filmów, gdzie pojawia się formułka: "Treści zmodyfikowane lub wygenerowane syntetycznie. Dźwięki lub elementy wizualne zostały znacząco zmodyfikowane lub wygenerowane cyfrowo".

Norbert Bączyk w rozmowie z Wirtualnemedia.pl wskazuje: "Zgłosiliśmy oficjalnie ten przypadek, ja i Kamil Kawalec, jako osoby poszkodowane, ale koła YouTube’a oraz Google’a mielą w takich sytuacjach czasem powoli. Czekamy w tym momencie na stosowną reakcję z ich strony".

Historyk dodaje: "Niezależnie od tego inne osoby także zgłaszają ten kanał w odpowiedzi na naszą prośbę albo niezależnie od niej. Mam nadzieję, że w ciągu kilku dni to zostanie usunięte. Na razie temu kanałowi służy rozgłos, rośnie liczba wyświetleń materiału, ale na szczęście subskrypcji już niekoniecznie. W poniedziałek nie był jeszcze nikomu znany. Sam dowiedziałem się o jego istnieniu w poniedziałek rano od znajomych".

Materiał, w którym wykorzystano jego głos, ma obecnie ponad cztery tysięcy wyświetleń. W komentarzach widzowie zauważyli szybko, że ktoś nielegalnie wykorzystał głos jednego z twórców Podcastu Wojenne Historie. Nie wszyscy jednak czytają komentarze i mogą się złapać na ten materiał, nie mając świadomości opisywanych okoliczności.

Bączyk zapewnia: "Będziemy próbowali ustalić, kto dokonał tego przestępstwa na naszą szkodę i rozważymy przejście na drogę prawną. Takie czyny mają już znamiona przestępstwa, są objęte nie tylko Kodeksem Cywilnym, ale i Kodeksem Karnym."

Twórcy chcą nagłośnić sprawę, która ma duże znaczenie nie tylko dla ich podcastu.

Norbert Bączyk przyznaje, że wcześniej zdarzały się już podobne historie, ale nigdy dotyczące głosu. — Kradzieże naszej pracy, to jest bezpośrednio treści audycji, czy próby podszywania się pod nas, miały miejsce już wcześniej. Zgłaszaliśmy takie kanały i były usuwane. Tylko że wcześniej kradzież sprowadzała się do tego, że kradziono nam cały materiał — nagranie puszczano przez syntezator mowy — opisuje.

— Natomiast w tym momencie po raz pierwszy nie skradziono nam tekstu w rozumieniu tego, co my kreujemy, co wytwarzamy, naszych audycji, a skradziono bezpośrednio mój głos. Mamy do czynienia z podszywaniem się pode mnie celem wykorzystania tego na innym kanale. Na szczęście systemy sztucznej inteligencji nie są jeszcze tu aż tak doskonałe. Można jeszcze wykryć, że jest to syntezator, ale postęp jest tu widoczny cały czas — dodaje.

W internecie, w tym na YouTube powstają kolejne profile czy kanały bazujące na AI, wykorzystujące nielegalnie głos albo wizerunek innej osób. We wrześniu opisywaliśmy, jak rośnie liczba fałszywych filmów dotyczących prezydenta Karola Nawrockiego. Ich twórcy podkreślają, że to zmyślone historie, wygenerowane z użyciem AI. Jednak w komentarzach można zauważyć, że nie wszyscy odbiorcy zdają sobie z tego sprawę.