W czwartek na profilu Platformy Obywatelskiej na X (wcześniej: Twitter) ukazało się wideo, w którym krytykowano premiera Mateusza Morawieckiego. Zestawiono jego wystąpienie z Sejmu i słowa „Zjednoczona Prawica jest twarda jak stal” z tekstami nieprzychylnymi Zbigniewowi Ziobrze z maili, jakie opublikowała strona Poufna Rozmowa..Ich domniemanym autorem miał być właśnie Morawiecki.
W nagraniu teksty maili czyta głos wygenerowany przez sztuczną inteligencję, który jednak całkiem udanie imituje głos prawdziwego Morawieckiego. Nie zostało to nigdzie w wideo oznaczone.
##NEWS https://www.wirtualnemedia.pl/suwerenna-polska-spot-sztuczna-inteligencja-donald-tusk,7169505043240577a ##
To nie pierwsze tego typu wideo PO. 22 sierpnia opublikowano podobne wideo, w którym AI czyta kwestie głosami Morawieckiego i prezesa Orlenu Daniela Obajtka, dzień później – Michała Dworczyka, byłego szefa kancelarii premiera. Dopiero po dwóch dniach dodano tweety „Lektor wygenerowany przez AI”.
„Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy »zaginioną rozmowę Tuska z Putinem na molo w Sopocie«? Albo »wideo z tajnej narady u Kaczyńskiego?« Kto będzie rozróżniał co jest prawdziwe, a co podrasowane, gdy już teraz wszelkiego rodzaju fejki roznoszą się z prędkością światła?” - pytał Marcin Makowski z „Wprost”.
Niebezpieczna zabawa
„Gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ. Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych” - oceniła dziennikarka technologiczna Sylwia Czubkowska.
- To nie jest jeszcze deepfake, to taki semideepfake – dodaje Czubkowska w rozmowie z Wirtualnemedia.pl. - Ale to, że pojawiło się takie nagranie bez żadnego wyraźnego oznaczenia, bo nie jest takim tweet po kilku godzinach, jest złym sygnałem. Jeszcze bardziej niebezpieczne są komentarze zwolenników Platformy, że w czym problem, że to nie jest zakazane – uważa dziennikarka.
- Nie będziemy mieli szybko regulacji nakazujących opisywanie deepfake'ów. One są w AI Act, który kilka miesięcy temu przeszedł przez Parlament Europejski. Implementacja może zająć około dwóch lat w unijnym prawie. Nie można spodziewać się, że przepisy pojawią się szybciej, to zawsze zajmuje czas, nawet przy ogromnej woli politycznej – podkreśla Czubkowska.
Dziennikarka nie spodziewa się też krajowych przepisów w tej kwestii. - Jesteśmy przed końcem kadencji Sejmu, ustawy nie przepchnie się w miesiąc. Bez sensu jest pisać własne przepisy, skoro i tak po implementacji unijnych trzeba byłoby je poprawiać – zaznacza.
Czy jednak po takich spotach PO ze strony partii rządzącej nie pojawi się wola polityczna, by kwestie głosów czy obrazów wygenerowanych przez sztuczną inteligencję jednak uregulować? - Prędzej będzie to sygnał dla innych, że można takie rzeczy robić. To wróżenie z fusów, ale może ktoś teraz pokaże Donalda Tuska mówiącego po niemiecku? - zastanawia się Czubkowska.
##NEWS https://www.wirtualnemedia.pl/reklama-kasyna-sztuczna-inteligencja-glos-dziennikarz-radio-canada,7169504558102145a ##
- Najlepszym obrazem tego, w jakim może to pójść kierunku, i to nie od strony technologicznej, bo ona jest najbanalniejsza, widać i słychać, że to nie jest prawdziwe: najważniejszy jest element psychologiczny, co świetnie pokazywał serial „Rok za rokiem” - uważa dziennikarka. Tam grana przez Emmę Thompson polityczka przyznaje, że widea przedstawiające jej rywali są fałszywe, ale dodaje, że oni mogliby te słowa powiedzieć. - Wiemy, że to nie jest prawdziwe, ale przecież oni tak myślą, to i tak byłyby ich słowa. I ludzie tak zaczną myśleć - mówi Czubkowska.
- To bardzo emocjonalna kampania, może bardziej nawet niż zwykle, bańkowa, oparta na skrajnych grupach działających w internecie. Do nich łatwo uderzyć z takim przekazem. Wyobraźmy sobie, że bardziej jeszcze podkręcony deepfake pojawia się w piątek o godzinie 17 tuż przed ciszą wyborczą. Kto go będzie prostował? To jest niebezpieczeństwo. Łatwo otworzyć tamę, trudniej potem ją zamknąć – dodaje dziennikarka.
