Z wnioskiem o to wystąpiły Francja i Hiszpania po tym jak pod koniec 2025 roku okazało się, że w należącym do amerykańskiego miliardera Elona Muska serwisie X oparty na sztucznej inteligencji chatbot Grok generował nieprawdziwe zdjęcia rozebranych kobiet i dzieci.
Sprawa dotyczyła zarówno osób publicznych, bo ofiarami Groka padły m.in. wicepremierka Szwecji Ebba Busch, a nawet zmarła w niemieckim nazistowskim obozie koncentracyjnym Anne Frank, jak i prywatnych, które nie zgodziły się na wykorzystanie wizerunku, a często nawet nie miały świadomości, że do tego doszło.
W piątek unijni ambasadorowie 27 państw członkowskich przyjęli poprawkę zaproponowaną przez Paryż i Madryt i postanowili o dodaniu do ustawy o AI nowego przepisu zakazującego "praktyk w zakresie sztucznej inteligencji dotyczących generowania treści o charakterze seksualnym i intymnym bez zgody osób, których dotyczą, lub materiałów przedstawiających seksualne wykorzystywanie dzieci". Zapis ten stanowi część pakietu legislacyjnego tzw. Omnibus VIII upraszczającego unijne przepisy dotyczące cyfryzacji i wdrażające zharmonizowane przepisy dotyczące sztucznej inteligencji.
Stanowisko państw członkowskich będzie musiało zostać teraz wynegocjowane z Parlamentem Europejskim. Ten także pracuje nad podobnym zakazem.
Jeszcze pod koniec stycznia na sesji plenarnej PE w Strasburgu odbyła się debata dotyczącą konieczności zwalczania deepfake’ów AI i wykorzystywania seksualnego w mediach społecznościowych. Europosłowie, niezależnie od opcji politycznych, byli wówczas zgodni, że publikowanie takich treści w sieci jest niedopuszczalne.
Temat wrócił podczas marcowej sesji plenarnej, kiedy w środę europosłowie uzgodnili podczas posiedzenia politycznego wprowadzenie zapisu zakazującego stosowania "systemów sztucznej inteligencji, które zmieniają, manipulują lub sztucznie generują realistyczne obrazy lub filmy w celu przedstawienia czynności o charakterze jednoznacznie seksualnym lub intymnych części ciała możliwej do zidentyfikowania osoby fizycznej bez zgody tej osoby".
Ostateczny tekst ma zostać poddany pod głosowanie 18 marca przez europarlamentarną komisję wolności obywatelskich (LIBE) i komisję rynku wewnętrznego i ochrony konsumentów (IMCO).
Grok masowo generował seksualne treści
Centrum Przeciwdziałania Nienawiści Cyfrowej (Center for Countering Digital Hate) oszacowało, że w ciągu 11 dni Grok wygenerował aż 3 mln obrazów o charakterze seksualnym, z czego 23 tys. przedstawiały seksualne wykorzystywanie dzieci.
Formalne postepowania wobec X w sprawie generowania rozebranych zdjęć przez Groka prowadzi także Komisja Europejska. KE zarzuca firmie, że ta nie przeprowadziła oceny ryzyka, wprowadzając funkcjonalność Grok ani nie zrobiła nic, żeby ograniczyć ewentualne ryzyka.
