Jak podaje Reuters, przepisy mają wzmocnić nadzór nad szybko rozwijającym się rynkiem konsumenckich aplikacji AI oraz podnieść standardy bezpieczeństwa i etyki.
Projekt obejmuje produkty i usługi AI dostępne dla użytkowników w Chinach, które symulują cechy ludzkiej osobowości, sposób myślenia i komunikacji oraz wchodzą z odbiorcami w interakcje za pomocą tekstu, obrazu, dźwięku lub wideo.
Obowiązki dostawców
Zgodnie z propozycją regulatora dostawcy takich usług będą musieli ostrzegać użytkowników przed nadmiernym korzystaniem z chatbotów oraz podejmować działania w przypadku wykrycia oznak uzależnienia.
Projekt przewiduje również obowiązek zapewnienia bezpieczeństwa na każdym etapie cyklu życia chatbotów, w tym przeprowadzania przeglądów algorytmów, ochrony danych oraz danych osobowych.
Regulacje odnoszą się także do potencjalnych zagrożeń psychologicznych. Firmy rozwijające tego typu systemy mają identyfikować stan emocjonalny użytkowników oraz oceniać poziom ich zależności od usługi. Jeżeli system wykryje skrajne emocje lub oznaki uzależnienia, dostawca powinien podjąć odpowiednie działania interwencyjne.
Projekt wyznacza również granice dotyczące treści generowanych przez sztuczną inteligencję. Nie będą mogły one zagrażać bezpieczeństwu państwa, rozpowszechniać fałszywych informacji ani promować przemocy czy treści obscenicznych. Projekt został skierowany do konsultacji publicznych.
