Chiny mówią "stop" emocjonalnemu uzależnieniu od AI. Jest projekt regulacji

Chińska Administracja Cyberprzestrzeni opublikowała projekt przepisów, które mają objąć nadzorem systemy sztucznej inteligencji prowadzące z użytkownikami rozmowy o charakterze emocjonalnym. Nowe regulacje nie zakazują korzystania z takich narzędzi, lecz nakładają na ich twórców obowiązki związane z bezpieczeństwem, ochroną danych oraz ograniczaniem ryzyka uzależnienia.

Kinga Walczyk
Kinga Walczyk
Udostępnij artykuł:
Chiny mówią "stop" emocjonalnemu uzależnieniu od AI. Jest projekt regulacji
fot. Cash Macanaya (Unsplash)
Fot. Cash Macanaya

Jak podaje Reuters, przepisy mają wzmocnić nadzór nad szybko rozwijającym się rynkiem konsumenckich aplikacji AI oraz podnieść standardy bezpieczeństwa i etyki.

Projekt obejmuje produkty i usługi AI dostępne dla użytkowników w Chinach, które symulują cechy ludzkiej osobowości, sposób myślenia i komunikacji oraz wchodzą z odbiorcami w interakcje za pomocą tekstu, obrazu, dźwięku lub wideo.

Obowiązki dostawców

Zgodnie z propozycją regulatora dostawcy takich usług będą musieli ostrzegać użytkowników przed nadmiernym korzystaniem z chatbotów oraz podejmować działania w przypadku wykrycia oznak uzależnienia.

Projekt przewiduje również obowiązek zapewnienia bezpieczeństwa na każdym etapie cyklu życia chatbotów, w tym przeprowadzania przeglądów algorytmów, ochrony danych oraz danych osobowych.

Regulacje odnoszą się także do potencjalnych zagrożeń psychologicznych. Firmy rozwijające tego typu systemy mają identyfikować stan emocjonalny użytkowników oraz oceniać poziom ich zależności od usługi. Jeżeli system wykryje skrajne emocje lub oznaki uzależnienia, dostawca powinien podjąć odpowiednie działania interwencyjne.

Projekt wyznacza również granice dotyczące treści generowanych przez sztuczną inteligencję. Nie będą mogły one zagrażać bezpieczeństwu państwa, rozpowszechniać fałszywych informacji ani promować przemocy czy treści obscenicznych. Projekt został skierowany do konsultacji publicznych.

PRACA.WIRTUALNEMEDIA.PL

NAJNOWSZE WIADOMOŚCI

Blisko umowy tuż przed upadkiem. Publicon i przychylne wpisy o Zondacrypto

Blisko umowy tuż przed upadkiem. Publicon i przychylne wpisy o Zondacrypto

Biedronka musi zapłacić mega grzywnę. Za rabaty od dostawców

Biedronka musi zapłacić mega grzywnę. Za rabaty od dostawców

TVP wygrała w sądzie z KRRiT. Chodzi o zaległe pieniądze z abonamentu

TVP wygrała w sądzie z KRRiT. Chodzi o zaległe pieniądze z abonamentu

Bot po obu stronach rekrutacji. Jak media i agencje sprawdzają kandydatów

Bot po obu stronach rekrutacji. Jak media i agencje sprawdzają kandydatów

Wiceszef Cyfrowego Polsatu: spadki telewizji satelitarnej wyhamowują

Wiceszef Cyfrowego Polsatu: spadki telewizji satelitarnej wyhamowują

Wiceminister krytykuje weto ustawy DSA przez scam z Nawrockim. Ekspert: ustawa nic by nie zmieniła"

Wiceminister krytykuje weto ustawy DSA przez scam z Nawrockim. Ekspert: ustawa nic by nie zmieniła"