Chiny przygotowują się do wprowadzenia pierwszych na świecie przepisów dotyczących w szczególności emocjonalnych i psychologicznych skutków sztucznej inteligencji w chatbotach. Nowe zasady, określone w projekcie propozycji Rządowej Administracji Cyberprzestrzeni, mają zapobiegać szkodliwym treściom i ograniczać ryzyko, takie jak uzależnienie emocjonalne i uzależnienie.
Ścisła kontrola interakcji z chatbotami
Proponowana polityka obejmuje obowiązkową zgodę rodziców lub opiekunów na interakcję nieletnich z towarzyszami AI, a także rygorystyczne środki weryfikacji wieku. Chatbotom nie będzie wolno generować treści związanych z hazardem, wulgaryzmami, przemocą, samobójstwem lub samookaleczeniem. Firmy technologiczne będą również zobowiązane do ustanowienia protokołów eskalacji, które łączą zestresowanych użytkowników z moderatorami na żywo i sygnalizują potencjalnie niebezpieczne rozmowy dla rodziców lub opiekunów.
To podejście wykracza poza proste filtrowanie treści. Zasady skupiają się na bezpieczeństwie emocjonalnym poprzez monitorowanie czatów pod kątem oznak niezdrowego przywiązania lub uzależniających zachowań. Celem jest zapewnienie, że interakcje ze sztuczną inteligencją nie będą miały negatywnego wpływu na samopoczucie psychiczne użytkowników.
Globalne implikacje i analogie
Posunięcie to stawia Chiny jako pioniera w zakresie regulacji antropomorficznych narzędzi sztucznej inteligencji – systemów zaprojektowanych tak, aby naśladować ludzką osobowość i angażować emocjonalnie użytkowników za pośrednictwem różnych mediów. Zasady będą miały zastosowanie do każdej sztucznej inteligencji symulującej interakcję człowieka, niezależnie od tego, czy będzie ona oparta na tekście, obrazach, dźwięku czy wideo.
Podobne przepisy istnieją w niedawno przyjętej w Kalifornii ustawie SB 243, która również zaostrza ograniczenia dotyczące treści i wymaga ostrzeżeń w przypadku interakcji użytkowników z sztuczną inteligencją. Niektórzy eksperci twierdzą jednak, że nawet prawo kalifornijskie nie idzie wystarczająco daleko, aby w pełni chronić nieletnich.
Podejście USA i wyścig sztucznej inteligencji
Rząd USA przyjął inną taktykę, a administracja Trumpa opóźniała regulację sztucznej inteligencji na poziomie stanowym. Argumentuje się, że zwiększony nadzór utrudni krajowe innowacje i pozwoli Chinom przewodzić w światowym wyścigu sztucznej inteligencji. Stanom, które zaostrzają kontrolę nad sztuczną inteligencją, wstrzymuje się finansowanie federalne, nadając priorytet „krajowym ramom bezpieczeństwa sztucznej inteligencji”.
Ta rozbieżność w podejściu uwypukla rosnące napięcie między innowacjami a bezpieczeństwem w szybko rozwijającej się dziedzinie sztucznej inteligencji. Proaktywne regulacje w Chinach świadczą o chęci priorytetowego traktowania dobra użytkowników, nawet jeśli oznacza to ograniczenie niektórych postępów technologicznych. Tymczasem strategia USA stawia na pierwszym miejscu utrzymanie przewagi konkurencyjnej.
Konsekwencje tych różnych strategii dopiero się okaże, ale posunięcie Chin stanowi znaczący krok w kierunku bardziej uregulowanego krajobrazu sztucznej inteligencji.
