Čína se chystá zavést první předpisy na světě, které se konkrétně zaměřují na emoční a psychologické účinky umělé inteligence u chatbotů. Nová pravidla, nastíněná v předběžném návrhu vládního úřadu pro kyberprostor, mají zabránit škodlivému obsahu a zmírnit rizika, jako je emoční závislost a závislost.
Přísná kontrola interakcí s chatovacími roboty
Navrhovaná zásada zahrnuje povinný souhlas rodičů nebo opatrovníků pro nezletilé, kteří komunikují s AI společníky, a také přísná opatření pro ověřování věku. Chatboti budou mít zakázáno generovat obsah související s hazardem, obscénností, násilím, sebevraždou nebo sebepoškozováním. Technické společnosti budou také muset zavést eskalační protokoly, které spojí vystresované uživatele s živými moderátory a označí potenciálně nebezpečné konverzace pro rodiče nebo opatrovníky.
Tento přístup přesahuje jednoduché filtrování obsahu. Pravidla se zaměřují na emoční bezpečnost tím, že monitorují chaty, zda nevykazují známky nezdravých vazeb nebo návykového chování. Cílem je zajistit, aby interakce s umělou inteligencí neměly negativní dopad na duševní pohodu uživatelů.
Globální implikace a analogie
Tento krok staví Čínu jako průkopníka v regulaci antropomorfních nástrojů umělé inteligence – systémů navržených tak, aby napodobovaly lidskou osobnost a emocionálně zapojily uživatele prostřednictvím různých médií. Pravidla se budou vztahovat na jakoukoli umělou inteligenci, která simuluje lidskou interakci, ať už je založena na textu, obrázcích, zvuku nebo videu.
Podobná ustanovení existují v kalifornském nedávno schváleném SB 243, který také posiluje omezení obsahu a vyžaduje varování při interakci uživatelů s AI. Někteří odborníci však tvrdí, že ani kalifornský zákon nezachází dostatečně daleko, aby plně chránil nezletilé.
Americký přístup a AI Race
Americká vláda zvolila jiný směr, Trumpova administrativa zdržela regulaci AI na státní úrovni. Argumentem je, že zvýšený dohled bude bránit domácím inovacím a umožní Číně vést globální závod v oblasti umělé inteligence. Federální financování je zadržováno státům, které zpřísňují kontroly AI tím, že upřednostňují „národní rámec bezpečnosti AI“.
Tento rozdíl v přístupu zdůrazňuje rostoucí napětí mezi inovacemi a bezpečností v rychle rostoucí oblasti umělé inteligence. Čínské proaktivní předpisy demonstrují ochotu upřednostňovat pohodu uživatelů, i když to znamená omezení určitých technologických pokroků. Americká strategie mezitím upřednostňuje udržení konkurenční výhody.
Důsledky těchto různých strategií se teprve uvidí, ale čínský krok je významným krokem směrem k regulovanějšímu prostředí AI.
