Китай готується запровадити перші в світі правила, спрямовані на емоційний і психологічний вплив штучного інтелекту в чат-ботах. Нові правила, викладені в проекті пропозиції Урядової адміністрації кіберпростору, призначені для запобігання шкідливому контенту та пом’якшення таких ризиків, як емоційна залежність і звикання.
Суворий контроль взаємодії з чат-ботами
Запропонована політика передбачає обов’язкову згоду батьків або опікунів для неповнолітніх, які спілкуються з напарниками ШІ, а також суворі заходи перевірки віку. Чат-ботам буде заборонено генерувати контент, пов’язаний з азартними іграми, непристойністю, насильством, самогубством або самоушкодженням. Технічні компанії також будуть зобов’язані встановити протоколи ескалації, які з’єднуватимуть стресових користувачів із живими модераторами та позначатимуть потенційно небезпечні розмови для батьків або опікунів.
Цей підхід виходить за рамки простого фільтрування вмісту. Правила зосереджені на емоційній безпеці шляхом моніторингу чатів на наявність ознак нездорової прив’язаності або залежної поведінки. Мета полягає в тому, щоб переконатися, що взаємодія з ШІ не впливає негативно на психічне благополуччя користувачів.
Глобальні наслідки та аналогії
Цей крок позиціонує Китай як піонера в регулюванні антропоморфних інструментів штучного інтелекту — систем, розроблених для імітації людської особистості та емоційного залучення користувачів за допомогою різних медіа. Правила застосовуватимуться до будь-якого штучного інтелекту, який імітує людську взаємодію, незалежно від того, базується він на тексті, зображеннях, аудіо чи відео.
Подібні положення існують у нещодавно ухваленому в Каліфорнії SB 243, який також посилює обмеження щодо вмісту та вимагає попереджень, коли користувачі взаємодіють із ШІ. Однак деякі експерти стверджують, що навіть каліфорнійське законодавство недостатньо захищає неповнолітніх.
Підхід США та гонка ШІ
Уряд США зайняв іншу тактику: адміністрація Трампа відклала регулювання штучного інтелекту на державному рівні. Аргумент полягає в тому, що посилений нагляд перешкоджатиме внутрішнім інноваціям і дозволить Китаю лідирувати в глобальній гонці ШІ. Федеральне фінансування припиняється тим штатам, які посилюють контроль над штучним інтелектом, віддаючи пріоритет «національним структурам безпеки штучного інтелекту».
Ця розбіжність у підходах підкреслює зростаючу напругу між інноваціями та безпекою в галузі штучного інтелекту, що швидко розвивається. Проактивні правила Китаю демонструють готовність віддавати пріоритет добробуту користувачів, навіть якщо це означає обмеження певних технологічних досягнень. Тим часом стратегія США надає пріоритет збереженню конкурентної переваги.
Наслідки цих різних стратегій ще належить побачити, але крок Китаю є значним кроком до більш регульованого ландшафту ШІ.
