A China está a preparar-se para implementar as primeiras regulamentações do mundo que visam especificamente os efeitos emocionais e psicológicos dos chatbots de inteligência artificial. As novas regras, delineadas num projeto de proposta da Administração do Ciberespaço, visam prevenir conteúdos nocivos e mitigar riscos como a dependência emocional e o vício.
Controles rígidos nas interações do chatbot
A política proposta inclui o consentimento obrigatório do tutor para menores que interagem com companheiros de IA e medidas rigorosas de verificação de idade. Os chatbots serão proibidos de gerar conteúdo relacionado a jogos de azar, obscenidade, violência, suicídio ou automutilação. As empresas de tecnologia também serão obrigadas a estabelecer protocolos de escalonamento que conectem usuários em perigo a moderadores humanos e sinalizem conversas potencialmente perigosas aos pais ou responsáveis.
Essa abordagem vai além da simples filtragem de conteúdo. As regulamentações se concentram na segurança emocional, monitorando os bate-papos em busca de sinais de apego prejudicial ou comportamento viciante. O objetivo é garantir que as interações de IA não afetem negativamente o bem-estar mental dos usuários.
Implicações e paralelos globais
Esta medida posiciona a China como pioneira na regulamentação de ferramentas antropomórficas de IA – sistemas concebidos para simular a personalidade humana e envolver emocionalmente os utilizadores através de vários meios de comunicação. As regras serão aplicadas a qualquer IA que imite a interação humana, independentemente de ser baseada em texto, imagem, áudio ou vídeo.
Existem disposições semelhantes no recém-aprovado SB 243 da Califórnia, que também fortalece as restrições de conteúdo e exige avisos de que os usuários estão interagindo com uma IA. No entanto, alguns especialistas argumentam que mesmo a lei da Califórnia não vai suficientemente longe para proteger totalmente os menores.
Abordagem dos EUA e a corrida da IA
O governo federal dos EUA adotou uma postura diferente, com a administração Trump atrasando a regulamentação da IA a nível estadual. O argumento é que o aumento da supervisão prejudicará a inovação interna e permitirá à China assumir a liderança na corrida global da IA. O financiamento federal está a ser negado aos estados que reforçam a supervisão da IA, dando prioridade a um “quadro nacional para a segurança da IA”.
Esta divergência de abordagem destaca a tensão crescente entre inovação e segurança no campo em rápida evolução da inteligência artificial. As regulamentações proativas da China sugerem uma disposição para priorizar o bem-estar dos usuários, mesmo que isso signifique restringir certos avanços tecnológicos. A estratégia dos EUA, entretanto, dá prioridade à manutenção de uma vantagem competitiva.
As implicações destas diferentes estratégias ainda não foram vistas, mas a ação da China é um passo significativo em direção a um cenário de IA mais regulamentado.
