Tiongkok sedang bersiap untuk menerapkan peraturan pertama di dunia yang secara khusus menargetkan efek emosional dan psikologis dari chatbot kecerdasan buatan. Aturan baru tersebut, yang dituangkan dalam rancangan proposal oleh Cyberspace Administration, bertujuan untuk mencegah konten berbahaya dan mengurangi risiko seperti ketergantungan emosional dan kecanduan.
Kontrol Ketat pada Interaksi Chatbot
Kebijakan yang diusulkan mencakup persetujuan wajib wali bagi anak di bawah umur yang berinteraksi dengan teman AI dan langkah verifikasi usia yang ketat. Chatbots dilarang membuat konten yang berkaitan dengan perjudian, kecabulan, kekerasan, bunuh diri, atau menyakiti diri sendiri. Perusahaan teknologi juga akan diwajibkan untuk membuat protokol eskalasi yang menghubungkan pengguna yang berada dalam kesulitan dengan moderator manusia dan melaporkan percakapan yang berpotensi berbahaya kepada orang tua atau wali.
Pendekatan ini lebih dari sekadar pemfilteran konten sederhana. Peraturan ini berfokus pada keamanan emosional, memantau chat untuk mencari tanda-tanda keterikatan yang tidak sehat atau perilaku adiktif. Tujuannya adalah untuk memastikan interaksi AI tidak berdampak negatif terhadap kesehatan mental pengguna.
Implikasi dan Paralel Global
Langkah ini menempatkan Tiongkok sebagai pionir dalam mengatur alat AI antropomorfik—sistem yang dirancang untuk menyimulasikan kepribadian manusia dan melibatkan pengguna secara emosional melalui berbagai media. Aturan tersebut akan berlaku untuk AI apa pun yang meniru interaksi manusia, terlepas dari apakah itu berbasis teks, gambar, audio, atau video.
Ketentuan serupa juga terdapat dalam SB 243 yang baru-baru ini disahkan di California, yang juga memperkuat pembatasan konten dan mewajibkan peringatan bahwa pengguna berinteraksi dengan AI. Namun, beberapa ahli berpendapat bahwa undang-undang California pun tidak cukup melindungi anak di bawah umur.
Pendekatan AS dan Perlombaan AI
Pemerintah federal AS mengambil sikap berbeda, dimana pemerintahan Trump menunda peraturan AI di tingkat negara bagian. Argumennya adalah peningkatan pengawasan akan menghambat inovasi dalam negeri dan memungkinkan Tiongkok memimpin perlombaan AI global. Pendanaan federal ditahan dari negara-negara bagian yang memperkuat pengawasan AI, dan memprioritaskan “kerangka kerja nasional tentang keamanan AI.”
Perbedaan pendekatan ini menyoroti meningkatnya ketegangan antara inovasi dan keselamatan di bidang kecerdasan buatan yang berkembang pesat. Peraturan proaktif Tiongkok menunjukkan kesediaan untuk memprioritaskan kesejahteraan pengguna, meskipun hal itu berarti membatasi kemajuan teknologi tertentu. Sementara itu, strategi AS memprioritaskan mempertahankan keunggulan kompetitif.
Implikasi dari berbagai strategi ini masih harus dilihat, namun langkah Tiongkok ini merupakan langkah signifikan menuju lanskap AI yang lebih teregulasi.
