Tiongkok Mengusulkan Kerangka Peraturan AI yang Ketat untuk Mengurangi Risiko Kesehatan Mental Remaja

Cyberspace Administration of China (CAC) telah memperkenalkan rancangan peraturan komprehensif yang dirancang untuk mengatur pengembangan dan penerapan kecerdasan buatan generatif, dengan fokus utama pada perlindungan anak di bawah umur dan mitigasi risiko psikologis yang parah. Pedoman yang diusulkan mengamanatkan bahwa penyedia layanan AI menerapkan pagar keamanan tingkat lanjut untuk mencegah pembuatan konten yang dapat mendorong tindakan menyakiti diri sendiri, bunuh diri, atau perilaku lain yang merugikan kesehatan mental kelompok usia muda.

Berdasarkan arahan baru ini, pengembang diharuskan menyempurnakan model algoritmik mereka untuk mengidentifikasi dan mencegat permintaan dan respons berisiko tinggi. Langkah regulasi ini menekankan 'akuntabilitas algoritmik', yang mengharuskan perusahaan teknologi melakukan penilaian keamanan yang ketat dan memelihara sistem pemantauan real-time untuk memastikan kepatuhan terhadap standar etika nasional. Selain keamanan fisik, kerangka kerja ini berupaya melindungi anak di bawah umur dari kecanduan digital dan potensi AI untuk memfasilitasi intimidasi online atau isolasi sosial.

Inisiatif ini menandai peningkatan signifikan dalam pendekatan proaktif Tiongkok terhadap tata kelola AI, yang menempatkan negara ini sebagai yang terdepan dalam regulasi sektoral. Dengan mengkodifikasikan perlindungan ini, Beijing bertujuan untuk menyeimbangkan inovasi pesat sektor AI dalam negerinya dengan stabilitas sosial yang sistemik. Bagi para pemangku kepentingan teknologi global, perkembangan ini menandakan adanya pergeseran ke arah pengawasan yang lebih terperinci, dimana beban untuk mencegah dampak sosio-psikologis berada langsung di pundak para arsitek dan operator AI.