Evolusi Peraturan: Tiongkok Mengusulkan Kerangka Kerja Keselamatan yang Bertarget untuk AI Generatif dan Perlindungan Remaja

Cyberspace Administration of China (CAC) telah meluncurkan rancangan komprehensif peraturan baru yang bertujuan mengatur penerapan kecerdasan buatan (AI), dengan fokus utama pada perlindungan anak di bawah umur dan mitigasi risiko kesehatan mental yang kritis. Dorongan peraturan ini mewakili langkah signifikan dalam upaya berkelanjutan Beijing untuk membangun arsitektur hukum yang kuat untuk teknologi baru, dengan menekankan tanggung jawab sosial pengembang AI.

Inti dari proposal ini adalah persyaratan bagi penyedia layanan AI untuk menerapkan penyaringan konten yang ketat dan batasan yang sesuai dengan usia. Rancangan tersebut mengamanatkan bahwa keluaran yang dihasilkan AI tidak boleh mengandung konten yang dapat membahayakan kesejahteraan fisik atau mental anak-anak. Selain moderasi sederhana, CAC juga menganjurkan kerangka 'nilai positif', di mana algoritme dioptimalkan untuk memprioritaskan konten pendidikan dan konstruktif bagi demografi anak muda sekaligus mencegah kecanduan digital.

Selain itu, peraturan ini juga membahas masalah keselamatan yang berisiko tinggi, khususnya terkait tindakan menyakiti diri sendiri dan bunuh diri. Berdasarkan peraturan baru, platform AI harus dilengkapi untuk mengidentifikasi permintaan atau respons yang dihasilkan yang mengindikasikan risiko melukai diri sendiri. Penyedia layanan kesehatan akan diwajibkan secara hukum untuk melakukan intervensi dalam hal ini, dengan segera menawarkan sumber daya dukungan dan melaporkan pola risiko tinggi kepada pihak berwenang. Sikap proaktif terhadap kesehatan mental ini mencerminkan peningkatan kesadaran global akan dampak psikologis dari AI percakapan dan sistem otomatis.

Bagi industri teknologi, langkah-langkah ini memerlukan filosofi 'keselamatan sesuai desain'. Perusahaan yang beroperasi di pasar Tiongkok kemungkinan perlu meningkatkan investasi dalam pemantauan real-time, pelabelan data, dan logika moderasi yang disempurnakan agar tetap patuh. Ketika Tiongkok terus mengulangi tata kelola AI mereka—yang didasarkan pada langkah-langkah sementara yang ditetapkan pada tahun 2023—proposal terbaru ini menandakan adanya pergeseran menuju pengawasan yang sangat terperinci dan spesifik pada sektor yang memprioritaskan kesejahteraan masyarakat di samping kemajuan teknologi.