Tiongkok Mengusulkan Kerangka Peraturan AI yang Ketat untuk Meningkatkan Perlindungan Anak Kecil dan Pembuatan Konten yang Etis

Cyberspace Administration of China (CAC) telah meluncurkan rancangan komprehensif peraturan baru yang bertujuan mengatur penerapan kecerdasan buatan, dengan fokus utama pada perlindungan anak di bawah umur dan mitigasi risiko psikologis yang parah. Dorongan peraturan ini mewakili perluasan signifikan dari tata kelola AI yang ada di Tiongkok, yang mengatasi kekhawatiran khusus mengenai pengaruh model generatif terhadap demografi generasi muda di negara tersebut.

Menurut rancangan pedoman tersebut, penyedia layanan AI diberi mandat untuk secara proaktif mencegah pembuatan konten yang dapat membahayakan kesehatan fisik dan mental anak-anak. Hal ini mencakup larangan ketat terhadap materi buatan AI yang mendorong tindakan menyakiti diri sendiri, bunuh diri, atau aktivitas ilegal. Selain itu, peraturan tersebut mengharuskan perusahaan untuk menerapkan mekanisme verifikasi usia yang ketat dan 'mode kecil' yang membatasi akses terhadap konten yang tidak pantas sambil mempromosikan interaksi yang mendidik dan sesuai usia.

Komponen penting dari proposal ini melibatkan pelabelan teknis pada konten yang dihasilkan AI. Pengembang harus memastikan bahwa setiap media yang disintesis—termasuk teks, gambar, dan video— diberi tanda air dengan jelas untuk membedakannya dari konten buatan manusia. Langkah ini bertujuan untuk mengekang penyebaran deepfake dan misinformasi yang dapat digunakan untuk eksploitasi atau manipulasi.

Langkah-langkah ini sejalan dengan tujuan strategis Tiongkok yang lebih luas untuk memimpin dunia dalam regulasi AI. Sejak diperkenalkannya langkah-langkah sementara untuk layanan AI generatif pada tahun 2023, CAC berfokus untuk memastikan bahwa model bahasa besar (LLM) yang dikembangkan oleh raksasa teknologi seperti Baidu, Alibaba, dan Tencent mematuhi standar keamanan nasional dan 'nilai-nilai inti sosialis'.

Analis industri berpendapat bahwa meskipun peraturan ini menimbulkan hambatan kepatuhan yang signifikan bagi perusahaan teknologi dalam negeri, peraturan ini juga memberikan peta jalan yang jelas untuk pengembangan AI yang etis. Perusahaan mungkin perlu berinvestasi lebih besar pada algoritma moderasi konten dan pengujian keamanan yang ketat untuk memenuhi standar tinggi CAC. Ketika perdebatan global mengenai keamanan AI semakin meningkat, sikap proaktif Tiongkok dalam melindungi pengguna yang rentan dapat menjadi contoh bagi yurisdiksi lain yang berupaya menyeimbangkan inovasi dan keselamatan publik.