Beijing (pilar.id) – Pemerintah China kembali memperkuat pengawasan terhadap pengembangan kecerdasan buatan (artificial intelligence/AI). Otoritas siber China merilis rancangan aturan baru untuk dikonsultasikan kepada publik yang bertujuan memperketat regulasi layanan AI yang dirancang untuk meniru kepribadian manusia dan membangun interaksi emosional dengan pengguna.
Langkah tersebut menegaskan upaya Beijing dalam mengarahkan perkembangan pesat AI yang berhadapan langsung dengan konsumen, dengan menekankan aspek keselamatan, etika, dan perlindungan pengguna. Regulasi ini menyasar produk dan layanan AI yang tersedia untuk publik di China dan memiliki kemampuan menampilkan karakteristik kepribadian manusia, pola pikir, serta gaya komunikasi tertentu.
Dalam rancangan aturan tersebut, layanan AI yang berinteraksi secara emosional melalui teks, gambar, audio, video, maupun bentuk lain diwajibkan memenuhi standar pengawasan yang lebih ketat. Penyedia layanan diminta memberikan peringatan kepada pengguna terkait risiko penggunaan berlebihan serta mengambil langkah intervensi apabila terdeteksi indikasi kecanduan.
Otoritas siber China juga menegaskan bahwa penyedia layanan AI harus memikul tanggung jawab keselamatan sepanjang siklus hidup produk. Hal ini mencakup pembentukan sistem peninjauan algoritma, penguatan keamanan data, serta perlindungan informasi pribadi pengguna. Setiap tahap pengembangan dan operasional layanan AI diwajibkan memenuhi ketentuan tersebut.
Selain itu, rancangan regulasi ini menyoroti potensi risiko psikologis yang dapat timbul dari interaksi emosional antara manusia dan AI. Penyedia layanan diharapkan mampu mengidentifikasi kondisi pengguna, menilai keadaan emosional, serta mengukur tingkat ketergantungan terhadap layanan. Apabila ditemukan pengguna dengan emosi ekstrem atau perilaku adiktif, penyedia diwajibkan mengambil langkah penanganan yang diperlukan.
Dalam aspek konten, aturan tersebut menetapkan batasan tegas terhadap materi yang dihasilkan oleh layanan AI. Sistem AI dilarang memproduksi konten yang dapat membahayakan keamanan nasional, menyebarkan rumor, maupun mempromosikan kekerasan dan pornografi. Ketentuan ini menjadi bagian dari upaya pemerintah menjaga stabilitas sosial di tengah kemajuan teknologi AI.
Rancangan aturan ini menambah daftar regulasi teknologi yang dikeluarkan China dalam beberapa tahun terakhir, sekaligus menunjukkan pendekatan kehati-hatian pemerintah dalam memastikan inovasi AI berjalan seiring dengan tanggung jawab etis dan perlindungan masyarakat. (usm)
