-Ads Here-
Tujuan regulator siber China adalah untuk meningkatkan pengawasan terhadap AI yang meniru kepribadian manusia dan berinteraksi secara emosional dengan pengguna. Langkah ini, seperti dikutip dari Reuters pada Sabtu (27/12), menunjukkan upaya Beijing untuk mendorong pengembangan AI yang berorientasi pada konsumen dengan meningkatkan persyaratan etika dan keselamatan. Peraturan yang diusulkan akan berlaku untuk produk dan layanan AI yang dijual kepada masyarakat China yang menampilkan pola pikir manusia, gaya komunikasi, dan ciri kepribadian manusia, serta berinteraksi secara emosional melalui media seperti teks, gambar, audio, dan video.
Menurut rancangan aturan ini, penyedia layanan harus:
memberikan peringatan terhadap penggunaan berlebihan
intervensi jika tanda-tanda ketergantungan atau perilaku adiktif muncul.
Selain itu, penyedia layanan harus bertanggung jawab atas keselamatan sepanjang siklus hidup produk, yang mencakup:
Membuat sistem yang meninjau algoritma.
Perlindungan data dan perlindungan data pribadi.
Rancangan aturan juga menekankan bahaya psikologis. Diharapkan penyedia dapat:
Mengidentifikasi kebutuhan pengguna
Evaluasi perasaan pelanggan dan ketergantungannya pada layanan.
Mengambil tindakan yang diperlukan jika terdeteksi perilaku adiktif atau emosi ekstrem.
-Ads Here-