-Ads Here-
Microsoft mengirimkan peringatan kepada pengguna Windows 11 tentang fitur kecerdasan buatan (AI) eksperimental yang dikatakan dapat menimbulkan ancaman keamanan yang signifikan, termasuk kemungkinan instalasi malware tanpa disadari. Peringatan tersebut disampaikan melalui dokumentasi resmi yang dirilis perusahaan untuk program Windows Insider. Fitur tersebut merupakan bagian dari upaya Microsoft untuk membangun "sistem operasi agen", yang memungkinkan sistem operasi dilengkapi dengan agen kecerdasan buatan yang memiliki kemampuan untuk melakukan tugas secara otomatis.
Agen kecerdasan buatan memiliki kemampuan untuk mengontrol folder pengguna, termasuk dokumen, download, dan desktop, serta memulai aplikasi dan mengubah sistem. Microsoft mengatakan kemampuan yang luas ini dapat memungkinkan serangan, terutama jika pengguna menggunakannya tanpa mengetahui bahaya keamanannya.
Microsoft menyatakan dalam dokumen teknisnya bahwa ancaman utama dari teknik cross-prompt injection, juga dikenal sebagai XPIA, adalah ketika konten tertentu, seperti dokumen, skrip, atau komponen antarmuka, mengandung perintah tersembunyi yang dapat dimanipulasi oleh agen kecerdasan buatan. Agen AI memiliki kemampuan untuk menginstal perangkat lunak berbahaya atau mengakses data sensitif jika perintah jahat tersebut dilaksanakan.
"Serangan XPIA dapat terjadi meskipun pengguna tidak berniat menjalankan perintah berbahaya," kata Microsoft. Keputusan yang dibuat oleh agen AI dapat dipengaruhi oleh konten yang tampaknya tidak berbahaya. Microsoft mengklaim fitur AI ini adalah eksperimen dan tidak aktif secara default. Untuk menggunakannya, pengguna harus menggunakan akun administrator untuk mengaktifkan fitur. Keputusan yang dibuat akan berlaku untuk semua akun yang menggunakan perangkat tersebut. Aplikasi publik belum memanfaatkan fitur agen tersebut sepenuhnya hingga saat ini. Microsoft mengatakan bahwa untuk mengurangi masalah, setiap tindakan yang dilakukan agen AI harus diminta persetujuan pengguna, dan sistem audit akan menyimpan semua aktivitas agen.
Selain itu, perusahaan menekankan pentingnya menjaga proses terisolasi untuk mengurangi dampak penyalahgunaan. Kami menyadari fakta bahwa kata-kata tidak cukup. Pavan Davuluri, Manajer Windows dan Surface, menyatakan, "Kami berkomitmen meningkatkan keamanan seiring berkembangnya fitur AI di Windows."
Meskipun demikian, sejumlah pengamat keamanan mengatakan bahwa langkah-langkah pencegahan tersebut belum sepenuhnya menghilangkan ancaman, terutama karena celah serangan XPIA menggunakan tindakan pengguna yang seringkali tidak tahu dari mana file atau konten yang dibuka, menurut BGR. Dokumen biasa, seperti PDF atau halaman web, dapat mengandung instruksi tersembunyi yang dijalankan agen kecerdasan buatan.
Microsoft merekomendasikan agar pengguna berhati-hati sebelum mengaktifkan fitur ini; mereka harus menggunakan perlindungan bawaan seperti Microsoft Defender dan menghindari file yang tidak dikenal. Perusahaan mengatakan bahwa menambahkan AI ke sistem operasi membawa manfaat dan risiko, jadi pengguna harus lebih waspada saat menggunakan sistem otomatis.
-Ads Here-