-Ads Here-
Microsoft sedang berusaha keras untuk mengubah sistem operasi Windows 11 menjadi Agentic OS yang berbasis kecerdasan buatan. Namun, sayangnya, di balik upaya besar tersebut, mereka juga mengeluarkan peringatan serius terkait risiko keamanan yang dapat ditimbulkan oleh fitur tersebut. Seperti yang telah kami ketahui selama beberapa bulan terakhir, Microsoft telah mengumumkan niat mereka untuk menjadikan Windows 11 sebagai sistem operasi yang dapat memahami maksud pengguna dan tidak hanya memberikan instruksi secara literal.
Dengan fitur baru ini, Windows dapat membuat akun lokal khusus untuk AI Agent. Akun lokal ini akan beroperasi dalam lingkungan kerja agensi terpisah dari desktop, tetapi tetap dapat mengakses aplikasi dan file pengguna seperti Desktop, Downloads, dan lainnya jika diaktifkan. Microsoft menyatakan bahwa pengaktifan fitur ini hanya dapat dilakukan oleh administrator. Setelah diaktifkan, fitur ini akan berlaku untuk semua pengguna di perangkat tersebut.
Only an administrator user of the device can enable this setting, and once enabled, it is enabled for all users on the device, including other administrators and regular users.
Ada masalah yang sangat serius!
Namun, kawan-kawan, Microsoft mengingatkan bahwa kemampuan agen tidak bebas dari ancaman. Salah satu bahaya yang mereka sebutkan adalah cross-prompt injection (XPIA), teknik serangan di mana konten berbahaya dimasukkan ke elemen antarmuka pengguna atau dokumen dapat mengubah instruksi agen.
Ini juga dapat berakibat fatal, mulai dari pencurian daata hingga instalasi malware yang pasti akan membahayakan pengguna. Dalam halaman pengumuman, Microsoft menggambarkan kasus malware Xpia sebagai contoh nyata bagaimana penyerang dapat mengeksploitasi sistem AI-driven.
Bagaimana Microsoft menangani masalah ini?
Untuk mengurangi risiko, Microsoft menetapkan beberapa prinsip desain untuk meningkatkan keamanan, seperti bahwa setiap tindakan agen harus transparan, keputusan AI agent tidak boleh otomatis tanpa verifikasi pengguna, dan sistem operasi Windows harus dapat memverifikasi tindakan agent melalui log yang tahan terhadap modifikasi.
-Ads Here-