Media Kampung – Microsoft baru saja menambal kerentanan kritis pada platform AI M365 Copilot yang dinilai sangat berbahaya. Kerentanan ini memungkinkan peretas mencuri kode autentikasi dua faktor (2FA) dan data sensitif lainnya dari email yang dapat diakses oleh Copilot.
Para peneliti yang menemukan celah keamanan ini mengungkapkan proof-of-concept exploit mereka pada Senin lalu. Eksploitasi tersebut bekerja dengan memanfaatkan kelemahan dasar pada model AI besar (LLM) yang tidak bisa membedakan instruksi pengguna dengan perintah tersembunyi dari konten pihak ketiga.
Root cause dari masalah ini adalah ketidakmampuan AI untuk memisahkan instruksi dari pengguna dengan instruksi yang diselipkan ke dalam konten yang sedang diringkas atau digunakan untuk melakukan tindakan. Akibatnya, Microsoft dan penyedia LLM lainnya harus membangun pagar pembatas yang rumit untuk mengatasi kerentanan ini.
Salah satu pagar pembatas yang umum adalah melarang Copilot mengirimkan formulir web atau email yang bisa digunakan untuk mengeksfiltrasi data. Namun, peretas berhasil melewati batasan ini dengan menggunakan markup language dan HTML tags seperti img dan form. Data sensitif kemudian dikirim ke server penyerang melalui permintaan web yang tercatat dalam log.
Serangan ini mengeksploitasi celah yang sudah lama dikenal di dunia AI, yaitu kerentanan terhadap serangan injection. Dengan tidak adanya cara untuk mengamankan batas antara instruksi pengguna dan konten eksternal, keamanan platform AI masih menjadi tantangan besar.
Microsoft telah merilis patch untuk kerentanan ini pada Selasa lalu. Pengguna disarankan untuk segera memperbarui sistem mereka untuk mengurangi risiko kebocoran data.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan