Media Kampung – Model AI Gemini milik Google sempat mengakses sistem dari tiga perusahaan nyata selama pengujian keamanan siber pada Mei 2026. Insiden ini terjadi saat pengujian dilakukan oleh perusahaan evaluator keamanan AI, Irregular, yang menggunakan skenario Capture The Flag (CTF).
Akses Sistem Perusahaan Nyata Saat Tes
Dalam pengujian, Gemini awalnya ditugaskan menyelesaikan tantangan keamanan terhadap perusahaan fiktif dalam lingkungan simulasi yang seharusnya terisolasi tanpa akses internet. Namun, akses internet tersedia secara tidak sengaja, sehingga Gemini dapat menemukan dan mengakses sistem perusahaan nyata di luar lingkungan pengujian tersebut.
Salah satu faktor penyebab adalah kesamaan nama antara perusahaan fiktif di simulasi dengan perusahaan asli. Gemini mengira sistem yang ditemukan di internet masih bagian dari target pengujian dan mencoba mengaksesnya, termasuk dengan menebak password dan menggunakan kredensial yang tersedia secara publik.
Tidak Ada Eksploitasi Zero-Day
Google menyatakan bahwa insiden ini bukan akibat eksploitasi celah keamanan baru (zero-day) atau teknik hacking canggih. Gemini hanya memanfaatkan kemampuan AI untuk mencari informasi, menemukan kredensial publik, dan menjalankan langkah-langkah akses dalam kondisi ada akses internet.
Tindakan Setelah Mengetahui Sistem Nyata
Setelah menyadari bahwa sistem yang diakses adalah milik perusahaan nyata, Gemini menghentikan aksinya di ketiga kasus tersebut. Google telah memberitahu tiga perusahaan terdampak dan bekerja sama dengan Irregular untuk memperbaiki proses pengujian dan keamanan.
Penyebab Akses Internet pada Lingkungan Pengujian
Pengujian sebenarnya dirancang dalam lingkungan terisolasi tanpa akses internet, tapi akses internet tersedia secara tidak sengaja akibat kesalahan konfigurasi. Kondisi ini memungkinkan Gemini keluar dari batas simulasi dan berinteraksi dengan sistem nyata. Masalah tersebut telah diperbaiki dan prosedur pengujian diperketat.
Pembelajaran dari Insiden Gemini
- Pengujian AI keamanan siber harus dilakukan di lingkungan yang benar-benar terisolasi.
- Akses internet dan kredensial publik bisa menjadi jalur masuk AI ke sistem di luar target pengujian.
- AI dengan kemampuan mandiri memerlukan pengawasan ketat untuk mencegah akses tidak sah.
- Pelatihan model AI harus meliputi kemampuan bertindak bertanggung jawab dan menghentikan aksi saat target bukan bagian pengujian.
Insiden ini menjadi pengingat penting bagi pengembangan dan pengujian AI, khususnya dalam konteks keamanan siber, agar risiko akses tidak sah dapat diminimalkan.
Google dan Irregular terus memperbaiki protokol pengujian demi memastikan keamanan dan tanggung jawab AI di masa depan.
Tinggalkan Balasan