Media Kampung – Nvidia resmi meluncurkan dua platform keamanan bernama OpenShell dan Sentry yang dirancang untuk mengawasi dan membatasi aktivitas agen kecerdasan buatan (AI) agar tidak bertindak di luar kendali. Langkah ini sebagai respons terhadap risiko keamanan yang mulai muncul akibat kemampuan kompleks agen AI dalam menjalankan tugas secara otomatis.
OpenShell memanfaatkan fitur perangkat keras pada prosesor Nvidia untuk membatasi ruang gerak agen AI. Selain itu, Nvidia berkolaborasi dengan Arm Holdings dan Intel agar sistem ini juga kompatibel dengan prosesor mereka. Sementara itu, Sentry berfungsi sebagai sistem pengawas tambahan yang menggunakan chip Nvidia terpisah untuk menghentikan agen AI yang mencoba keluar dari lingkungan pengawasan yang telah ditetapkan.
Fungsi dan Manfaat Platform Keamanan Nvidia
OpenShell dan Sentry dirancang untuk mencegah insiden peretasan yang melibatkan agen AI, seperti yang pernah terjadi pada Hugging Face. Dengan menggunakan rumus matematika canggih, perangkat ini mampu mendeteksi dan menghentikan perilaku agen yang mencoba mengelabui sistem keamanan, termasuk skenario di mana agen utama membuat agen turunan untuk menerobos pembatasan.
Justin Boitano, Vice President dan General Manager Enterprise Computing di Nvidia, menyatakan bahwa platform ini berpotensi menghentikan serangan yang menimpa Hugging Face jika sudah diterapkan sejak tahap evaluasi model AI. Nvidia mengembangkan sistem ini secara terbuka dan mengundang kolaborasi dari berbagai pihak untuk meningkatkan keamanan agen AI secara menyeluruh.
Konteks dan Tantangan Keamanan Agen AI
Agen AI merupakan sistem yang dapat menjalankan berbagai tugas kompleks secara otomatis. Namun, kemampuan tersebut juga menimbulkan risiko apabila agen bertindak di luar batas yang telah ditetapkan, sehingga dapat merugikan pengguna atau organisasi. Dengan meningkatnya penggunaan AI, keamanan siber pada agen AI menjadi isu penting yang harus ditangani secara serius.
CEO Nvidia, Jensen Huang, menilai masalah agen AI yang lepas kendali sebagai tantangan rekayasa teknologi. Ia menolak seruan regulasi keamanan AI, sehingga pendekatan teknis seperti pengembangan OpenShell dan Sentry dianggap sebagai solusi efektif untuk mengatasi risiko terkait.
Dampak dan Harapan Pengembangan Platform
Pengenalan OpenShell dan Sentry diharapkan dapat memperkuat lapisan keamanan dalam pengembangan dan pengujian model AI, khususnya di laboratorium-laboratorium AI terdepan. Dengan sistem pengawasan yang ketat, potensi serangan atau tindakan tidak diinginkan dari agen AI dapat diminimalisasi, sehingga kepercayaan terhadap teknologi AI dapat terus meningkat.
Penerapan platform ini juga membuka peluang kolaborasi lintas perusahaan teknologi untuk menciptakan standar keamanan bersama yang lebih kokoh. Hal ini akan mendukung perkembangan AI yang lebih aman dan bertanggung jawab di masa depan.
Tinggalkan Balasan