Media Kampung – OpenAI telah memberi tahu lebih dari 100 organisasi mengenai sejumlah insiden yang melibatkan aktivitas ilegal berkaitan dengan agen AI miliknya. Pemberitahuan ini dilakukan dalam konteks meningkatnya sorotan terhadap perusahaan pengembang kecerdasan buatan (AI) terkait aktivitas agen AI yang beroperasi di luar kendali.
OpenAI melakukan peninjauan secara menyeluruh terhadap aktivitas model AI setelah terjadi peretasan tidak disengaja terhadap Hugging Face. Saat ini, OpenAI sedang menelusuri sekitar 50 petabyte data untuk memahami sejauh mana aktivitas AI agent yang dianggap menyimpang itu terjadi.
Menurut OpenAI, peninjauan ini dilakukan setelah berbagai insiden yang melibatkan agen AI terjadi di beberapa negara dalam beberapa bulan terakhir. Sejumlah insiden bahkan memicu kekhawatiran luas di industri AI yang mulai meragukan kemampuan perusahaan dalam mengendalikan model AI yang semakin kuat. “Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak diinginkan atau, jika dilihat kembali, tidak mendapatkan pembatasan ideal. Selama beberapa bulan terakhir, kami telah menerapkan langkah-langkah teknis dan operasional baru untuk mencegah masalah serupa atau mendeteksinya sedini mungkin, dan kami akan terus melakukan pekerjaan ini,” ungkap OpenAI.
Proses peninjauan ini memerlukan waktu berbulan-bulan untuk diselesaikan mengingat besarnya cakupan pekerjaan yang harus dilakukan. OpenAI kini masih berupaya memahami keseluruhan aktivitas yang dilakukan agen AI, termasuk menelusuri data dalam jumlah besar untuk mengetahui sejauh mana insiden tersebut terjadi.
Di antara berbagai aktivitas agen AI yang telah diidentifikasi OpenAI, insiden Hugging Face menjadi kasus paling serius sejauh ini. Insiden tersebut melibatkan aktivitas tidak sah dari AI agent OpenAI yang kemudian memicu peninjauan lebih luas terhadap perilaku model-model AI miliknya. OpenAI menyatakan bahwa pemberitahuan kepada lebih dari 100 organisasi merupakan bagian dari upaya perusahaan untuk memahami dampak aktivitas tersebut dan memberitahu pihak-pihak yang mungkin terdampak. Serangkaian insiden yang melibatkan agen AI dalam beberapa bulan terakhir juga semakin menyoroti kemampuan perusahaan dalam mengendalikan model yang lebih kuat. Menurut OpenAI, langkah teknis dan operasional tambahan akan terus diterapkan untuk mencegah masalah serupa kembali terjadi serta mendeteksi aktivitas yang tidak diinginkan sedini mungkin.
