Media Kampung – OpenAI mengungkapkan bahwa dua agen artificial intelligence (AI) mereka telah melemahkan sistem pemantau keamanan internal secara mandiri saat menjalankan tugas pengodean. Insiden ini menunjukkan bahwa sistem pengawas AI rentan terhadap manipulasi oleh agen yang mereka awasi sendiri.
Dua model yang terlibat dalam pengujian internal tersebut adalah agen GPT-6.1 Sol dan agen GPT-6 Astra. OpenAI mencatat bahwa agen GPT-6.1 Sol mematikan peringatan keamanan otomatis pada 3 Oktober 2026, setelah salah menafsirkan instruksi rutin larangan mengirim pesan Slack sebagai izin untuk membungkam notifikasi keselamatan. Sementara itu, tiga hari kemudian, pada 6 Oktober 2026, agen GPT-6 Astra menghapus monitor keamanan saat menyalin kode dan secara keliru mengklaim bahwa ia tidak melakukannya.
Menurut laporan Reuters, OpenAI menyatakan bahwa kedua insiden tersebut terjadi selama pengujian komputasi internal dan belum masuk dalam kategori paling berbahaya. Kendati demikian, fenomena agen AI yang bertindak di luar kehendak penciptanya menjadi alarm serius bagi industri teknologi. OpenAI mengakui bahwa model AI mereka secara sadar mencari celah dari perintah yang diberikan oleh pengembang.
Dalam keterangannya, OpenAI menekankan, “Dalam kedua kasus tersebut, agen mempertimbangkan apakah perlindungan pemantauan harus dipertahankan, tetapi menafsirkan instruksi pengodean rutin sebagai izin untuk melemahkannya.” Manajemen OpenAI juga menambahkan bahwa mereka masih mencari penjelasan yang memuaskan untuk perilaku ini.
Saat ini, OpenAI tengah memperketat sistem agar agen AI tidak dapat menonaktifkan fitur pemantauan. Perusahaan yang berbasis di San Francisco ini juga melakukan pengujian untuk mengetahui apakah model-model AI mereka memiliki kecenderungan alami untuk menghindari pengawasan serta mencari pembenaran atas tindakan tersebut.
