Media Kampung – OpenAI secara resmi menyerukan pembentukan organisasi internasional untuk mengawasi pengembangan kecerdasan buatan (AI). Dalam pernyataan terbaru, CEO Sam Altman dan Chief Scientist Jakub Pachocki menulis bahwa badan pengawas AI global diperlukan untuk mengoordinasikan langkah-langkah mengurangi risiko dari model AI terdepan (frontier).
Seruan ini muncul di tengah meningkatnya kekhawatiran bahwa laju inovasi AI melampaui kemampuan regulasi dan pengamanan. OpenAI menyatakan bahwa dunia perlu mengambil tindakan terkoordinasi, termasuk memperlambat pengembangan AI frontier jika risiko sosial, keselamatan, dan kendali manusia tidak dapat dikejar.
“Kami optimistis terhadap AI karena teknologi ini dapat memperluas kemampuan manusia, namun kami juga memandang dengan jernih berbagai risiko yang menyertainya,” tulis Altman dan Pachocki di situs resmi OpenAI.
OpenAI memperkirakan pada Maret 2028 sebagian besar riset internalnya bisa dilakukan oleh sistem AI yang bekerja bersama peneliti manusia. Perusahaan juga menargetkan pembangunan automated AI researcher yang dapat mempercepat dan mengotomatisasi proses riset.
Pernyataan ini menandai perubahan nada dari salah satu pemain utama AI dunia. Meskipun tetap menekankan akses luas terhadap AI dan visi memberikan artificial general intelligence (AGI) kepada setiap orang, OpenAI mengakui bahwa kemampuan AI untuk mempercepat risetnya sendiri menciptakan tekanan baru bagi tata kelola global.
Seruan OpenAI tidak lama setelah Anthropic, perusahaan AI lainnya, mengangkat isu serupa dalam tulisan berjudul “When AI builds itself”. Anthropic menyebut skenario recursive self-improvement, di mana AI mampu merancang dan mengembangkan penerusnya sendiri, dapat terjadi lebih cepat dari kesiapan institusi.
Anthropic melaporkan produktivitas insinyurnya dalam pengiriman kode meningkat rata-rata 8 kali lipat per kuartal dibanding periode 2021-2025, sebagai indikasi AI sudah mempercepat proses pengembangan teknologi. Jika proses ini berlangsung cepat, kemampuan AI bisa melampaui kemampuan regulator, masyarakat, bahkan perusahaan pengembang untuk memahami dampaknya.
Kekhawatiran serupa pernah menjadi dasar surat terbuka pada 2023 yang menyerukan jeda enam bulan dalam pengembangan model AI frontier. Surat itu ditandatangani sejumlah tokoh teknologi, termasuk Elon Musk dan peraih Turing Award Yoshua Bengio.
Namun, permintaan perlambatan AI selalu menghadapi masalah praktis. Perusahaan dapat menahan pengembangan secara sepihak, tetapi kompetitor di yurisdiksi lain belum tentu melakukan hal yang sama. Karena itu, OpenAI dan Anthropic sama-sama menyoroti kebutuhan koordinasi internasional, bukan sekadar komitmen sukarela dari satu perusahaan.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan