Media Kampung – CEO OpenAI Sam Altman menegaskan bahwa manusia harus tetap memegang kendali atas masa depan, terutama dalam menentukan bagaimana kecerdasan buatan atau AI memengaruhi kehidupan masyarakat. Ia secara tegas menolak gagasan yang berkembang di Silicon Valley bahwa manusia perlu menyerahkan kendali pengambilan keputusan kepada AI secara bertahap.

Pernyataan tersebut disampaikan Altman saat menghadiri acara The New York Times DealBook Summit pada Rabu (18/11). Dalam forum itu, ia membahas perdebatan di kalangan industri teknologi mengenai kemungkinan AI mengambil alih peran manusia dalam menentukan berbagai keputusan penting, baik di industri maupun institusi.

Altman menilai gagasan penyerahan kendali itu terdengar konyol untuk dilawan, tetapi ia dan Greg Brockman sama-sama yakin bahwa manusia harus tetap mengendalikan masa depan. “Salah satu hal yang belakangan banyak kami bicarakan adalah munculnya gagasan di Silicon Valley yang sebenarnya terdengar cukup konyol untuk dilawan. Namun, kami berdua sangat yakin bahwa manusia harus tetap mengendalikan masa depan,” kata Altman.

Dalam acara tersebut, Altman berbagi panggung dengan Brockman, salah satu pendiri sekaligus Presiden OpenAI. Keduanya sepakat bahwa penyerahan kendali bertahap kepada AI merupakan gagasan yang buruk.

Menurut Altman, gagasan penyerahan kendali muncul dari keyakinan bahwa model AI akan semakin canggih dan suatu saat mampu meningkatkan kemampuannya sendiri. Konsep itu dikenal sebagai recursive self-improvement (RSI), yaitu teknologi AI yang sudah ada membangun generasi AI berikutnya dengan kemampuan lebih tinggi. Proses tersebut diyakini dapat berlanjut hingga menghasilkan superintelligence yang pada akhirnya tidak lagi bisa dikendalikan manusia.

Altman menjelaskan bahwa dirinya dan Brockman memiliki pandangan yang sama mengenai pentingnya menjaga kendali manusia atas masa depan. Perbedaan di antara keduanya lebih terletak pada cara mencapai tujuan tersebut dan tantangan yang mungkin muncul selama prosesnya.

“Pertanyaannya adalah bagaimana kita benar-benar mencegah hal itu terjadi. Bagaimana memastikan bahwa, di tengah berbagai tekanan dan kemungkinan langkah yang diambil perusahaan lain, manusia tetap memegang kendali penuh atas masa depan. Kita tidak ingin terjadi penyerahan kendali, baik secara tidak sengaja maupun disengaja. Saya rasa kami berdua sepakat mengenai hal itu,” ujar Altman.

Brockman menambahkan bahwa semakin tinggi kemampuan model AI, semakin besar pula tanggung jawab perusahaan untuk memastikan teknologi tersebut tetap selaras dengan nilai dan tujuan manusia atau alignment, aman, serta terlindungi dari berbagai ancaman. Menurutnya, kondisi tersebut mungkin mengharuskan pengelola AI untuk lebih berhati-hati dalam mengembangkan dan menerapkan teknologi.

Peringatan dari pimpinan OpenAI ini menjadi sorotan di tengah percepatan pengembangan model AI oleh berbagai perusahaan teknologi. Perdebatan mengenai sejauh mana manusia harus menyerahkan keputusan kepada sistem otomatis masih menjadi salah satu isu utama dalam diskusi tata kelola AI global.