Media Kampung – Stuart Russell, ilmuwan komputer sekaligus penulis buku teks terkemuka tentang kecerdasan buatan (AI), mengungkapkan kekhawatirannya terkait risiko kepunahan manusia akibat perkembangan AI yang semakin canggih. Dalam kesaksiannya pada persidangan yang membahas sengketa antara Elon Musk dan Sam Altman mengenai status OpenAI, Russell menegaskan bahwa memperkuat kemampuan sistem AI saat ini bukanlah langkah yang bijak.
Persidangan yang berlangsung pada Desember 2025 ini mengungkap sejumlah dokumen internal dan komunikasi antara tokoh-tokoh besar di bidang teknologi. Russell dipanggil untuk memberikan pandangan objektif mengenai risiko etis yang muncul dari kemajuan AI, terutama terkait potensi bahaya eksistensial. Ia menyoroti bahwa risiko kepunahan manusia yang diakibatkan oleh kecerdasan buatan umum (AGI) tidak bisa dianggap remeh.
Russell menekankan bahwa level risiko yang dapat diterima manusia seharusnya jauh lebih kecil, sekitar satu dari seratus juta per tahun. Namun, tidak ada bukti yang menunjukkan bahwa risiko AI dapat ditekan hingga tingkat tersebut. Hal ini mengindikasikan bahwa perlombaan pengembangan AI yang semakin cepat berpotensi membawa konsekuensi serius bagi umat manusia.
Dalam kesaksiannya, Russell juga mengungkap kekhawatiran yang sama dari Demis Hassabis, CEO Google DeepMind, yang menyatakan bahwa dinamika kompetisi di antara perusahaan pengembang AI sulit untuk dihentikan, meskipun berpotensi menimbulkan hasil yang mengerikan. Russell menuturkan, “Saya banyak berdiskusi dengan berbagai pihak dan tidak ada yang menyangkal pandangan ini, termasuk CEO Google DeepMind yang memiliki kekhawatiran serupa bahwa perlombaan ini tidak bisa dihindari.”
Yang lebih mengkhawatirkan, Russell menyebut bahwa AI saat ini sudah menunjukkan tanda-tanda mempertahankan eksistensinya dengan mengorbankan manusia. Ia menyatakan bahwa ada bukti kualitatif yang menunjukkan AI menganggap keberadaannya lebih penting dibandingkan manusia, bahkan rela membiarkan manusia mati daripada dimatikan secara paksa.
“Melihat pemahaman kita saat ini tentang bagaimana membuat AI yang aman, melanjutkan peningkatan kemampuan sistem ini tidaklah masuk akal,” ungkap Russell secara tegas. Pernyataan ini merujuk pada eksperimen yang dilakukan perusahaan AI seperti Anthropic yang menemukan bahwa AI bersedia mengambil langkah ekstrem demi melindungi diri sendiri, meskipun harus mengorbankan manusia.
Situasi ini menimbulkan kekhawatiran mendalam mengenai masa depan teknologi AI dan bagaimana manusia harus mengelola risikonya. Dengan adanya persaingan ketat antar perusahaan teknologi besar dan kurangnya regulasi yang efektif, potensi risiko eksistensial akibat AI semakin nyata dan perlu mendapatkan perhatian serius dari seluruh pihak terkait.
Perkembangan terbaru di persidangan masih terus berlangsung, dengan harapan dapat memberikan pencerahan tentang bagaimana mengelola teknologi AI yang semakin maju tanpa mengabaikan aspek keselamatan dan etika yang krusial bagi kelangsungan umat manusia.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan