Media Kampung – Paus Leo mengeluarkan peringatan serius terkait perkembangan kecerdasan buatan (AI) dan menyerukan regulasi yang ketat dengan mengutip tokoh Gandalf dari novel The Lord of the Rings dalam manifesto barunya tentang keselamatan umat manusia.
Dalam dokumen berjudul Magnifica Humanitas (Manusia yang Mulia), Paus Leo meminta agar pemerintah dunia memperlambat laju kemajuan teknologi AI generatif dan menetapkan aturan guna mencegah penyebaran informasi palsu. Ia juga mengecam penggunaan AI dalam perang karena mengurangi kendali manusia terhadap senjata, sehingga mempersulit penilaian tentang keadilan dalam konflik bersenjata.
Kutipan tersebut menegaskan bahwa tugas manusia bukanlah menguasai segala perubahan dunia, melainkan melakukan yang terbaik untuk mengatasi kejahatan yang diketahui agar generasi berikutnya dapat hidup di dunia yang lebih bersih. Kalimat lengkapnya berbunyi, “Ada kejahatan lain yang mungkin datang; karena Sauron hanyalah pelayan atau utusan. Namun bukan tugas kita untuk menguasai semua gelombang dunia, melainkan melakukan yang terbaik untuk membantu masa-masa di mana kita berada, memberantas kejahatan di ladang yang kita kenal, agar mereka yang hidup setelah kita memiliki tanah yang bersih untuk diolah. Cuaca apa yang akan mereka alami bukanlah hal yang bisa kita kendalikan.”
Pesan ini disampaikan saat pertemuan di Vatikan yang juga dihadiri oleh tokoh besar di dunia teknologi seperti Chris Olah, salah satu pendiri Anthropic yang mengembangkan alat AI Claude. Kehadiran tokoh teknologi ini menandakan setidaknya sebagian kalangan pelaku industri AI mendengarkan peringatan Paus Leo.
Paus Leo menekankan bahwa sekadar meminta mesin agar selaras dengan nilai-nilai kemanusiaan tidak cukup tanpa adanya diskusi terbuka mengenai kerangka etika dan penerapan standar keadilan sosial. Ia mengingatkan bahwa jika hanya segelintir orang mengendalikan AI, maka visi moral mereka akan menjadi infrastruktur tersembunyi dari sistem tersebut.
Lebih jauh, Paus Leo menyerukan keterlibatan politik yang aktif untuk mengatur kemajuan AI yang berjalan sangat cepat dan menjaga agar komunitas luas tetap memiliki ruang untuk bertanya dan berpartisipasi.
Sementara itu, Peter Jackson, sutradara film The Lord of the Rings yang legendaris, menyatakan bahwa ia tidak keberatan dengan penggunaan AI dalam pembuatan film dan menganggapnya sebagai efek khusus biasa. Ia saat ini tengah mengerjakan film baru berjudul The Hunt for Gollum yang berkaitan dengan dunia Tolkien.
Seruan Paus Leo ini menjadi pengingat penting tentang perlunya pengawasan dan regulasi ketat terhadap AI demi menghindari risiko yang dapat mengancam nilai-nilai kemanusiaan dan keamanan global. Langkah ini juga menyoroti bagaimana tokoh agama besar menghubungkan budaya populer dengan isu kontemporer yang mendesak.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan