Media Kampung – Google tengah berupaya mengatasi masalah manipulasi pada kecerdasan buatan (AI) yang dapat menyebarkan informasi palsu. Sebuah investigasi oleh BBC mengungkap bahwa chatbot AI, termasuk yang dikembangkan Google, mudah dipengaruhi untuk memberikan jawaban tidak akurat atau menyesatkan.
Dalam penyelidikan tersebut, terungkap cara sederhana yang dipakai untuk ‘meracuni’ chatbot agar menyebarkan kebohongan. Misalnya, dalam waktu hanya 20 menit, peneliti berhasil membuat ChatGPT dan Google memberikan informasi palsu bahwa dirinya adalah juara dunia makan hot-dog secara kompetitif. Meski tampak seperti lelucon, kasus ini menunjukkan potensi bahaya serius dari manipulasi AI.
Google dan beberapa perusahaan AI lain kini tengah memperbarui kebijakan dan sistem keamanan untuk menanggulangi masalah ini. Pembaruan tersebut bertujuan mengurangi risiko penyebaran jawaban bias atau keliru, terutama pada topik krusial seperti kesehatan dan keuangan pribadi. Perubahan ini muncul setelah kritik luas yang dipicu oleh hasil investigasi dan pemantauan para peneliti AI.
Ahli optimasi mesin pencari dan AI, Lily Ray, mengingatkan agar pengguna tetap waspada. “Anda harus menganggap bahwa Anda sedang dimanipulasi sampai ada sistem yang lebih baik,” ujarnya. Ia menyoroti pergeseran dari model pencarian tradisional Google yang menampilkan banyak sumber ke satu jawaban AI yang mudah dipercaya begitu saja, sehingga berpotensi menyesatkan.
Perubahan ini menjadi langkah penting untuk menjaga keamanan dan keandalan AI, yang kini semakin banyak digunakan dalam berbagai aspek kehidupan sehari-hari. Google juga memperbarui mekanisme kredit dan batas penggunaan pada layanan AI mereka, meski beberapa pengguna mengkritik sistem baru tersebut karena dianggap tidak transparan dan merugikan.
Upaya Google dalam memperkuat kebijakan dan teknologi AI diharapkan dapat meningkatkan kepercayaan pengguna dan mengurangi risiko penyebaran informasi salah. Namun, para ahli menegaskan perlunya kewaspadaan terus-menerus sampai sistem AI benar-benar mampu menjaga integritas data dan jawaban yang diberikan.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan