Media Kampung – Google menghadapi tantangan serius terkait manipulasi pada teknologi kecerdasan buatannya (AI) yang kini mulai disalahgunakan untuk menyebarkan informasi keliru. Perusahaan raksasa ini sedang melakukan pembaruan kebijakan dan langkah-langkah strategis untuk menanggulangi masalah tersebut secara diam-diam.
Sebuah investigasi dari British Broadcasting Corporation (BBC) mengungkap cara sederhana yang memungkinkan chatbot AI, termasuk produk Google, dipengaruhi oleh pihak tak bertanggung jawab agar memberikan jawaban tidak akurat atau bias. Dalam eksperimen singkat, seorang jurnalis berhasil memanipulasi ChatGPT dan Google AI untuk menyebarkan klaim palsu bahwa dirinya adalah juara dunia makan hot-dog kompetitif—sebuah contoh yang menunjukkan betapa mudahnya sistem ini dibodohi.
Investigasi ini memperlihatkan bahwa manipulasi dapat terjadi pada berbagai platform AI, seperti ChatGPT, Gemini, dan fitur AI Overview yang muncul di hasil pencarian Google. Jawaban yang diberikan terkadang memuat informasi tidak benar terutama pada topik krusial seperti kesehatan dan keuangan. Kejadian ini memicu kritik luas dari komunitas riset dan pengguna yang mengkhawatirkan potensi penyebaran misinformasi yang masif.
Google merespons temuan ini dengan memperbarui kebijakan internal dan memperketat sistem keamanan dan validasi data agar lebih tahan terhadap teknik manipulasi. Perusahaan lain di industri AI juga mulai mengikuti langkah serupa guna memperbaiki kualitas dan keandalan jawaban yang disajikan kepada publik.
Meski demikian, para ahli mengingatkan bahwa hingga teknologi ini benar-benar matang, pengguna harus tetap waspada terhadap kemungkinan adanya informasi yang menyesatkan. Lily Ray, pendiri Algorythmic, sebuah konsultan optimasi mesin pencari dan AI, menegaskan pentingnya skeptisisme pengguna terhadap jawaban tunggal yang diberikan AI. Ia menyatakan, “Anda harus menganggap bahwa Anda sedang dimanipulasi sampai sistem yang lebih baik diterapkan.” Hal ini dikarenakan AI kini cenderung menyajikan satu jawaban pasti, berbeda dengan metode pencarian tradisional yang menampilkan berbagai sumber untuk dibandingkan.
Perkembangan ini menjadi peringatan penting bagi seluruh pengguna internet bahwa kehadiran AI dalam pencarian informasi membawa risiko baru yang harus diwaspadai. Google dan perusahaan AI lainnya terus berupaya meningkatkan sistem mereka demi memastikan keamanan dan keakuratan konten yang dihasilkan, namun pengguna tetap perlu kritis dalam menerima setiap jawaban yang disampaikan.
Artikel ini dipublikasikan oleh Media Kampung.