Media Kampung – Google baru-baru ini mengupgrade fitur AI Overview dalam mesin pencari mereka untuk menghadirkan respons yang lebih interaktif dan berbasis model bahasa besar (LLM). Namun, sebuah masalah lama terkait kemampuan AI dalam mengenali huruf dalam kata muncul kembali saat pengguna mencoba menanyakan jumlah huruf tertentu dalam kata.
Salah satu contoh yang viral adalah ketika AI Google secara keliru menjawab bahwa terdapat dua huruf ‘P’ dalam kata ‘Google’. Respons ini menimbulkan kebingungan karena sebenarnya kata ‘Google’ tidak mengandung huruf ‘P’. Kesalahan serupa juga muncul saat AI diminta menghitung huruf dalam kata lain, seperti ‘enigmatic’, di mana AI menyebut terdapat satu huruf ‘R’ padahal tidak ada sama sekali.
Fenomena ini terjadi karena model LLM tidak membaca kata sebagai rangkaian huruf seperti manusia, melainkan mengubah kata menjadi token numerik yang kontekstual. Menurut Matthew Guzdial, peneliti AI dari University of Alberta, LLM mendasarkan pemahamannya pada encoding kata secara keseluruhan, tanpa memproses huruf individual.
Google mengakui bahwa kemampuan menghitung huruf dalam kata merupakan tantangan bagi model-model ini dan sedang berupaya memperbaiki masalah tersebut. Sementara itu, kemungkinan beberapa respons AI Overview akan dinonaktifkan untuk jenis pertanyaan tertentu hingga solusi ditemukan.
Masalah ini bukanlah hal baru, namun penempatan jawaban berbasis AI di posisi teratas hasil pencarian harian pengguna memperbesar dampak dan sorotan terhadap kekurangan model tersebut. Beberapa respons tidak akurat bahkan memicu viral di media sosial, menimbulkan perdebatan tentang efektivitas dan efisiensi penggunaan AI di mesin pencari.
Google terus berupaya mengintegrasikan AI lebih dalam ke berbagai layanannya, namun tantangan teknis seperti ini menunjukkan bahwa teknologi tersebut masih dalam tahap pengembangan dan perlu penyempurnaan lebih lanjut.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan