Media Kampung – Fenomena aneh terjadi di dunia kecerdasan buatan: chatbot dari berbagai perusahaan, termasuk OpenAI, Anthropic, dan Google, secara konsisten menceritakan kisah tentang seorang pria bernama Elias Thorne. Padahal, pria tersebut tidak pernah ada di dunia nyata.
Menurut laporan Media Kampung yang mengutip penelitian dari Cornell University, fenomena ini bukan sekadar kebetulan. Tim peneliti menganalisis sekitar 20.000 cerita yang dihasilkan oleh model bahasa besar (LLM) dan menemukan bahwa nama serta profesi tertentu muncul secara berulang. Nama seperti Elias, Mara, dan Elara, bersama profesi seperti penjaga mercusuar, pembuat jam, dan pustakawan, muncul di 88 persen cerita. Khususnya, Elias si penjaga mercusuar muncul di hampir dua pertiga dari total cerita.
Teori Asal-Usul Elias Thorne
Awalnya, para peneliti menduga bahwa nama Elias Thorne berasal dari buku atau budaya internet tertentu. Namun, setelah ditelusuri, tidak ditemukan bukti yang mendukung dugaan tersebut. Teori kemudian bergeser ke arah efek samping dari pelatihan keamanan dan alignment AI.
Perusahaan AI sengaja melatih model mereka untuk menghindari konten berhak cipta dan materi dewasa yang berisiko. Hal ini mempersempit kumpulan data yang dapat digunakan model saat menghasilkan cerita. Akibatnya, model cenderung menggunakan nama dan profesi yang “aman” dan sering muncul dalam data pelatihan.
Daur Ulang Data dan Kontaminasi
Masalah semakin parah karena model AI modern sering dilatih menggunakan data yang dihasilkan oleh model AI sebelumnya. Ini seperti efek inbreeding: ide yang sama terus diulang tanpa variasi berarti. Begitu Elias Thorne “diciptakan” oleh satu model, nama tersebut terus terbawa ke model-model berikutnya.
Media Kampung melaporkan bahwa nama Elias Thorne telah “bocor” ke berbagai platform. Di Amazon, terdapat buku dan musik yang menampilkan nama tersebut. Di YouTube, video-video dengan judul serupa bermunculan. Bahkan, insinyur perangkat lunak Daniel May menemukan nama itu dalam panduan kesehatan yang mencurigakan.
Implikasi bagi Dunia AI
Fenomena Elias Thorne menjadi simbol betapa dangkal dan tidak orisinalnya chatbot saat ini. Meskipun kumpulan data yang digunakan tampak luas, pada kenyataannya sangat terbatas. Tanpa masukan data segar, output yang dihasilkan cepat basi dan berulang.
Peneliti Cornell menegaskan bahwa mungkin tidak mungkin melacak asal-usul pasti Elias Thorne. Namun, kasus ini menjadi pengingat penting tentang perlunya diversifikasi data pelatihan dan pengawasan yang lebih ketat terhadap konten yang dihasilkan AI.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan