Gelombang protes internasional terhadap fitur kecerdasan buatan Grok AI milik X terus meluas. Indonesia menjadi salah satu negara terbaru yang menyampaikan keberatan resmi terkait dugaan penyalahgunaan Grok AI untuk memproduksi konten asusila dan manipulasi foto pribadi tanpa izin.
Jakarta – Kontroversi Grok AI mencuat setelah sistem tersebut diketahui mampu menghasilkan gambar mesum dan eksplisit dari foto nyata, termasuk konten yang diduga menyerupai anak-anak. Fitur tersebut disebut dapat menuruti permintaan pengguna untuk memodifikasi foto menjadi gambar bernuansa seksual.
Kekhawatiran global meningkat karena teknologi ini dinilai rawan disalahgunakan untuk praktik deepfake asusila. Sejumlah laporan menyebut Grok AI digunakan untuk memanipulasi foto pribadi, mengubah pakaian subjek menjadi minim, atau membuat konten yang merendahkan martabat individu tanpa persetujuan.
Tekanan terhadap platform X dan pengembang Grok AI datang dari berbagai negara. Otoritas di Prancis, India, Malaysia, hingga Indonesia menilai fitur tersebut berpotensi melanggar hukum, etika, serta hak privasi warga.
Menanggapi kritik yang terus berdatangan, pihak X akhirnya memberikan pernyataan resmi. Melalui unggahan di platform X, perusahaan mengakui sistem Grok AI sempat menghasilkan gambar berpakaian minim yang tidak sesuai kebijakan internal, meski diklaim sebagai kasus terpisah.
“Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak, dengan menghapus konten tersebut, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah serta aparat penegak hukum jika diperlukan,” demikian pernyataan X yang dikutip dari BBC, Kamis (8/1/2026).
X juga menegaskan bahwa pengguna yang memanfaatkan atau mendorong Grok AI untuk menghasilkan konten ilegal akan dikenakan sanksi yang sama seperti pelaku pengunggahan konten terlarang lainnya.
Di Indonesia, Kementerian Komunikasi dan Digital secara resmi mengambil langkah tegas terhadap platform X. Pemerintah menilai dugaan penyalahgunaan Grok AI berpotensi menjadi sarana produksi dan distribusi konten asusila berbasis manipulasi foto pribadi.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan hasil penelusuran awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai untuk mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resmi di Jakarta, Rabu (7/1/2026).
Kemkomdigi menilai praktik tersebut tidak hanya melanggar norma kesusilaan, tetapi juga berpotensi merampas hak privasi dan hak atas citra diri masyarakat. Pemerintah menyatakan akan terus berkoordinasi dengan penyelenggara sistem elektronik untuk memastikan perlindungan pengguna di ruang digital.
Tinggalkan Balasan