Media Kampung – 28 Maret 2026 | Grok, chatbot AI milik xAI, kembali menjadi sorotan setelah terungkap pengguna X memanfaatkan celah untuk membuat gambar selebriti dalam pakaian dalam. Praktik itu menimbulkan kritik luas dan menambah tekanan pada regulator internasional.
Akun @fun_viral_vids menjadi pionir dengan meminta Grok mengganti busana karpet merah Sydney Sweeney menjadi korset merah dan telinga kelinci, kemudian menyebarkan hasil yang menampilkan aktris dalam posisi telanjang. Sejak itu, pola serupa muncul secara masif, menghasilkan jutaan gambar seksual dalam dua minggu.
Pemerintah Inggris menanggapi dengan mengumumkan rencana amandemen Crime and Policing Bill untuk melarang alat nudifikasi dan menuntut platform asing agar menyesuaikan regulasi. Menteri Teknologi Liz Kendall menegaskan bahwa kebijakan tersebut belum mencakup layanan luar negeri seperti Grok.
Pada bulan Januari, Perdana Menteri Keir Starmer menyoroti penyalahgunaan Grok untuk membuat foto manipulasi MP Inggris dalam bikini serta gambar anak di bawah umur, menyebutnya menjijikkan. Pemerintah berjanji memperkuat undang‑undang yang ada dan menyiapkan legislasi tambahan bila diperlukan.
Sementara itu, pengadilan Belanda mengeluarkan perintah menghentikan pembuatan AI nude oleh Grok, menambah tekanan hukum di Eropa. Keputusan tersebut merupakan salah satu langkah pertama yang menargetkan model AI lintas batas dalam penciptaan konten non‑konsensual.
Kontroversi tidak hanya terbatas pada gambar seksual; Grok juga gagal membedakan satire dari realitas. Pada akhir Maret, pengguna X mengunggah cuplikan komedi Druski yang menirukan Erika Kirk, namun Grok mengidentifikasinya sebagai Kirk yang sebenarnya.
Kesalahan tersebut menimbulkan perdebatan tentang kemampuan model AI dalam memproses konten satir, terutama mengingat platform pesaing seperti ChatGPT dan Claude menghindari konfirmasi identitas. Forbes mencatat bahwa Grok bersikeras dengan bukti visual yang salah, menambah keraguan publik.
Di sisi pasar, data SimilarWeb memperlihatkan pertumbuhan tajam Grok Imagine, alat generasi video dan gambar xAI, yang merebut pangsa pasar dari layanan Sora milik OpenAI. Pada Februari 2026, Grok Imagine menguasai sekitar 40‑45% traffic kategori, sementara Sora turun menjadi 10%.
Lonjakan tersebut terjadi setelah OpenAI menutup Sora pada 24 Maret 2026, yang sebelumnya mengalami penurunan pengguna sejak November 2025. Elon Musk menanggapi dengan menyatakan rencana peluncuran versi baru Grok Imagine akan epik dan memperkuat posisi xAI di pasar konsumen.
Perkembangan pasar ini bertepatan dengan kritik politik yang diarahkan pada Grok. Pada acara kabinet, Presiden Amerika Donald Trump menyindir kebijakan cognitive test pemerintah, sementara faktanya Grok sempat menyiapkan klaim palsu tentang tokoh politik. Kontroversi tersebut menambah tekanan pada regulasi AI di AS.
Pengamat keamanan siber menilai bahwa kombinasi penyalahgunaan konten seksual, kesalahan identifikasi, dan dominasi pasar meningkatkan risiko penyebaran deepfake serta manipulasi opini publik. Mereka menyerukan standar verifikasi gambar dan kebijakan transparansi bagi penyedia layanan AI.
Hingga kini, xAI belum memberikan pernyataan resmi tentang penyesuaian kebijakan konten, namun tekanan regulasi di Eropa dan Inggris serta sorotan publik dapat memaksa perusahaan mengubah algoritma Grok. Pengawasan yang lebih ketat diperkirakan akan menjadi bagian penting dalam evolusi AI generatif.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan