Bareskrim Polri menegaskan manipulasi foto pribadi menggunakan kecerdasan buatan Grok AI di platform X merupakan tindak pidana. Penyidik saat ini melakukan pendalaman atas dugaan pembuatan konten asusila dan deepfake tanpa persetujuan pemilik foto.
Jakarta – Direktur Tindak Pidana Siber Bareskrim Polri, Himawan Bayu Aji, menyatakan pengeditan foto orang lain menjadi konten bermuatan asusila tanpa izin termasuk perbuatan melawan hukum.
Ia menegaskan, apabila ditemukan unsur manipulasi data elektronik berupa foto pribadi tanpa persetujuan, perkara tersebut dapat diproses secara pidana. Saat ini, penyidik tengah mengumpulkan bahan keterangan dan menelusuri laporan terkait fenomena tersebut.
Sejalan dengan langkah kepolisian, Kementerian Komunikasi dan Digital juga mengambil sikap tegas. Pemerintah memperingatkan bahwa Grok AI dan platform X berpotensi dikenai sanksi administratif hingga pemutusan akses layanan apabila tidak patuh dan kooperatif terhadap regulasi yang berlaku di Indonesia.
Langkah tersebut menyusul meningkatnya laporan penyalahgunaan fitur generatif AI yang digunakan untuk memproduksi konten pornografi dan manipulasi citra pribadi. Pemerintah menilai praktik tersebut berisiko merugikan korban secara psikologis, sosial, dan reputasi.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, pengaturan terkait pornografi diperketat. Ketentuan tersebut tercantum antara lain dalam Pasal 172 dan Pasal 407 yang mengatur definisi pornografi serta ancaman pidananya.
Menanggapi fenomena ini, pengamat teknologi Heru Sutadi menilai meski pengembang Grok AI mulai melakukan moderasi terhadap perintah atau prompt bermuatan negatif, celah penyalahgunaan masih tetap terbuka.
Menurutnya, tanggung jawab penggunaan teknologi kecerdasan buatan tidak hanya berada pada penyedia layanan, tetapi juga pada pengguna. Ia menekankan pentingnya kesadaran publik untuk memanfaatkan AI secara etis dan bertanggung jawab.
Heru menambahkan, pemerintah saat ini tengah menyiapkan Peraturan Presiden terkait peta jalan dan etika kecerdasan buatan yang ditargetkan terbit pada kuartal pertama tahun ini. Namun, ia menilai ke depan diperlukan regulasi setingkat undang-undang untuk mengatur penggunaan AI secara lebih komprehensif.
“Kalau ini tidak diatur dengan kuat, kita khawatir berbagai tata kelola yang sudah dibangun, mulai dari digital, pemerintahan, hingga sektor lain, bisa berubah drastis dengan kehadiran AI,” ujarnya.
Tinggalkan Balasan