Jakarta – Media sosial seperti Facebook, Instagram, dan TikTok semakin ketat dalam menegakkan aturan terkait konten seksual, sebagai respons terhadap maraknya konten pornografi yang menggunakan kecerdasan buatan (AI). Baru-baru ini, beberapa konten semacam itu berhasil meloloskan moderasi media sosial, menciptakan obrolan tak senonoh atau karakter minim pakaian yang dihasilkan oleh AI, seperti yang dilaporkan oleh NBC News pada Kamis (7/9/2023).
Berdasarkan data yang ditemukan oleh NBC News, ada sekitar 35 pengembang aplikasi yang menciptakan konten seksual yang saat ini menghasilkan lebih dari 1.000 iklan yang dipasang di berbagai media sosial yang dimiliki oleh Meta.
Selain itu, TikTok juga menjadi sorotan karena menampilkan konten seksual yang diproduksi oleh AI. Sebanyak 14 pengembang aplikasi telah menciptakan ratusan iklan dengan konten semacam itu di platform TikTok.
Namun, baik pihak Meta maupun TikTok telah mulai menyadari masalah baru yang timbul akibat konten seksual yang dihasilkan oleh AI ini. Mereka menyatakan bahwa mereka secara tegas melarang semua bentuk konten seksual, baik yang dibuat oleh manusia maupun oleh AI.
“Policies kami melarang iklan yang berisi konten dewasa yang terlalu provokatif atau bersifat seksual, baik itu hasil dari AI atau bukan,” kata pihak Meta dalam pernyataan resmi mereka,dikutip dari NBC news
Meta juga mengungkapkan bahwa mereka saat ini sedang merumuskan aturan yang lebih jelas seputar konten seksual yang dihasilkan oleh ai di platform mereka.
“Kebijakan dan penegakan kami dirancang untuk dapat beradaptasi dalam ruang digital yang penuh tantangan ini, dan kami terus memantau perkembangan tren seputar konten yang dihasilkan oleh ai,” tambah mereka.
Tentunya, kebijakan serupa juga diberlakukan oleh TikTok, yang menegaskan komitmennya untuk melarang seluruh iklan yang berisi konten seksual, termasuk yang dihasilkan oleh ai, seiring dengan apa yang diterapkan oleh Meta.
Meskipun Meta dan TikTok telah mengeluarkan kebijakan ketat terkait iklan berkonten seksual, mereka belum menerapkan aturan serupa untuk chatbot seks.
Saat ini, ada sekitar 35 perusahaan chatbot yang fokus pada pengembangan chatbot berkonten seksual. Banyak dari mereka berbasis di Belarus dan Cina, sementara beberapa lainnya tidak mengungkapkan lokasi mereka.
Aplikasi chatbot berkonten seks juga banyak diiklankan di Google dan dapat diunduh secara gratis atau dengan paket langganan. Meskipun Google memberikan tanda usia pada beberapa aplikasi tersebut, masih ada beberapa yang bisa diunduh oleh kalangan remaja.
