Media Kampung – Perusahaan di Indonesia kini menghadapi pengawasan yang lebih ketat terkait penggunaan kecerdasan buatan (AI) seiring berakhirnya masa transisi Undang-Undang Perlindungan Data Pribadi (UU PDP). Pelanggaran aturan ini dapat berujung pada denda hingga 2 persen dari pendapatan tahunan serta ancaman pidana bagi pelanggaran tertentu.
Pengawasan ini semakin kompleks, terutama di sektor jasa keuangan yang harus mematuhi ketentuan dari berbagai regulator seperti Otoritas Jasa Keuangan (OJK), Bank Indonesia, Kementerian Komunikasi dan Digital (Komdigi), dan Badan Siber dan Sandi Negara (BSSN). Satu sistem AI bahkan dapat diawasi oleh beberapa regulator sekaligus.
Fakta Utama Pengawasan AI di Indonesia
- UU PDP yang mulai berlaku penuh pada Oktober 2024 menuntut pengelolaan data pribadi yang ketat, termasuk pada sistem AI.
- Sanksi denda hingga 2 persen pendapatan tahunan dan ancaman pidana hingga enam tahun penjara diterapkan bagi pelanggaran pengelolaan data pribadi.
- Sektor jasa keuangan menerima pengawasan tambahan melalui AI Governance Handbook yang diterbitkan OJK pada 2025 dengan prinsip akuntabilitas, pengawasan manusia, dan keandalan.
- Bank Indonesia mengawasi penggunaan AI dalam sistem pembayaran, Komdigi mengatur pendaftaran Penyelenggara Sistem Elektronik (PSE) dan lokalisasi data, serta BSSN menetapkan standar keamanan siber.
- Ancaman keamanan siber meningkat signifikan dengan 3,64 miliar serangan siber dan lebih dari 56 juta paparan data sepanjang tahun sebelumnya di Indonesia.
- Fenomena shadow AI, yaitu penggunaan aplikasi AI tanpa pengawasan resmi oleh perusahaan, menjadi tantangan dalam memastikan kepatuhan dan keamanan sistem.
Peran Regulasi dan Teknologi dalam Memperkuat Kepatuhan
Pemerintah Indonesia tengah menyiapkan Peraturan Presiden yang mengatur etika dan keamanan AI secara nasional. Regulasi ini akan mengharuskan registrasi model AI dan penilaian risiko khusus untuk sistem AI berisiko tinggi.
Untuk membantu perusahaan memenuhi kewajiban kepatuhan, Veranthios, penyedia solusi AI governance asal Singapura, bekerja sama dengan PT Digivla Indonesia menyediakan platform pemantauan risiko AI. Platform ini mampu mengidentifikasi seluruh sistem AI yang digunakan, termasuk yang tidak resmi, serta menyediakan bukti kepatuhan yang dapat diverifikasi oleh regulator.
Platform ini juga menawarkan pemantauan risiko secara real-time, mendeteksi perubahan perilaku AI, akses data, dan koneksi yang melanggar kebijakan perusahaan. Hal ini memudahkan perusahaan dalam memenuhi kewajiban pelaporan insiden, termasuk notifikasi pelanggaran data dalam waktu 72 jam sesuai UU PDP.
Tantangan Perusahaan dalam Menghadapi Regulasi AI
Reza Maulana, Presiden Direktur PT Digivla Indonesia, menekankan bahwa tantangan utama bukan lagi memahami regulasi, melainkan membuktikan bahwa sistem AI yang digunakan berjalan sesuai ketentuan. Banyak perusahaan belum memiliki visibilitas menyeluruh terhadap penggunaan AI, terutama dengan perkembangan Agentic AI yang semakin kompleks.
Dengan pengawasan yang semakin ketat dan kompleks, perusahaan didorong untuk memperkuat tata kelola AI guna mengurangi risiko operasional dan mendukung adopsi AI yang bertanggung jawab.
Perkembangan regulasi dan teknologi ini diharapkan dapat menciptakan ekosistem digital yang lebih aman, transparan, dan akuntabel di Indonesia.
Tinggalkan Balasan