 |
| Ilustrasi Artificial Intelligence atau kecerdasan buatan (AI). Foto: InfoPublik/Produk Supa AI |
Ketua Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, menegaskan bahwa kemunculan chatbot AI generatif yang mampu memodifikasi visual membuka celah baru kejahatan digital, khususnya pelecehan berbasis manipulasi gambar dan video.
“Bayangkan foto seseorang tiba-tiba muncul dalam bentuk vulgar di media sosial, padahal tidak pernah ada pose atau persetujuan. Ini bukan fiksi, melainkan ancaman nyata di era AI yang terlalu permisif,” ujar Ardi dalam keterangannya, Minggu (11/1/2026).
Menurut Ardi, tidak semua platform AI menerapkan pembatasan etis yang ketat. Beberapa sistem AI generatif dinilai masih memiliki celah karena mampu menghasilkan atau memodifikasi konten visual yang berpotensi merendahkan martabat manusia. Kondisi ini berisiko menjadikan AI sebagai alat pelecehan digital secara masif jika tidak segera diatur.
Indonesia, dengan lebih dari 212 juta pengguna internet, menghadapi tantangan besar dalam literasi keamanan digital. Berdasarkan survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII), sekitar 64 persen pengguna internet belum memahami risiko keamanan digital secara komprehensif, termasuk bahaya manipulasi konten berbasis AI.
“Kasus manipulasi foto dan video berbasis AI sudah terjadi di berbagai daerah, mulai dari pemerasan hingga penghancuran reputasi. Ini baru puncak gunung es,” tegas Ardi.
Ia mengingatkan bahwa tanpa perlindungan hukum yang memadai dan edukasi publik yang berkelanjutan, masyarakat berpotensi menjadi korban kejahatan digital yang semakin canggih dan sulit dilacak.
Undang-Undang Perlindungan Data Pribadi (UU PDP) yang disahkan pada 2022 seharusnya menjadi fondasi perlindungan warga di ruang digital. Namun hingga kini, regulasi turunannya belum sepenuhnya rampung, sehingga menyisakan ruang abu-abu dalam penegakan hukum terhadap penyalahgunaan teknologi AI.
“Teknologi bergerak sangat cepat, sementara regulasi tertinggal. Tanpa aturan teknis yang jelas, aparat penegak hukum akan kesulitan menentukan tanggung jawab, apakah berada pada pengembang AI, pengguna, atau platform distribusi,” jelasnya.
Ardi menilai penyalahgunaan AI tidak lagi dapat dipandang sebagai persoalan privasi individu semata, melainkan telah menjadi ancaman terhadap stabilitas sosial dan keamanan nasional. Manipulasi visual terhadap tokoh publik, pejabat negara, atau figur keagamaan berpotensi memicu konflik horizontal serta menurunkan kepercayaan publik.
Selain kerugian material, korban manipulasi konten AI juga kerap mengalami tekanan psikologis berat, seperti stigma sosial, gangguan kesehatan mental, hingga kehilangan mata pencaharian, meski konten palsu telah dibantah.
Data Badan Siber dan Sandi Negara (BSSN) menunjukkan ribuan serangan siber terjadi setiap hari, sebagian di antaranya memanfaatkan teknologi AI untuk melakukan penipuan dan pemerasan. Tanpa intervensi kebijakan yang tegas, tren ini diperkirakan akan terus meningkat.
ICSF mendorong pemerintah segera menyelesaikan regulasi turunan UU PDP yang secara spesifik mengatur pemanfaatan AI generatif. Aturan tersebut dinilai perlu mencakup kewajiban filter konten otomatis, persetujuan eksplisit pemilik data, transparansi algoritma, serta sanksi tegas bagi pelaku penyalahgunaan.
“Regulasi harus bersifat antisipatif, bukan reaktif. Negara tidak boleh menunggu sampai ribuan korban berjatuhan baru bertindak,” kata Ardi.
Ia juga menekankan pentingnya peran platform teknologi dalam menerapkan prinsip ethics by design serta memperkuat literasi digital masyarakat sebagai benteng pertama perlindungan di ruang siber.
Sebagai negara dengan populasi digital terbesar di Asia Tenggara, Indonesia dituntut membangun ekosistem digital yang aman dan bermartabat. Keamanan siber dan perlindungan data pribadi harus menjadi prioritas nasional seiring percepatan transformasi digital.
“Teknologi AI bisa menjadi berkah atau bencana. Semua bergantung pada bagaimana negara, industri, dan masyarakat mengaturnya. Martabat digital warga negara tidak boleh dikorbankan atas nama inovasi,” pungkas Ardi.
Berita ini dilansir dari Infopublik.id
