‘Penyalahgunaan deepfake adalah bentuk kekerasan’

NEW YORK, 4 Februari 2026 – “UNICEF sangat prihatin dengan meningkatnya laporan mengenai pesatnya peningkatan volume gambar bernuansa seksual yang dibuat dengan kecerdasan buatan (AI), termasuk kasus ketika foto anak-anak dimanipulasi dan diseksualisasi.”

“Deepfake - gambar, video, atau audio yang dibuat atau dimodifikasi menggunakan AI agar terlihat nyata — semakin sering digunakan untuk menghasilkan konten seksual yang melibatkan anak, termasuk melalui nudification, yaitu penggunaan alat AI untuk menghapus atau mengubah pakaian sehingga menciptakan rekayasa gambar telanjang atau seksual .

“Bukti terbaru menunjukkan skala ancaman yang berkembang pesat ini: Dalam studi* UNICEF, ECPAT, dan INTERPOL yang dilakukan di 11 negara, sedikitnya 1,2 juta anak melaporkan bahwa foto mereka telah dimanipulasi menjadi konten seksual deepfake dalam satu tahun terakhir. Di beberapa negara, hal ini setara dengan 1 dari 25 anak — sama dengan satu anak dalam satu ruang kelas pada umumnya.”

“Anak-anak pun sangat sadar akan risiko ini. Di sejumlah negara yang diteliti, hingga dua pertiga anak mengaku khawatir AI dapat digunakan untuk membuat gambar atau video seksual palsu. Tingkat kekhawatiran bervariasi antar negara danmenegaskan kebutuhan mendesak akan peningkatan kesadaran, pencegahan, dan perlindungan.”

“Kita harus tegas. Gambar anak yang diseksualisasi — baik dibuat maupun dimodifikasi menggunakan alat AI — merupakan materi pelecehan seksual anak (CSAM). Penyalahgunaan deepfake adalah kekerasan, dan tidak ada yang ‘palsu’ tentang dampak yang ditimbulkannya.”

“Ketika gambar atau identitas seorang anak digunakan, anak tersebut menjadi korban langsung. Bahkan ketika tidak ada korban yang dapat diidentifikasi, materi pelecehan seksual anak yang dihasilkan AI tetap menormalkan eksploitasi seksual anak, meningkatkan permintaan atas konten yang melecehkan, dan menciptakan tantangan besar bagi penegak hukum untuk mengidentifikasi serta melindungi anak-anak yang membutuhkan bantuan.”

“UNICEF mengapresiasi para pengembang AI yang menerapkan prinsip safetybydesign dan pengamanan kuat untuk mencegah penyalahgunaan sistem mereka. Namun, penerapannya masih belum merata, dan terlalu banyak model AI yang dikembangkan tanpa perlindungan yang memadai. Risiko semakin besar ketika alat AI generatif tertanam langsung dalam platform media sosial, tempat gambar yang dimanipulasi dapat menyebar dengan cepat.”

“UNICEF mendesak langkah-langkah berikut untuk menghadapi ancaman meningkatnya materi pelecehan seksual anak yang dihasilkan oleh AI:

• Pemerintah memperluas definisi materi kekerasan seksual anak (CSAM) agar mencakup konten yang dihasilkan AI, serta mengkriminalisasi pembuatan, pengadaan, kepemilikan, dan distribusinya.
• Pengembang AI menerapkan pendekatan safety‑by‑design dan pengamanan yang kuat untuk mencegah penyalahgunaan model AI.
• Perusahaan digital mencegah peredaran materi pelecehan seksual anak yang dihasilkan AI — bukan hanya menghapusnya setelah penyalahgunaan terjadi; serta memperkuat moderasi konten melalui investasi dalam teknologi deteksi, sehingga materi tersebut dapat segera dihapus — bukan berhari-hari setelah korban atau perwakilannya melapor.

“Dampak penyalahgunaan deepfake sangat nyata dan mendesak. Anak-anak tidak bisa menunggu sampai hukum mengejar ketertinggalan.”

# # # # #

Catatan untuk editor:

Silakan baca Issue Brief terbaru UNICEF mengenai AI serta pelecehan dan eksploitasi seksual anak di sini. 
Pernyataan ini mencerminkan posisi yang tercantum dalam UNICEF’s Guidance on AI and Children 3.0 (Desember 2025).
* Data baru ini merupakan bagian dari Disrupting Harm Phase 2, fase kedua dari proyek penelitian yang dipimpin oleh UNICEF’s Office of Strategy and Evidence – Innocenti, ECPAT International, dan INTERPOL, dengan dukungan pendanaan dari Safe Online. Proyek ini menelaah bagaimana teknologi digital mempermudah terjadinya eksploitasi dan pelecehan seksual anak, serta menghasilkan bukti untuk memperkuat sistem, kebijakan, dan respons nasional.

Sebagai bagian dari fase ini, laporan nasional dengan temuan tingkat negara akan dirilis sepanjang 2026. Estimasi yang disajikan di sini berasal dari survei rumah tangga berskala nasional yang dilakukan oleh UNICEF dan IPSOS di 11 negara. Setiap survei melibatkan satu anak berusia 12–17 tahun dan satu orang tua atau pengasuh, dengan desain sampel yang bertujuan mencapai cakupan nasional penuh atau hampir penuh (91–100%). Penelitian dilakukan di negara-negara dengan konteks regional yang beragam. Detail metodologi lebih lanjut tersedia di: 
https://safeonline.global/dh2-research-methods_final-2/