Zloupotreba dipfejk sadržaja jeste zlostavljanje

Njujork, 4. februar 2026 – UNICEF izražava sve veću zabrinutost zbog učestalih navoda o naglom porastu seksualizovanih sadržaja koje generiše veštačka inteligencija, uključujući slučajeve u kojima su fotografije dece digitalno manipulisane i seksualizovane, a koji su dostupni u onlajn prostoru.

Dipfejk sadržaji – fotografije, video-zapisi ili audio-snimci koji su generisani ili izmenjeni pomoću veštačke inteligencije tako da deluju stvarno – sve češće se koriste za stvaranje sadržaja u kojem su deca prikazana na seksualizovan način. To uključuje i takozvanu ‘nudifikaciju’, pri čemu se pomoću alata veštačke inteligencije sa fotografija uklanja ili menja odeća, kako bi se stvorile lažne fotografije na kojima su osobe prikazane gole ili seksualizovane.

Novi podaci ukazuju na razmere ove brzo rastuće pretnje. Istraživanje UNICEF-a, ECPAT-a i INTERPOL-a*, sprovedeno u 11 zemalja, pokazuje da je najmanje 1,2 miliona dece u protekloj godini navelo da su njihove fotografije bile digitalno manipulisane i pretvorene u seksualno eksplicitne dipfejk sadržaje. U pojedinim zemljama, to znači jedno od 25. dece, odnosno približno jedno dete u svakom prosečnom školskom odeljenju.

Deca su veoma svesna ovog rizika. U nekim zemljama obuhvaćenim istraživanjem, čak do dve trećine dece navelo je da ih brine mogućnost da se veštačka inteligencija koristi za kreiranje lažnih seksualnih fotografija ili video-zapisa. Stepen zabrinutosti znatno se razlikuje od zemlje do zemlje, što dodatno ukazuje na potrebu da se hitno unaprede svest o problemu, prevencija i mere zaštite.

Budimo jasni. Seksualizovane fotografije dece koje su generisane ili manipulisane pomoću alata veštačke inteligencije predstavljaju seksualno zlostavljanje dece. Zloupotreba dipfejk sadržaja jeste zlostavljanje i posledice po decu su stvarne.

Kada se koristi fotografija ili identitet deteta, to dete je direktno viktimizovano. Čak i kada nema jasno prepoznatljive žrtve, AI-generisani materijal seksualnog zlostavljanja dece normalizuje seksualnu eksploataciju dece, podstiče potražnju za zlostavljačkim sadržajem i predstavlja ozbiljan izazov za nadležne institucije u identifikovanju i zaštiti dece kojoj je potrebna pomoć.

UNICEF pozdravlja napore pojedinih developera veštačke inteligencije koji u dizajn svojih sistema ugrađuju bezbednosne mehanizme kako bi se sprečila njihova zloupotreba. Ipak, ova praksa još uvek nije ujednačena i previše AI modela razvija se bez potrebnih zaštitnih mera. Rizici se dodatno povećavaju kada su generativni AI alati ugrađeni u društvene mreže, gde se manipulisane fotografije brzo šire.

UNICEF hitno poziva na preduzimanje sledećih mera da bi se odgovorilo na sve ozbiljniju pretnju seksualnog zlostavljanja dece putem sadržaja koje generiše veštačka inteligencija:

• Sve vlade treba da prošire definicije sadržaja koji prikazuje seksualno zlostavljanja dece (CSAM) tako da obuhvate i AI-generisani sadržaj, kao i da kriminalizuju njegovo stvaranje, pribavljanje, posedovanje i distribuciju.
• Developeri veštačke inteligencije treba da ugrade bezbednosne mehanizme u dizajn svojih sistema i uvedu jasne zaštitne okvire kako bi se sprečila zloupotreba AI modela.
• Digitalne kompanije treba da preduzmu mere kako bi sprečile širenje AI-generisanog sadržaja seksualnog zlostavljanja dece, a ne samo da ga uklanjaju nakon što je zlostavljanje već počinjeno. To zahteva snažniju moderaciju sadržaja i ulaganja u tehnologije za prepoznavanje takvog sadržaja, kako bi se ovakav sadržaj odmah uklanjao, a ne tek nakon nekoliko dana, odnosno tek nakon prijave žrtve ili njenog zastupnika.

Posledice zloupotrebe dipfejk sadržaja su stvarne i ozbiljne. Deca ne mogu da čekaju da se zakon promeni.

***

Napomena za urednike:

Najnoviji UNICEF-ov Issue Brief o veštačkoj inteligenciji i seksualnom zlostavljanju i eksploataciji dece dostupan je ovde.

Ovo saopštenje zasniva se na stavovima i preporukama iznetim u dokumentu UNICEF Guidance on AI and Children 3.0 (decembar 2025).

* Podaci predstavljeni u ovom saopštenju deo su istraživanja Disrupting Harm – Faza 2, druge faze međunarodnog istraživačkog projekta koji predvode Kancelarija UNICEF-a za strategiju i dokaze – Innocenti, ECPAT International i INTERPOL, uz finansijsku podršku inicijative Safe Online. Projekat ispituje načine na koje digitalne tehnologije omogućavaju seksualnu eksploataciju i zlostavljanje dece, kao i prikuplja dokaze koji doprinose unapređenju nacionalnih sistema, politika i odgovora.

Tokom 2026. godine biće objavljivani nacionalni izveštaji sa nalazima za pojedinačne zemlje u okviru ove faze istraživanja. Procene navedene u ovom saopštenju zasnivaju se na nacionalno reprezentativnim anketama domaćinstava koje su UNICEF i IPSOS sproveli u 11 zemalja. Svaka anketa obuhvatila je jedno dete uzrasta od 12 do 17 godina i jednog roditelja ili staratelja, uz uzorak osmišljen tako da obezbedi potpunu ili gotovo potpunu nacionalnu pokrivenost (91–100%). Istraživanje je sprovedeno u zemljama koje predstavljaju različite regionalne kontekste.

Dodatni metodološki detalji dostupni su na: https://safeonline.global/dh2-research-methods_final-2/