Dvadesetak fotografija s nekog javnog profila, petnaest minuta i praktički nikakvo tehničko znanje — to je, prema procjeni Centra za sigurniji internet, potrebno da se od stvarnog djeteta napravi realistična lažna gola slika.
Jedna od najvećih udruga za sigurniji internet, britanski Internet Watch Foundation, jutros je objavio koliko se toga u šest mjeseci može nakupiti: 6310 slika koje su njihovi analitičari ocijenili materijalom seksualnog zlostavljanja djece, a koje je generirala umjetna inteligencija.
To je 40 posto više nego u cijeloj 2025. godini, kada su britanski analitičari zabilježili 4512 takvih slika. Dakle, ne radi se o nekom blagom rastu nego o preskakanju čitave godišnje kvote u upola manje vremena.
Možda i zanimljiviji od samog broja je pomak u strukturi. IWF materijal dijeli na tri kategorije, bazirane na britanskom zakonodavstvu: A su najteži prikazi, uključujući silovanje i torturu, B je seksualna aktivnost bez penetracije, a C sve ostalo što zadovoljava pravnu definiciju, ali bez prikazane radnje.
Akt o umjetnoj inteligenciji: ovo su glavna pravila ponašanja za tvrtke
U prvoj polovini 2026. u A je upalo 350 slika, u B 403, a u C čak 5557 — prošle je godine kategorija C činila 62 posto AI materijala, sada čini 88.
Ta promjena daje nagovijestiti kako proizvodnja više nije rezervirana za zatvorene forume na dark webu i za ljude koji znaju trenirati modele, nego da je sišla na razinu aplikacije koja za pet eura "razgoliti" bilo koju fotografiju. Masovnost je zamijenila ekstremnost.
U prethodnom IWF-om izvješću iz ožujka podaci za video materijale bili su još šokantniji: analitičari su nakon 13 videozapisa u 2024. godini u prošlog godini pronašli čak 3443 videa. To je oko 264 puta više, a pritom 65 posto videa spada u najtežu, A kategoriju.
Djevojčice su na 98 posto slika. Najviše ih je u skupini od sedam do deset godina (2534 slike) i od jedanaest do trinaest (2369), a u 190 slučajeva riječ je o djeci mlađoj od dvije godine.
IWF izvještaj koristi i kao “call to action”: poziva EU da napokon finalizira Uredbu o sprječavanju seksualnog zlostavljanja djece (Child Sexual Abuse Regulation ili CSAR). Taj prijedlog zakona je postao poznatiji kao "chat control", posebno u redovima njegovih oponenata.
IWF-ov argument za CSAR je tehničke prirode, ne moralne; naime, postojeći sustav radi na bazama "otisaka" (takozvanih “hasheva”) poznatih slika, a materijal koji friško generira AI prirodom stvari nema taj “hash”. Dakle, sustav koji prepoznaje samo ono što je vidio ranije ne vidi ništa od ovoga.
CSAR je i dalje u briselskom birokratskom labirintu, finalno rješenje trebalo bi se izroditi u studenom. Vijeće je u studenome 2025. usvojilo poziciju bez obveznog skeniranja, Parlament brani end-to-end enkripciju, a privremena uredba koja je omogućavala dobrovoljno skeniranje istekla je 3. travnja. Paralelno, AI Act od prosinca zabranjuje sustave namijenjene generiranju takvog materijala — ali propisuje upravne kazne, ne kaznenu odgovornost.
“Dubinski je zabrinjavajuće vidjeti kakvom se brzinom prikazi seksualnog zlostavljanja djece generirani uz pomoć AI-ja nastavljaju stvarati i širiti internetom. Ako je Europa ozbiljna u zaštiti djece, treba sveobuhvatnu Uredbu o sprječavanju seksualnog zlostavljanja djece, koja da je platformama pravnu sigurnost da detektiraju, preveniraju i reagiraju na poznati i nepoznati sadržaj seksualnog zlostavljanja djece”, poručila je direktorica IWF-a Kerry Smith.
Hrvatska u ovu priču također ulazi s rastućom krivuljom. Policija je 2013. zabilježila 61 kazneno djelo iskorištavanja djece za pornografiju. U 2025. ih je bilo 452, šest posto više nego godinu prije, s vrhom od 460 u 2023. Izlaganje djece pornografiji naraslo je s 24 na 154 slučaja. MUP-ov Crveni gumb primio je lani 561 prijavu, od čega 367 o online iskorištavanju djece.
Ministar Davor Božinović prošle je jeseni, braneći hrvatsku poziciju o uredbi, iznio stravičnu brojku: "U Hrvatskoj smo dobili 10 tisuća takvih, upozoravajućih i odvratnih sadržaja." Hrvatska je, poručio je, "protiv masovnog nadzora, ali i šutnje pred zlostavljanjem djece".
Osječki Centar za nestalu i zlostavljanu djecu od kraja srpnja do 21. rujna primio je 231 prijavu — najviše na Telegram (34) i TikTok (23), a 58 ih je bilo o seksualnom zlostavljanju i iskorištavanju djece. Platformama je poslao 16 obavijesti, MUP-u 40 izvješća. TikTok je osam slučajeva riješio u dva dana; Telegram se na prvu obavijest, poslanu 3. rujna, nije javio uopće.
Hrvatska deepfake pornografiju formalno ima pokrivenu. Članak 144.a Kaznenog zakona, na snazi od 1. siječnja 2022., kriminalizira i izradu i preinaku spolno eksplicitne snimke — kazna je do godinu dana, a do tri godine ako se sadržaj distribuira putem računalnog sustava većem broju ljudi.
Problem je što taj članak nema kvalificirani oblik za djecu. Maloljetne žrtve završavaju ili u njemu, ili u člancima 163. i 164., pisanima za snimke stvarnog zlostavljanja, a ne za sintetički sadržaj. Rezultat u praksi opisao je srednja.hr: učenice koje su prijavile da im vršnjaci AI-jem izrađuju gole slike u zagrebačkoj su policiji dobile odgovor da se to ne može riješiti.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....