900 posto više deepfake videa u samo dvije godine, ni Hrvatska nije iznimka

Snimka traje manje od dvije minute, a na njoj muškarac poznatog lica sjedi u uredskoj stolici i govori smireno i uvjerljivo. Gledatelje poziva da iskoriste priliku koja se ne ponavlja te da on to radi zato što želi pomoći sugrađanima i pružati im prosperitetni život. Iza njega se nalazi logotip državne institucije, a on nudi priliku za zaradu koja zvuči nemoguće dobro, kao da nije istina. Naravno, ta prilika ne postoji.

Muškarac na snimci nije rekao ništa od toga niti je sjedio u toj stolici, a najvjerojatnije nije ni svjestan da postoji ta snimka. Snimka je u potpunosti generirana, piksel po piksel kadra, slog po slog govora. Algoritam danas može sintetizirati lice, glas i govor tijela s preciznošću koja nadilazi mogućnosti prosječnog gledatelja da prepozna obmanu.

Riječ je o deepfake tehnologiji, nazivu koji spaja engleski pojam za duboko učenje i lažni sadržaj, a ona nije nikakva novost. Stvar je u tome što se ona mijenja i unapređuje nevjerojatnom brzinom, a njezina dostupnost i kvaliteta postaju sve veće. Time se i eksponencijalno širi razmjer zloporabe te tehnologije.

Prema procjenama cybersecurity tvrtke DeepStrike, broj deepfake videa na internetu narastao je s oko 500.000 u 2023. na gotovo osam milijuna u 2025., što je rast od gotovo 900 posto u samo dvije godine. Dakle, deepfake video više nije rubna pojava, nego je gotovo pa industrijska proizvodnja dezinformacija.

Kontekst je vrlo važan

Da bi deepfake video uopće funkcionirao kao alat za prijevaru, nije dovoljno samo izraditi uvjerljivu snimku. Potrebno je osmisliti i kontekst koji gledatelju ne ostavlja prostor za sumnju. Investicijske prijevare pokazale su se idealnim tlom za deepfake video jer kombiniraju financijsku privlačnost, društveni autoritet i vremenski pritisak, klasičnu kombinaciju za idealne manipulacije. Tko ne bi htio zaraditi hrpu novca bez rada, pogotovo kada ti ga nudi čovjek kojemu vjeruješ?

Hany Farid, istraživač umjetne inteligencije koji se već godinama bavi problemom sintetičkih medija, upozorio je da je realistična sinteza lica, glasa i tijela dostigla razinu na kojoj obični gledatelji u svakodnevnim uvjetima više ne mogu pouzdano razlikovati lažni sadržaj od pravog.

Konkretnije je spominjao nižu rezoluciju i kvalitetu videozapisa na društvenim mrežama kao idealni format za deepfake video. Bitno je i računati s time da je Farid spomenuo "svakodnevne uvjete", dakle ne analiziranje videa u laboratoriju, forenzičkom analizom svakog piksela, nego onako kako većina nas konzumira sadržaj, na mobitelu usput, bez prevelike pažnje.

Deepfake videi kakvi se produciraju za financijske prijevare ne moraju biti savršeni, dovoljno je da budu uvjerljivi onoliko dugo koliko traje prva impresija. Bitno je i da se pojave na pravom kanalu u pravom trenutku s pravim imenom iza sebe.

Hrvatska nije pošteđena takvih videa. Takav lažan sadržaj redovito se pojavljuje i na domaćim društvenim mrežama, a jedan od poznatijih primjera vezan je uz deepfake snimku predsjednika Zorana Milanovića u kojoj on navodno promovira "prvu državnu investicijsku platformu".

Ponuda je bila fantastična. Trebalo je samo uplatiti 250 eura, a nudio se povrat od 10.000 eura. Takav je povrat za svakog financijski pismenijeg gledatelja apsurdan. No, u kombinaciji s prepoznatljivim licem i autoritetom koji uz njega ide ona može ciljanim skupinama djelovati legitimnom. Namijenjena je prvenstveno onima koji vjeruju jer vide osobu koju poznaju jer zašto bi im ona lagala, pogotovo na videu?

Prijevare tog tipa funkcioniraju kao lijevak. Deepfake video privuče pažnju i uspostavi povjerenje, a klik vodi na lažnu platformu koja traži osobne podatke i početnu uplatu. Nakon što žrtva uplati, platforma nestaje, a s njom, naravno, i novac.

Hrvatska udruga banaka pokrenula je kampanju "Budimo realni" upravo s ciljem podizanja razine svijesti o stvarnim digitalnim prijetnjama i jačanja kritičkog promišljanja u online okruženju. Na stranici kampanje www.budimorealni.hr dostupni su konkretni savjeti, primjeri aktualnih prijevara i alati koji pomažu u prepoznavanju lažnog sadržaja, resursi koji su, sudeći prema trendovima rasta deepfake videa, sve potrebniji.

Koliko god da su dobri, i dalje postoje jasni tragovi

No, možda nije svaku prijevaru lako prepoznati jer je cijela premisa, da predsjednik neke države nudi golem povrat na neku investiciju, potpuno nemoguća. Ponekad je riječ o osobama koje uopće ne postoje, ali se predstavljaju kao stručnjaci iz sjene koji sada izlaze u javnost i otkrivaju svoje investicijske tajne, iz čiste dobrote svog srca.

Bez obzira na to koliko tehnologija napreduje, deepfake videi još uvijek ostavljaju tragove, pod uvjetom da znamo što tražiti i da smo svjesni da ih trebamo tražiti.

Jedan od najpouzdanijih pokazatelja je rub lica. Algoritmi koji superpozicioniraju jedno lice na drugo rijetko savršeno reproduciraju prijelaz između kože i pozadine, kose ili vrata. Kod pokreta glave rubovi znaju postajati zamućeni, tresti se, pomicati ili ponašati drukčije od ostatka slike. Slično vrijedi za uši jer su često manje precizno renderirane nego ostatak lica.

Drugi očiti znak je sinkronizacija govora i pokreta usana. Čak i u dobro izrađenim deepfakeovima, osobito kod složenijih glasova i neengleskih jezika poput hrvatskog, usklađivanje zvuka i vizualnog prikaza nije savršeno. Ponekad kasni, ponekad žuri. Kratki, neprirodni treptaji ili gotovo nikakvo treptanje još su jedan od jasnih indikatora.

Važno je obratiti pažnju i na osvijetljenost lica u odnosu na ostatak kadra. Sintetička lica ponekad izgledaju kao da su osvijetljena iz drukčijeg smjera nego što to sugerira ostatak snimke. Pritom lice može biti snažno obasjano, a vrat je istodobno u sjeni. Sjene se općenito ne poklapaju s ostatkom kadra, a odraz u očima nedostaje ili izgleda potpuno umjetno.

Uz ove tehničke indikatore, postoje i kontekstualni indikatori koji su možda još i važniji. Ako bilo koja poznata osoba u videu promovira nekakvu investicijsku platformu za koju nikad nitko nije čuo, nudi prinose koji su nemoguće visoki i u najpovoljnijim tržišnim uvjetima, a pritom gledatelje poziva da reagiraju odmah, ne treba uopće početi razmišljati o analizi je li video stvaran ili ne, nego samo prijeći na drugi video ili, još bolje, isključiti preglednik.

Ovakve prijevare temeljene na deepfake videima nisu samo tehnološki problem. One su i problem medijske pismenosti, digitalnih navika i kolektivne otpornosti. Algoritmi društvenih mreža optimizirani su za angažman, a ne za točnost, što znači da senzacionalistički i emocionalno nabijeni sadržaji, kakvi su i lažne investicijske prilike, imaju prednost u dosegu u usporedbi s drugim sadržajem.

Najvažnije pitanje koje si možemo postaviti nije "je li ovo istinito", nego "na temelju čega bih ovo trebao smatrati istinitim".

Sponzorirani sadržaj nastao je u suradnji s HUB-om