Tehnologija “deepfake” videa, koja je u svojim ranim stadijima došla na zao glas zbog korištenja u pornografskim snimkama, na pravom je putu da postane sveprisutna komercijalna tehnologija koja bi mnoge ljude mogla ostaviti bez posla.
Prije koji mjesec, poznata južnokorejska voditeljica vijesti Kim Joo-Ha pojavila se na kanalu MBN i čitala listu naslova dnevnih vijesti. Bio je to ni po čemu poseban prizor, osim što Kim Joo-Ha uopće nije bila u studiju, pa čak ni pred kamerama. Na televiziji se pojavio njezin digitalni klon, računalno generirana kopija koja je što je vjernije moguće imitirala njezin glas, govor tijela i izraze lica.
Nije se radilo o prevari gledatelja - pojavljivanje njezine kopije bilo je unaprijed najavljeno - no reakcije su bile dosta podijeljene. Dok su se jedni divili koliko je njezin digitalni klon bio uvjerljiv, drugi su se brinuli da bi mogla uskoro ostati bez posla.
Njezinog je klona razvila južnokorejska tvrtka Moneybrain, koja sada nudi istu tehnologiju drugim medijskim tvrtkama u Kini i SAD-u, dok je kanal MBN najavio kako će digitalnu verziju Kim Joo-Ha i dalje koristiti kada se pojave izvanredne vijesti, na koje će biti teško drugačije brzo reagirati.
Evolucija neuralnih mreža
Tehnologija “deepfake-a” nastala je kao evolucija modernih neuralnih mreža, u kojima je specijalizirana umjetna inteligencija pokušavala što je uvjerljivije mogla zamijeniti postojeće lice na nekoj snimci s nekim drugim, zadanim licem. Za tu je svrhu trebala sate i sate “treniranja”, te što je veći mogući uzorak različitih fotografija i snimaka zadanog lica.
Pojedine verzije te tehnologije, bazirane na “open source” rješenjima - dakle programima koje bilo tko može preuzeti i dalje razvijati - počele su se koristiti kako bi se na pornografske snimke montirala lica poznatih glumica i pjevačica, što je smjesta podiglo brojna etička pitanja oko nove tehnologije.
Brojne popularne pornografske platforme zabranile su deepfake pornografiju, a društvena mreža Reddit ugasila je svoje podsekcije posvećene deepfake pornografiji. Jedno se vrijeme vodila i debata o opasnosti takve tehnologije po demokraciju - političare bi se, tvrdilo se, lako moglo inkriminirati deepfake snimkama, dok bi se s druge strane svaki dužnosnik uhvaćen u nezakonitom ili nemoralnom ponašanju mogao braniti da je riječ o lažnoj snimci.
Dvojica umjetnika i aktivista napravili su prije dvije godine uvjerljivu lažnu snimku osnivača Facebooka Marka Zuckerberga, kako bi testirali Facebookov kontroverzni stav spram takvih snimaka. No, za sada nije došlo do velikih političkih ili komercijalnih skandala ili pomaka zbog te tehnologije.
U zadnjih par godina počeli su je sve više koristiti filmski studiji, poput umetanja lažnih snimki mlade Carrie Fisher u filmu Star Wars: Rogue One, u kojem se na isti način pojavio i preminuli Peter Cushing. U finalu druge sezone popularne Disneyeve serije Mandalorian, pojavio se na sličan način podmlađeni Mark Hamill.
"Sintetički mediji"
Firme koje razvijaju ovu modernu tehnologiju sve više izbjegavaju termin “deepfake” - koji sa sobom nosi negativne konotacije - i okreću se alternativnom brendiranju, nazivajući ih AI-generiranim videima ili sintetičkim medijima.
Uz napredovanje generativnih neuralnih mreža koje su u stanju izraditi uvjerljive fotografije ljudi iz ničega - ljudi koji uopće ne postoje - za sintetičke medije više nisu potrebni ni stvarni modeli, ljudi koji bi poslužili kao uzori. Time se eliminiraju brojni etički problemi, pitanja autorskih prava, ali i velik dio logističkih troškova potrebnih za organiziranje setova, snimatelja, redatelja, cjelodnevnih snimanja i svog dodatnog osoblja potrebno za takav pothvat.
Tvrtka Synthesia iz Londona počela je tako nuditi virtualne trenere tvrtkama koje žele raditi video-uputstva za trening svojih djelatnika. Korisnici mogu izabrati “avatar” po volji - lik trenera - potom odaberu jezik na kojem će držati trening, a potom i unesu riječi koje trener treba prenijeti.
“Zamislite da imate 3.000 skladištara u sjevernoj Americi,” kazao je za BBC osnivač tvrtke Victor Riparbelli. “Neki od njih znaju engleski, no nekima možda bolje ide španjolski. Ako im morate prenijeti složene informacije, nekakav PDF na četiri stranice nije idealan način. Puno bolje bi bilo da napravite video od dvije do tri minute, na engleskom i na španjolskom.”
“Ako biste ih morali snimiti, to je ogroman posao. Sada vam mi to možemo učiniti za nisku cijenu produkcije, i onoliko vremena koliko će trebati nekome da napiše sinopsis,” kazao je Riparbelli.
Virtualni glumci su idući korak?
Sama tehnologija je sve bolja, a sve veći broj tvrtki smišlja nove i kreativne načine kako zaraditi na njoj. Korištenje stvarnih osoba kao modela -živih ili mrtvih - za sada nije jasno regulirana zakonima, pa pitanje autorskih prava ovisi od države do države. No, korištenje potpuno umjetnih modela - koji na dodir ekrana mogu progovoriti bilo kojim jezikom ili biti bilo kojeg spola ili rase - izrazito je interesantno brojnim oglašivačima i drugim tvrtkama.
Reklame s ljudima kojima ne treba platiti dnevnice, koje ne treba snimati na lokaciji, za koje ne treba unajmljivati kamere, tek su početak primjene ovakve tehnologije. Pitanje je dana kada će se pojaviti i prvi virtualni glumci, modelirani da savršeno odgovaraju svojim mogućim literarnim uzorcima, ili kada će se pojaviti prve potpuno digitalne porno zvijezde.
Ista tehnologija omogućit će i ljudima da svijetu prezentiraju idealiziranu verziju sebe, kako će se sve više poslova i sastanaka odvijati digitalno, a sigurno će se pojaviti i brojne druge primjene kojih se tek netko treba sjetiti.
Jedna od inspiracija za buduće primjene dolazi sa Sveučilišta u Južnoj Kaliforniji, čija Zaklada Shoah ima više od 55.000 video svjedočanstava osoba koje su preživjele Holokaust. U projektu koji se koristi umjetnom inteligencijom, posjetitelji mogu postavljati pitanja snimkama i dobiti odgovore koji su bili prethodno snimljeni.
Uz razvoj deepfake tehnologije - sintetičkih medija - unuci će jednoga dana moći razgovarati s digitalnim kopijama svojih preminuli djedova i baka, a posjetitelji raznih muzeja razgovarati s nekadašnjim predsjednicima i povijesnim ličnostima. Jedno je sigurno - digitalne ljude viđat ćemo sve češće i sve više.