Posljednjih se dana na raznim Facebook oglasima pojavljuje žena s licem identičnim licem onom glumice Emme Watson te se stidljivo smiješi i saginje pred kamerom te započinje seksualni čin. Doduše, žena nije Watson, zvijezda "Harryja Pottera". Oglas je bio dio masivne ovotjedne reklamne kampanje za jednu od deepfake aplikacija, koja korisnicima omogućuje da zamijene bilo koje lice u bilo kojem videu po svom izboru.
Iako se u hrvatskom jeziku još nije pojavio adekvatan prijevod za riječ "deepfake", riječ je o tehnici stvaranja umjetne slike, odnosno, zamjeni lica na glavama živućih osoba.
Oglasna kampanja na Metinim platformama, Instagramu i Facebooku, ukazuje na činjenicu da se ova nekoć napredna tehnologija brzo proširila na lako dostupne aplikacije koje se oglašavaju na često posjećenim internetskim stranicama. Unatoč tome što mnoge platforme zabranjuju manipulativni i zlonamjerni deepfake sadržaj, oglasi poput onih koje je uočio NBC News uspjeli su se provući "kroz pukotine" zaštite.
U nedjelju i ponedjeljak, aplikacija za stvaranje videa "DeepFake FaceSwap" objavila je više od 230 oglasa na Metinim uslugama, uključujući Facebook, Instagram i Messenger, prema izvještaju Metine biblioteke oglasa. Neki od oglasa prikazivali su nešto što je izgledalo kao početak pornografskih videa uz dobro poznati zvuk uvodne pjesme porno platforme Pornhub. Nekoliko sekundi kasnije, lica žena, tj. porno zvijezda zamijenjena su licima poznatih glumica.
Nakon što je jedna korisnica Twittera podijelila spomenutu reklamu, vijest o oglasima se vrlo brzo proširila, a broj komentara i reakcija, primarno negativnih, je rastao iz sekunde u sekundu.
- Ovo bi mogli koristiti srednjoškolci za maltretiranje - stoji uz objavu.
- To bi moglo uništiti nečiji život. Mogli bi imati problema na svom poslu, a vrlo je jednostavno za napraviti i besplatno. Sve što treba učiniti je učitati sliku svog lica, a aplikacija pruži 50 različitih predložaka - nadalje je objasnila tviterašica.
Od Meta oglasa, 127 je prikazivalo facu Emme Watson, a 74 ih je prikazalo lice glumice Scarlett Johansson.
- Zamijenite lice s bilo kim - stoji u opisima na 80 oglasa koji pozivaju korisnike Facebooka i Instagrama da "uživaju u AI-ovoj modernoj tehnologiji zamjene lica".
U utorak, nakon što je NBC News zatražio od Mete komentar, svi oglasi aplikacije uklonjeni su s Metinih usluga.
Iako u videozapisima nisu prikazani seksualni činovi, njihova sugestivna priroda ilustrira kako se aplikacija potencijalno može koristiti za stvaranje lažnog seksualnog sadržaja. Aplikacija omogućuje korisnicima učitavanje videozapisa kojima manipuliraju, a uključuje i desetke video predložaka, od kojih su mnogi preuzeti s TikToka i sličnih platformi.
Unaprijed predodređene kategorije uključuju "Modu", "Nevjestu", "Za muškarce", "Za žene" i "TikTok", dok se kategorija s najviše opcija zove "Vruće". Kao što i ime sugerira, ona sadrži videozapise oskudno odjevenih žena i muškaraca koji plešu i poziraju. Nakon odabira video predloška ili učitavanja vlastitog, korisnici mogu unijeti jednu fotografiju bilo čijeg lica i za nekoliko sekundi dobiti verziju videozapisa sa zamijenjenim licem.
Uvjeti usluge za aplikaciju, koja košta 8 dolara tjedno, kažu da ne dopuštaju korisnicima lažno predstavljanje drugih putem njihovih usluga ili učitavanje seksualno eksplicitnog sadržaja. Programer aplikacije naveden u App Storeu zove se Ufoto Limited, a u vlasništvu je kineske matične tvrtke Wondershare. Niti jedna tvrtka nije odgovorila na zahtjev za komentar. Meta je 2020. zabranila većinu deepfake sadržaja, a tvrtka zabranjuje sadržaje za odrasle u oglasima, uključujući golotinju, prikaze ljudi u eksplicitnim ili sugestivnim položajima ili aktivnosti koje su seksualno provokativne. Sporna je aplikacija također na Google Playju označena za "Tinejdžere" zbog "sugestivnih tema".
Dok je dijeljenje seksualno eksplicitnih fotografija i videozapisa bez pristanka protuzakonito u većini država svijeta, zakoni koji se odnose na "deepfake medije" na snazi su samo u SAD-u, odnosno, u Kaliforniji, Georgiji, New Yorku i Virginiji.