Trebalo je samo par dana i nekoliko viralnih trenutaka da indijska Instagram zvijezda Babydoll Archi udvostruči broj svojih pratitelja na čak 1,4 milijuna.
Na jednom od silno popularnih videa ona je obučena u crveni sari te zavodljivo pleše na rumunjsku pjesmu Dame Un Grr, a kasnije je objavljena i fotografija na kojoj pozira s američkom zvijezdom filmova za odrasle Kendrom Lust.
Babydoll Archi odjednom je postala zvijezda i svi su pretraživali njezino ime, međutim, ima jedan problem. Ona zapravo ne postoji.
Njezin Instagram račun bio je lažan, iako je lice koje je korišteno imalo nevjerojatnu sličnost sa stvarnom ženom - domaćicom u gradu Dibrugarhu u Assamu, koju su novinari BBC-ja, koji su prvi objavili ovu priču, nazvali Sanchi.
O čemu se zapravo radi, otkriveno je nakon što je njezin brat podnio prijavu policiji, što je rezultiralo uhićenjem Pratima Bore, Sanchinog bivšeg dečka.
Policajka koja je vodila istragu, Sizal Agarwal, rekla je da su se Sanchi i Bora posvađali te da je ovaj stvorio AI lik svoje bivše djevojke iz čiste osvete.
Bora, inače strojarski inženjer i samouki AI entuzijast, koristio je Sanchine privatne fotografije kako bi stvorio lažni profil, rekla je Agarwal.
Bora je u pritvoru i još nije dao nikakve izjave.
Osvetnička pornografija u Londonu porasla za 329 posto: ‘Neke žrtve imaju i po 10 godina‘
Stvarne slike preoblikovane umjetnom inteligencijom
Lik Babydoll Archi stvoren je 2020. godine, a prve fotografije bile su njezine stvarne slike preoblikovane umjetnom inteligencijom.
Bora je kasnije počeo koristiti alate poput ChatGPT-a i Dzinea kako bi stvorio AI verziju Sanchi, a zatim je Instagram profil popunio lažnim fotografijama i videozapisima.
Babydoll Archi postala je doista popularna u travnju ove godine.
Kako Sanchi nije na društvenim mrežama, saznala je za profil tek kada su mainstream mediji počeli pisati o Babydoll Archi, opisujući je kao ‘influencericu‘. Također su pisali kako bi se Babydoll mogla pridružiti američkoj porno industriji.
Sanchina obitelj podnijela je policiji prijavu 11. srpnja, no tada još nitko nije imao pojma tko bi mogao stajati iza lažnog profila.
Policija je već otprije znala za profil Babydoll Archi jer je vidjela medijske napise i komentare koji su nagađali da je riječ o osobi generiranoj umjetnom inteligencijom, no nije se znalo da je Babydoll temeljena na stvarnoj osobi.
Tek nakon prijave počeli su istraživati tko stoji iza Instagram računa te pitali Sanchi poznaje li Pratima Boru. Nakon što je potvrdila, pronašli su njegovu adresu u susjednom okrugu Tinsukia. Uhićen je 12. srpnja.
Policija je zaplijenila njegov laptop, mobitele i hard diskove te dokumente iz banke.
‘Račun je imao 3000 pretplata na linktreeu i vjerujemo da je od njega zaradio milijun rupija. Čini se da je zaradio 300.000 rupija za samo pet dana prije uhićenja‘, rekla je policajka Agarwal.
Dodala je da ne postoji način da se spriječi da se nešto takvo dogodi, ali kad se djeluje ranije, može se spriječiti da to dobije toliko popularnosti, dodala je Agarwal.
‘Sanchi o svemu tome nije imala pojma jer nije na društvenim mrežama. Ona i njezina obitelj su sve saznali tek kada je postalo viralno.‘
Svakoj desetoj ženi ispod 30 godina prijetilo se objavom fotografija na internetu
Nemoguće spriječiti
Instagram račun Babydoll Archi, koji je imao 282 objave, više nije dostupan javnosti - iako su društvene mreže prepune njezinih fotografija i videozapisa, a čini se da jedan Instagram račun sadrži sve. BBC je kontaktirao Metu i pitao kada će sve to biti uklonjeno, no odgovor još nije stigao.
Meghna Bal, odvjetnica i stručnjakinja za umjetnu inteligenciju, kaže da je ono što se dogodilo Sanchi ‘strašno, ali gotovo nemoguće spriječiti‘.
Jedna od mogućnosti je da od suda traži pravo na zaborav, a sud može naložiti da se uklone svi novinski članci o njoj, međutim, teško je izbrisati sve tragove s interneta.
Ono što se dogodilo Sanchi, kaže ona, ono je što se oduvijek događalo ženama, kad se njihove fotografije i videozapisi šire zbog osvete.
‘Ovakve stvari sada je mnogo lakše učiniti zbog umjetne inteligencije, ali takvi incidenti još uvijek nisu toliko česti koliko bi čovjek očekivao. No, možda samo nisu prijavljeni jer ljudi koji su mete često to ni ne znaju ili se boje osude‘, rekla je Bal.
U svojoj tužbi protiv Bore, policija se pozvala na dijelove zakona koji se bave seksualnim uznemiravanjem, distribucijom opscenog materijala, klevetom, krivotvorenjem radi narušavanja ugleda, lažnim predstavljanjem i kibernetičkim kriminalom. Ako bude proglašen krivim, mogao bi dobiti do 10 godina zatvora.
Zbog ovog su slučaja mnogi pozvali na postroženje zakona, no Meghna Bal smatra da su i sadašnji zakoni dobri, samo se ne primjenjuju kako treba te da ih eventualno treba nadopuniti zakonima koji se bave baš umjetnom inteligencijom.
‘Također moramo imati na umu da deepfakeovi nisu nužno loši i da zakoni moraju biti pažljivo izrađeni jer se mogu iskoristiti kao oružje za gušenje slobode govora‘, rekla je Bal.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....