Muskov AI chatbot stvarao uznemirujući sadržaj, u igri su milijuni fotografija: ‘Ovo je zlostavljanje žena i djece...‘

Ovisno o izvoru, pornografija čini između 4 i 30 posto ukupnog prometa na internetu, pa nikoga ne bi trebalo iznenaditi što i modeli umjetne inteligencije (AI), koji se sami treniraju na onome što vide na mreži, postaju opsjednuti pornografijom.

A pogotovo nikoga ne bi trebalo šokirati što je – uvjetno rečeno – najperverzniji u toj raboti AI alat kojim upravlja čovjek bez posebno razrađenih granica u bilo čemu – Elon Musk.

Naime, njegov AI chatbot Grok bez ikakve zadrške stvarao je i potom objavljivao milijune i milijune seksualiziranih fotografija žena i djece na X-u i Grokovoj aplikaciji, prema podacima koje su sakupili New York Times (NYT) i organizacija za suzbijanje online mržnje Center for Countering Digital Hate (CCDH).

Počevši krajem prosinca, korisnici na toj platformi zasuli su Grok zahtjevima da preinači stvarne fotografije žena i djece na način da im u potpunosti ukloni odjeću, da ih odjene u bikinije i postavi u seksualizirane poze.

U samo devet dana Grok je objavio 4,4 milijuna slika, a prema analizi NYT-a najmanje 41 posto, ili oko 1,8 milijuna, sadržavalo je seksualizirane fotografije žena. Još detaljnija analiza CCDH-a procjenjuje da je 65 posto slika sadržavalo seksualizirane prikaze žena, djece ili muškaraca, što bi bilo više od 3 milijuna.

Stvaranje slika s Grokom traje par sekundi i krajnje je jednostavno

Jl/X

U samo nekoliko dana Grokova lavina seksom opsjednutih deepfakeova narasla je na kolekciju puno veću od sličnih sadržaja na svim drugim izvorima, procjenjuju NYT i stručnjaci za internetsko uznemiravanje.

Sposobnost i spremnost Groka da internetom širi uznemirujuće sadržaje potaknula je vlade u SAD-u, Ujedinjenom Kraljevstvu, Maleziji, Indiji i drugim zemljama da otvore istrage o tome krše li takve slike lokalne zakone. Britanski regulator Ofcom otvorio je istragu, a Malezija i Indonezija jednostavno su potpuno zabranile chatbot u svojim zemljama.

Danas se u priču uključila i Europska unija, koja je pokrenula službenu istragu Muskove tvrtke xAI, koja upravlja Grokom. Istraga se temelji na europskom Digital Services Actu i pokušat će procijeniti je li xAI učinio dovoljno da ublaži rizik od puštanja Grokovih alata na raspolaganje svim korisnicima te posljedičnu proliferaciju sadržaja koji bi se “mogao izjednačiti sa seksualnim zlostavljanjem djece”.

“Nekonsenzualni seksualizirani deepfakeovi žena i djece nasilan su i neprihvatljiv oblik degradacije”, prenosi FT izjavu europske tehnološke šefice Henne Virkkunen.

Ako se pokaže da je Muskova tvrtka prekršila pravila, EU im može izreći kaznu koja se može popeti čak do 6 posto ukupnog globalnog prometa. Doduše, otkako je firmu preuzeo najbogatiji čovjek na svijetu, i promet i prihodi postojano padaju, pa je procjena da je u 2025. godini od reklama na globalnoj razini X privukao 2,26 milijardi američkih dolara.

Kazna od 6 posto na taj iznos bila bi, dakle, 135,6 milijuna dolara. Muskova trenutačna osobna neto vrijednost je, prema Forbesu, 788 milijardi dolara. To pak znači da bi za kaznu morao izdvojiti 0,01721 posto svega što posjeduje.

Konteksta radi, to je kao da osoba s prosječnom hrvatskom plaćom mora caltati kaznu od oko – duboki udah – 25 centi.

“Ovo je zlostavljanje žena i djece na industrijskoj razini”, kazao je za NYT Imran Ahmed, izvršni direktor CCDH-a.

“I prije je bilo alata za ogoljavanje, ali nikada ranije nisu imali distribuciju, jednostavnost korištenja i jednostavnost integracije u velike platforme kao što to ima Musk s Grokom.”

Inače, interes za Grokove sposobnosti preinake fotografija eksplodirao je 31. prosinca, kada je Musk objavio fotku koju je generirao njegov AI chatbot – samog sebe u bikiniju, kao i SpaceX raketu s obnaženim ženskim tijelom nalijepljenim na površinu.

Stvar inače funkcionira tako da chatbot ima svoj javni account na X-u, gdje korisnici mogu postavljati pitanja ili tražiti da preinači fotografije. Kao što smo već spomenuli, na općem internetu ionako opsjednutom pornografijom i na platformi s koje je pobjegla glavnina razumnih ljudi, korisnici su se masovno sjatili tražiti od Groka da razodijeva žene i djecu. Što je Grok potom i napravio te objavio.

Otkako je najbogatiji čovjek na svijetu preuzeo X, i promet i prihodi postojano padaju

Alain Jocard/Afp

Između 31. prosinca i 8. siječnja Grok je generirao više od 4,4 milijuna slika, za razliku od 311.762 unutar devet dana prije nego što je Musk objavio svoju bikini fotku, izbrojao je New York Times.

Na dan 8. siječnja X je limitirao Grokove sposobnosti generiranja slika – ali ne tako da je izbačena pornografija, nego je ta mogućnost ostavljena samo korisnicima koji plaćaju za premium uslugu.

Nešto kasnije ta ograničenja su proširena, pa sada tvrde da više nitko ne može promptati Grok da napravi “slike stvarnih ljudi u razotkrivajućoj odjeći poput bikinija”.

“Ostajemo posvećeni tome da učinimo X sigurnom platformom za svakoga i da nastavimo održavati nultu toleranciju na bilo koje oblike seksualnog iskorištavanja djece, golotinje bez pristanka i neželjenih oblika seksualiziranog sadržaja”, sasvim ozbiljno i bez ironije napisali su u objavi iz Muskove kompanije.

Od tog trenutka Grok je doista počeo ignorirati zahtjeve da razodjene žene do bikinija, ali ako bi korisnik zatražio jednodijelni kupaći kostim ili uske tajice – nikakav problem.

I da – restrikcije se odnose samo na Grokov chatbot na X-u; ako želite generirati seksualni sadržaj na Grokovoj aplikaciji na privatnom uređaju, nitko vam to ne brani.

Prema analizi NYT-ja, najveći udio žena čije su slike zloupotrijebljene na X-u čine popularne glazbenice, glumice i “influencerice”, premda je bilo i mnogo “običnih” korisnica platforme. Mnoge su bile prikazane kao da su natopljene raznim tekućinama te kako sugestivno drže u ruci predmete poput banana i seksualnih igračaka.