Po prvi puta i to nakon intenzivnog pritiska javnosti, Facebook je objavio svoje interne podatke o količini i prirodi nasilnog sadržaja koji moderatori uklanjaju s te društvene mreže, piše BBC.
Podaci su zastrašujući: količina nasilnog sadržaja dramatično se povećala, a govor mržnje uspijeva se probiti kroz pukotine u sistemu. No ipak, čini se da se smanjuje količina terorističke propagande.
U izvještaju nedostaju ključne informacije poput podatka koliko često Facebook neki sadržaj ukloni greškom, a ostavi neki koji je trebalo obrisati.
Također, izvještaj ne govori ništa o sveukupnoj količini nasilnog sadržaja koji je objavljen na toj mreži i to iz jednog vrlo prozaičnog razloga: Facebook to jednostavno ne zna. Umjesto toga, nudi tek procjenu baziranu na analizi nasumično odabranih objava.
'Postoje razni sitni problemi vezani uz način na koji se broje stvari', kaže produkt menadžer Facebooka, Guy Rosen. 'Što više učimo i postajemo bolji, tako se popravlja i naša metodologija. Bit ćemo vrlo otvoreni o svim promjenama i onome što radimo.'
Porast nasilja
Objavljeni podaci odnose se na tromjesečna razdoblja zadnjeg dijela 2017. i prvog dijela 2018. godine. Facebook je sadržaj podijelio u nekoliko kategorija: grafičko nasilja, golotinja odraslih i seksualni sadržaj, spam, govor mržnje, lažni računi. Kompanija procjenjuje da je tri do četiri posto svih profila lažno te kaže da su između siječnja i ožujka ove godine izbrisali 583 milijuna lažnih računa.
Brojke pokazuju značajan porast grafičkog nasilja – čak 183 posto. Kažu da je tome tako radi nove tehnologije detekcije koju koriste, kao i zbog eskalacije rata u Siriji upravo u tom razdoblju. Tad je uklonjeno 3,4 milijuna objava od čega je 86 posto detektirano Facebookovim automatiziranim sistemom. Taj sistem igra vrlo veliku ulogu u detektiranju seksualnog sadržaja, spama i terorizma.
Između siječnja i ožujka 2018. uklonjeno je 1,9 objava ekstremističkog sadržaja. Facebook kaže kako je primijetio čak 99,5 posto takvih objava prije nego su se uspjele proširiti mrežom. Potonje će naročito razveseliti američku i britansku vladu koje su pozvale Facebook da spriječi širenje propagande terorističkih grupa poput Islamske države.
'Poduzimaju doista prave korake kako bi jasno definirali što spada, a što ne spada u slobodu govora, no pred njima je još velik posao', kaže Brandie Nonnecke s Instituta za tehnološka istraživanja i društvena pitanja na Sveučilištu Berkeley u Kaliforniji.
Govor mržnje
Složenost posla naročito dolazi do izražaja kad je pitanju govor mržnje, kategorije koju je mnogo teže detektirati automatskim sistemima. Od 2,5 milijuna objava označenih kao govor mržnje, Facebookov automatski sistem detektirao je tek 38 posto, dok su za ostatak zaslužni moderatori.
No čak i kad neka objava stigne do ruku živog moderatora, nije lako odrediti što treba obrisati a što ostaviti pa i sama kompanija priznaje da je tu bilo dosta zabuna.
'Postoje nijanse koje tehnologija još ne može razaznati, pa se tu i dalje oslanjamo na žive moderatore koji donose konačnu odluku o statusu nekog sadržaja', kaže Alex Schultz, šef odjela za analizu podataka.
Kako bi to potkrijapio, Schultz je rekao da izrazi za gej osobe koje se koriste u sklopu homofobnog napada znače nešto pogrdno, no imaju posve drugo značenje kad ih koriste same gej osobe u međusobnoj komunikaciji. Iz tog bi razloga bilo pogrešno jednostavno obrisati sve objave koje sadrže tu konkretnu riječ.
'No kako pregledom profila znati da je netko gej? Što se mene tiče, ja s tim nemam problema i jasno sam svima dao do znanja da sam gej. No to ne vrijedi za sve i zato je to vrlo složen problem.'
Isprobavanje uzoraka
U nastojanju da otkriju što su možda propustili, ekipa iz Facebooka provela je nasumično uzorkovanje. Uzeli su 10.000 objava i prebrojali koliko se često događalo kršenje pravila o govoru mržnje i nasilnom sadržaju. Rezultati su bili zabrinjavajući.
27 postova od njih 10.000 sadržavalo je neki oblik grafičkog nasilja. Uzme li se u obzir da Facebook ima milijardu i pol korisnika, to bi značilo na desetke milijuna nasilnih objava svakoga dana koje prolaze neopaženo. Istom je tehnikom procijenjeno da devet od 10.000 objava sadrži golotinju ili seksualni sadržaj. Količina sadržaja vezanog uz terorizam bila je premala da bi se uzorkovala na ovaj način, a što se tiče govora mržnje Schultz kaže kako im nedostaje pouzdanih podataka za takvu procjenu.
'Trenutno ne možemo izmjeriti koliko je govor mržnje prisutan u objavama jer naprosto nismo naše zaposlenike zamolili da provjere sve objave i odluče je li nešto govor mržnje ili nije. To je jako teško provesti i u tom procesu radimo greške koje ispravljamo u hodu', kaže Schultz.
Privilegirana lista
No Dottie Lux, organizatorica evenata iz San Francisca koja upozorava na neuspjeh Facebooka da spriječi napade na manjinske grupe ljudi, kaže kako to što je nešto teško izvesti, nije isprika.
'Nemam više razumijevanja za isprike tipa 'Pa to je teško!' jer takve stvari nisu novost. Našli su vremena pustiti u promet aplikaciju za pronalaženje partnera i našli su vremena nakačiti je na moj bankovni račun, no ne nalaze vremena shvatiti tko su njihovi korisnici.'
Lux, koja se predstavila kao gej židovka s gej židovskim pogledom na stvari, kaže kako je oslanjanje na same korisnike da prijave govor mržnje u samom startu pogrešno jer otvara mogućnost zloporabe i ušutkavanja drugih mišljenja.
'Ljudima sa zlim namjerama dajete mogućnost da se ponašaju zločesto.'
Vojska moderatora
Facebook ima više od 17.000 moderatora no kompanija je zasad vrlo malo rekla o tome tko su oni. Kazali su da su pokušali učiniti sve kako bi se incidentima u koje su uključeni američki državljani bavili moderatori iz SAD-a, a incidentima u koje su uključeni državljani neke druge zemlje, moderatori iz te zemlje. No unatoč tome, Lux misli kako bi Facebook trebao biti puno otvoreniji vezano uz rad moderatora.
'Ako upošljavaju ljude koji ne postoje u određenim društvenim krugovima i različitim kulturama, to neće biti učinkovito.'