Svake se minute na YouTubeu učita 500 sati videomaterijala, na Facebooku bude objavljeno 2,5 milijuna postova i na Twitteru nikne 450.000 novih tvitova. U samo 60 sekundi milijuni ljudi objave snimke i fotografije svoje djece, hrane, doma, prirode, mučenja, obrubljivanja glava, dječje pedofilije, terorističkih napada... Iako velik broj ljudi toga nije svjestan, na društvenim mrežama se iz sata u sat objavljuju neprimjereni sadržaji puni nasilja i mržnje.
No, oni nikada ne dođu do korisnika, i to zbog desetak tisuća Filipinaca koji svaki dan brišu neprimjerene sadržaje na društvenim mrežama. To su obični ljudi koji rade za prosječnu plaću kako bi prehranili svoju obitelj, ali koji u isto vrijeme imaju moć da odluče što će ostati na mreži, a što će biti trajno uklonjeno.
Njihov posao je tajan, no u dokumentarnom filmu “The Cleaners” (Čistači) prvi je put ispričana njihova priča. Dokumentarac su režirali Moritz Riesewieck i Hans Block, a prikazan je u četvrtak na Human Rights Film Festivalu. Film prati nekoliko moderatora koji rade za neimenovanu tvrtku, a donosi i ispovijesti bivših članova Googlea, Facebooka i drugih medija koji upozoravaju koliko zapravo sadržaji na društvenim mrežama mogu biti opasni.
- Svijet treba znati da smo ovdje. Da postoji netko tko pazi na socijalne mreže i tko želi te platforme učiniti sigurnima - kaže na početku filma jedan od moderatora.
Smrt Sadama Huseina
Njihov posao se u suštini sastoji od odobravanja i brisanja sadržaja. Ostavi, obriši, ostavi, ostavi, obriši, ostavi... za svaki sadržaj imaju otprilike 8 sekundi, a dnevna kvota im je barem 25.000 slika. Ima tu svega. Od pornografije i neprimjerenih karikatura političara do mučnih snimki silovanja i ubijanja.
- Najšokantnija stvar koju sam vidjela bio je video u kojem šestogodišnja djevojčica oralno zadovoljava muškarca. To i slika djevojčice u krevetu sa spermom po licu - priča jedna radnica.
Moderatori su podijeljeni u kategorije, odnosno po vrstama sadržaja. Jedan je za eksploataciju djece, drugi za sadržaj samoozljeđivanja, treći za snimke ubojstava. Jedan od moderatora je istaknuo da već po izgledu odrubljene glave može zaključiti je li tijekom egzekucije korištena oštra mačeta ili obični kuhinjski nož.
Lako je kada se radi o “crno-bijelom” sadržaju gdje je jasno da se mora ukloniti zbog svoje neprimjerenosti. Pitanje je što kada se pojavi karikatura američkog predsjednika Donalda Trumpa s malim penisom? Mlada američka umjetnica Illma Gore napravila je takav crtež koji se u roku od nekoliko dana podijelio više od 50 milijuna puta po društvenim mrežama. Za nju je to bila umjetnost, način izražavanja njenih misli, no za moderatore je to bio sadržaj koji ne smije biti na mreži.
- Prvo pravilo - nikada ne odobri golotinju - kaže moderatorica.
Isti problem predstavljaju i fotografije djece koja su preminula tijekom izbjegličkog vala. U filmu se jedan moderator našao pred odlukom da odobri ili ukloni fotografiju djeteta koje se utopilo tijekom prevrtanja broda s izbjeglicama. Prema njegovim riječima, fotografija pokazuje grafički uznemirujući sadržaj i zato mora biti uklonjena. Za Sirijca koji je fotografiju stavio ona je bila reprezentacija pravog stanja i horora s kojima se suočavaju ljudi iz Sirije.
- Sve je to stvar konteksta i percepcije. Za neke će zračni napad biti snimka terorizma, za druge će to pak biti vijest koja zaslužuje biti u medijima - kaže Nicole Wong, bivša urednica Googlea i Twittera. Ona je i sama iznijela dvojbu koju su imali s ubojstvom iračkog diktatora Sadama Huseina.
- Na Googleu se pojavila snimka vješanja i još jedna snimka mučenja njegova tijela nakon smrti. Odlučili smo ostaviti prvu snimku jer smo smatrali da se radi o povijesno važnom događaju koji treba ostati zabilježen, dok smo drugu snimku uklonili. Nemam pojma jesmo li donijeli dobru odluku. To će pokazati budućnost - kaže Wong.
Naime, sve tvrtke imaju i svoje interne ljude koji paze na sadržaj na njihovim mrežama, no tu se u pravilu radi o desetak ili stotinjak ljudi. Većinu posla obavljaju čistači, ali velike korporacije ih ne priznaju kao svoje radnike. Svi oni su zaposleni preko treće, outsourcing tvrtke koja ih zapošljava i isplaćuje im plaće. Ako se pitate zašto ih ne žele priznati, samo razmislite o činjenici da o sadržajima o mogućim terorističkim napadima i nacionalnoj sigurnosti zemalja odlučuju obični ljudi s prosječnom filipinskom plaćom.
Koliko su sadržaji na društvenim mrežama ozbiljni, pokazuje i slučaj iz 2017. godine kada su se tehnološki divovi Google, Facebook i Twitter našli pred američkim kongresom zbog moguće umiješanosti Rusije u američke nacionalne izbore 2016. godine. Tijekom tog saslušanja senatori su ispitali čelne ljude tih organizacija o mogućim opasnostima koje nose njihove platforme, od ugroze nacionalne sigurnosti, do širenja mržnje i lažnih vijesti. Jedna od točka rasprava bila je i umiješanost država u rad društvenih mreža na njihovu tlu.
Algoritmi bez politike
- Postoji algoritam koji omogućuje da se blokira IP adresa korisnika koji dijele sadržaj koji neka zemlja smatra neprimjerenim. No, to nema nikakve veze s politikom - rekao je Colin Stretch, tadašnji dopredsjednik Facebooka.
To se najviše odnosi na Tursku, zemlju u kojoj je predsjednik Erdoğan u jednom trenutku uveo zabranu korištenja društvenih mreža. Ali to je tek kap u moru. Tu je i slučaj filipinskog predsjednika Rodriga Dutertea koji je putem društvenih medija pozvao na ubijanje ovisnika o drogi, kao i gorući problem u Mjanmaru gdje se preko Facebooka otvoreno potiče na ubijanje pripadnika etničke skupine Rohindža.
- Problem je što danas svatko ima pravo na svoju vlastitu realnost. Facebook ti zapravo daje mogućnost da vidiš samo ono što želiš i u isto vrijeme isključiš ono što ti smeta - kaže Antonio Garcia Martinez, bivši urednik sadržaja Facebooka.
U tom trenutku sva odgovornost pada na obične ljude s Filipina koji moraju odlučiti hoće li ukloniti ili ostaviti sadržaj. Ako slučajno pogriješe u svojoj odluci, ugrozit će živote tisuće ljudi ili pak prouzročiti rat između dviju nacija. Samo je jedan klik dovoljan da spase nekoga. Ili ga unište. Iznad svakoga od njih se zbog toga stalno nadvija jedno pitanje - zašto to radim?
- Kažem si da je to zato da se drugi osjećaju sigurno u svom životu, ali to nije tako. Moramo prihvatiti da stvari nisu u redu. Trebamo se probuditi u realnosti - kaže jedna od moderatorica. Zbog pritiska jedni daju otkaz, no znaju da više nisu iste osobe zbog stvari koje su vidjeli. Neki si i oduzmu život kako ne bi morali više nikada o tome razmišljati.