Klub zastupnika Zelenih/Europski slobodni savez u Europskom parlamentu predstavio je izvješće o korištenju masovnog biometrijskog nadzora diljem Europske unije.
Izvješće rasvjetljava kako su prakse biometrijskog nadzora koje krše privatnost već uvede u europske gradove i daje preporuke za regulaciju biometrijskih tehnologija i tehnologija za prepoznavanje ponašanja.
Prezentaciju su vodili zastupnici u Europskom parlamentu, izvjestitelj u sjeni Zelenih/EFA o izvješću o umjetnoj inteligenciji u kaznenom pravu Patrick Breyer i članica odbora za građanske slobode, pravosuđe i unutarnje poslove Saskia Bricmont.
Klub zastupnika Zelenih/EFA aktivno radi na zabrani korištenja sustava prepoznavanja lica i biometrijskog nadzora, a prije dva tjedna većina zastupnika u Europskom parlamentu je glasala za zabranu masovnog biometrijskog nadzora.
"To je uistinu povijesna pobjeda. Umjetna inteligencija je tehnologija koja može imati strašan utjecaj na naš svakodnevni život. Algoritmi koji su ugrađeni u ove tehnologije su diskriminatorni, seksistički, rasistički i pojačavaju društvene nejednakosti. Sustavi za prepoznavanje lica su izuzetno problematični i često krivo identificiraju nebijele žene, kao i transrodne i nebinarne osobe. Mnoga druga fundamentalna prava su također ugrožena ovom tehnologija, poput prava na privatnost, pravo na učinkovit pravni lijek i zaštitu podataka", upozorila je Bricmont.
Zeleni također upozoravaju kako trenutačni europski zakoni ne uspijevaju učinkovito zabraniti biometrijski nadzor te da su određene države već počele širiti svoje nadzorne infrastrukture kako bi mogle tajno prikupljati osobne podatke svojih građana.
"Takvi eksperimenti djeluju izvan pravog okvira i umnožavaju se diljem EU. Imperativ je stvaranje sustavne vizije i mapiranje razvoja tehnologija koje se koriste za masovni biometrijski nadzor. Potreba za zabranom sustava za prepoznavanje lica je hitno pitanje", dodala je Bricmont.
Studija "Biometrijski i bihevioralni masovni nadzor u državama članicama EU" je prvi sistemski pregled mapiranja onoga što se trenutačno događa u EU u vezi masovnog biometrijskog nadzora.
"Kada smo počeli analizirati projekt u cjelini, shvatili smo da već postoje veliki broj institucija koje su uključeni u razvoj sustava za prepoznavanje lica, sustava za prepoznavanje zvuka i upravljanja gomilom. Otkrili smo da postoji dihotomija oko organizacijskih narativa", objasnio je istraživač i jedan od autora izvješća Francesco Ragazzi.
Otkriveno je da, s jedne strane, postoji skup pilot-projekata koji su uveli tehnologiju i potom zaustavljeni kad se otkrilo da ono što su uveli nije u skladu s trenutačnom legislativom.
Ti su projekti otkrili narativ koji pokazuje da su algoritmi zastrašujući, ali barem baze podataka nisu toliko velike pa ne postoji razloga za brigu.
Druga važna dimenzija o kojoj nitko ne razmišlja ili je uopće nije ni svjesna, pokazuje izvješće, je da se sustavi za prepoznavanje lica već koriste u jedanaest država članica kada je u pitanju sudska istraga. Očekuje se da će još nekoliko zemalja steći takve sposobnosti u bliskoj budućnosti.
Države koje već koriste sustav prepoznavanja lica u bazama biometrijskih podataka su Austrija, Finska, Francuska, Njemačka, Grčka, Mađarska, Italija, Latvija, Litva, Nizozemska i Slovenija. Zemlje za koje se očekuje da će uskoro steći te sposobnosti su Hrvatska, Češka, Portugal, Rumunjska, Španjolska, Švedska, Cipar i Estonija.
Radi se o tzv. forenzičkom korištenju biometrijskih tehnologija, uključujući prepoznavanje lica, prepoznavanje DNA i otisaka prstiju. Kako bi se ispitale baze podataka s biometrijskim podacima, sve ove zemlje i agencije za provedbu zakona morale su se prilagoditi kako bi napravile baze podataka koje bi mogle biti ispitane od strane takvih algoritama.
Na primjer, povezali su veliki broj fotografija u kriminalističkim nacionalnim skupovima podataka ili registar vozačkih dozvola s algoritmom koji ih može ispitivati.
"Ovakvi sustavi podataka zahtijevaju dosta posla i ulaganja. Trenutno imamo situaciju da jedina stvar koja sprječava postojanje velikih sustava biometrijskog nadzora mase je zakonodavna zaštita koja zabranjuje većinu ovih implementacija. U našem izvješću pokazali smo da je zabrana biometrijskog nadzora uistinu važna kako bi se zaustavili rizici koje predstavljaju ove tehnologije i njihov razvoj", dodao je Ragazzi.
Autori studije također su napravili interaktivnu kartu o trenutnim praksama biometrijskog masovnog nadzora u Europskoj uniji.
Istraživač etike tehnologije u Istraživačkom centru za informacije, pravo i društvo Sveučilišta u Namuru Jérémy Grosman imao je priliku u kontekstu europskih i belgijskih istraživačkih projekata surađivati s inženjerima koji razvijaju automatizirane tehnologije analize slika kako bi dokumentirao neke od njihovih društvenih i etičkih stavova.
Ono što je otkrio je da postoje dva stava 'za' i 'protiv' razvoja tehnologija masovnog biometrijskog nadzora.
Argumenti 'za' su da, iako ne smanjuje kriminal, CCTV kamere i CCTV kamere s prepoznavanjem lica olakšavaju policijski posao i mogle bi potencijalno poboljšati sigurnost u budućnosti.
Što se tiče argumenata protiv uvođenja eksperimentalnih novih tehnologija, činjenica je da je do sada provedeno vrlo malo studija o učinku CCTV kamera te da onih nekoliko koje su provedene pokazuje da je učinak CCTV na smanjenje kriminala iznimno ograničen.
"Činjenica je također da je sigurnost u suštini neograničena i uvijek postoji mogućnost da se situacija učini više sigurnom. Osim toga, ono što narativ 'sigurnost na prvom mjestu' propušta vidjeti je da građani ne trebaju biti zaštićeni samo od privatnih osoba, nego i od javnih institucija. Jasno je da postoji asimetrija između moći koju ima demokratska država i moć njezinih građana. Upravo o tome trebamo razmišljati kada razmišljamo o postavljanju granica jer sustavi za prepoznavanja lica povećavaju tu asimetriju", objasnio je Grosman.
Protiv uvođenja tehnologija za masovni biometrijski nadzor građana u EU zalaže se i njemačka organizacija “Digitale Freiheit”.
Charlotte iz “Digitale Freiheit” objasnila je da se radi o inicijativi za zaštitu podataka i informacijom samoodređenju, a koja političkim akcijama kritički propituje masovni nadzor građana.
"Između 2017. i 2019. inicijativa je pokrenula prosvjede i podigla svijest protiv eksperimentalne uporabe tehnologije prepoznavanja lica na željezničkoj stanici Berlin Südkreuz. Direktno smo se angažirali i skrenuli javnosti pažnju na ovaj problem", kazala je Charlotte, "Ministarstvo unutarnjih poslova tvrdilo je da je projekt povećao sigurnost na kolodvoru, međutim izvješće je kasnilo s objavom i na kraju ga je berlinski nadzornik zaštite podataka iznimno kritizirao".
