Luke Robinson: Što se događa kada nas umjetna inteligencija u vlasništvu tvrtki poznaje bolje od nas samih? Ta se moć može upotrijebiti protiv nas!

Mnogo je jednostavnih načina na koje AI može donijeti vrijednost ekonomiji, ljudskom zdravlju i blagostanju, ali već lažne vijesti i ciljano oglašavanje utječu na naš život i zaista moramo duboko razmisliti o tome što se događa kada nas tehnologija AI u vlasništvu tvrtki poznaje bolje nego što mi znamo sebe. Što se događa s našom neovisnošću, povjerenjem i društvenim sustavima, kada ljudi više nemaju sposobnost pravilno razlikovati što je stvarno, a što nije?

Google pretraga umanjila je pamćenje jednostavnih podataka. Što se događa kada ne moramo tražiti odgovore, kad nam odgovori i prijedlozi stignu, kada je sve prilagođeno nama, kada vojska algoritama pokušava sve brže zadovoljiti svaku našu potrebu? Kad sve bude personalizirano, što će nam biti zajedničko? Što gubimo ako odustanemo od kontrole? Kakav će biti utjecaj ovisnosti?

Srdjan Vrancic / CROPIX

Luke Robinson prilikom predavanja na konferenciji o umjetnoj inteligenciji AI2FUTURE

Poslovi su sve automatiziraniji. U kojoj će mjeri AI utjecati na tržište rada?

Tržište rada će biti korjenito promijenjeno i stavljat će veliki pritisak na obrazovne sustave i načine na koji obrazujemo ljude. Ljudi će se morati prekvalificirati, a vlade će morati financirati prekvalificiranje jer će doći do velikog problema nezaposlenosti. Jedan od sljedećih koraka je ljudska suradnja s AI-om koja podrazumijeva da ljudi podučavaju umjetnu inteligenciju ljudskim radnjama. Kad u gospodarstvu ljudske vještine budu prenesene na strojeve, ljudi više neće trebati raditi određene poslove. Vjerujem da će AI stvoriti ogroman broj novih prilika jer će se njime postići nova razina autonomije, ali to će istovremeno stvoriti razliku između ljudi koji će se opirati promjenama, koji će biti fleksibilniji i prilagoditi se, a mnogi će se i boriti. To će pogoršati jaz u godinama, u bogatstvu, vještinama, geografskoj pripadnosti itd. Osim pritiska na obrazovne i socijalne sustave pojačat će se diskriminaciju između bogatih i siromašnih.

Većina ljudi ima malo ili nimalo znanja o tome kako bi AI, blockchain, Internet stvari (IoT) ili genetski inženjering mogao utjecati na njihov život. Kolika je vjerojatnost da će ovi tehnološki trendovi i transformacija predstavljati egzistencijalne izazove čovječanstvu u sljedećim desetljećima?

Kad idete na godišnji odmor, često imate potrebu isključiti se od svega. Vjerojatno će postojati ljudi koji će moći odabrati život bez AI-a jer ne žele biti kontrolirani ili ovisni o tome. Nisam zabrinut zbog njih jer će imati pravo na izbor, no ljudi zbog kojih sam zabrinut su oni koji ne uspijevaju održati korak i koji se nalaze na rubovima svjetskog gospodarstva te se bore za prilagodbu i pronalaženje načina za ekonomski doprinos u gospodarstvu. Znamo da se svijet tehnološkog razvoja i znanosti kreće sve brže. Ljudi koji rade na ovim područjima moraju neprekidno učiti u svom poslu i naučeni su na to. Ne kažem da će svi morati postati programeri ili znanstvenici podataka, ali mnogi će ljudi morati naučiti nove vještine. Velik dio ovog novonastalog vala inovacija usmjerenih na AI pružit će korisnicima koji će moći raditi s AI i novom tehnologijom veći stupanj slobode. AI će osnažiti one koji će ju znati koristiti i koji će ju moći naučiti.

Ne smatram da će se uskoro stvoriti nova klasa, ali ove će sile vjerojatno djelovati na razlike između nas, i ako budemo nepažljivi, razdvojit će nas još više na one koji su povezani i koji mogu pratiti promjene i one koji to ne mogu. Najveći egzistencijalni rizik proizlazit će iz činjenice da će se kroz razdvajanje - kroz stvaranje razlika u našim prihodima, vještinama ili dobnim granicama – umanjiti povjerenje između nas i naših institucija. S time će se sposobnost čovječanstva da se suoči s egzistencijalnim rizicima poput klimatskih promjena ozbiljno umanjiti.

Srdjan Vrancic / CROPIX

Moć koju ove kompanije imaju nad nama i nad društvom čiji smo dio samo će se povećavati jer će alati o kojima ovisimo biti sve sofisticiraniji u kontroli naših života

Zašto je razina povjerenja u AI i nove tehnologije sve niža kod korisnika, unatoč činjenici da su mjere privatnosti sve veće?

Sve više i više ljudi počinje shvaćati koliko su neki oglasi na internetu ciljani na njih. Sve više ljudi je postalo svjesno da se sofisticiranost ovih oglasa vrlo brzo poboljšala, a s time su svjesni da tvrtke koje predstavljaju reklame znaju puno o nama. Vjerojatno znaju što nam sve sviđa ili ne bolje od naših prijatelja ili obitelji. Ljudi su postali svjesni da beskrupulozne tvrtke mogu upotrebljavati podatke protiv nas i mogu nas pokušati izmanipulirati. Svima nam je stalo do privatnosti, no ljudi sve više osjećaju da se prešla linija.

Očito je da su ljudi sve svjesniji, jer su curenje privatnosti i hakirani podaci sada velika vijest. Tvrtke su sada svjesne da curenje osobnih podataka njihovih klijenata može značajno utjecati na to koliko im klijenti vjeruju i to također utječe na cijene dionica kompanija. Tvrtke počinju shvaćati da je prikupljanje sve više podataka o svojim klijentima rizik i obveza. Tvrtke tek počinju shvaćati da moraju primijeniti načine kako smanjiti ovu odgovornost u odnosu na tehnologije za poboljšanje privatnosti poput različitih privatnosti i sintetičkih podataka koje razvija primjerice Hazy (ovo je jedna od naših tvrtki).

Složenost globalne ekonomije i uloge koju ljudi igraju u velikim tvrtkama znači da se mnogi ljudi često osjećaju daleko od onoga što bi prirodno osjećali, što stvara vrijednost za društvo. AI može učiniti da se ljudi osjećaju sve više i više otuđeni od onoga što rade i onoga do čega im je zaista stalo.

Koje su najvažnije mjere za uspostavljanje pouzdanosti između čovjeka i stroja?

Važno je pogurati prava na podatke i vratiti kontrolu ljudima. Otvoreni podaci i transparentnost je važna. Bolja povezanost čovjeka i stroja je također važna. Moramo educirati znanstvenike i inženjere strojnog učenja ne samo matematičim vještinama, već im osigurati i komunikacijske vještine. Edukacija o AI i etici bit će presudna. Trebat će se izmisliti nove tehnologije vizualizacije i objašnjenja. Neće to biti lako.

Kako izbjeći da se AI ne koristi u svrhe s negativnim posljedicama kao što su provjera ili prepoznavanje lica bez pristanka koja krše zakone o privatnosti?

Privatnost i povjerenje je vrlo važno. Ali to je često i kulturološki. S pozicije regulacije ne možemo uvijek znati hoće li utjecaj tehnologije biti dobar ili loš. Tehnologije se često koriste na načine koje je nemoguće predvidjeti. Ako tvrtke i akademici imaju jasne etičke politike koje su sposobne komunicirati i usmjeravaju njihov rad, to može pomoći jer su one na začelju inovacija, a regulatori po definiciji nisu. Kad je u pitanju regulacija, vlade moraju zaposliti ljude koji razumiju tehnologije prije nego što je reguliraju. Vlade moraju stvoriti okruženje gdje bi se nove tehnologije mogle brzo testirati ili proučiti prije no što se puste u širu uporabu. U protivnom će njihovo gospodarstvo biti u zaostatku.

Srdjan Vrancic / CROPIX

'EU bi trebala stvoriti okruženje gdje se AI može testirati u kontroliranom okruženju'

EU je poprilično napredna u postavljanju regulatornih procesa koja ponekad usporavaju inovacije. Što treba poboljšati na razini EU po pitanju regulacije?

Globalni gospodarski prinosi sada dolaze iz ekonomije inovacija, a znanost o podacima i AI tehnologija su na prvom mjestu. EU će zaostajati ako ne pronađe načine za rast i održavanje lokalnih ekosustava obrazovanja, istraživanja, poduzetništva i rizičnog kapitala. Kako bi upravljali rizikom, a ujedno iskoristili priliku da AI sektor predstavlja EU, trebalo bi uložiti u stvaranje plodnog tla i okruženja i prostora za izvođenje testiranja gdje su regulacije manje i gdje se modeli umjetne inteligencije i autonomni sustavi mogu eksperimentirati i usporediti. Stvaranje izoliranog okruženja i prostora za testiranje umjetne inteligencije, dostupnog istraživačima i startupima, ključno je za razumijevanje rizika i prilika. Ta određena mjesta – gradovi, medicinski centri, baze podataka, zračni prostor ili ceste – kojima treba upravljati oprezno su apsolutno nužni ako EU želi ostati konkurentna i razumjeti regulatorna pitanja.

Zatim, bit će bitno izgraditi međunarodno konkurentne AI tvrtke. Iz perspektive financiranja i inovacija, EU fondovi se ne bi trebali orijentirati samo na bespovratna sredstva koja bi trebala poduprijeti stvaranje malih investicijskih fondova za duboku tehnologiju u ranoj fazi usmjerenih već na iskusne poduzetnike. Europa treba izgraditi i uvježbati kvalificiranu klasu investicijskih poduzetnika. Inovacija je proces odozdo prema gore, EU prečesto pokušava koristiti bespovratna sredstva kako bi ih upravljala odozgo prema dolje. Bila ona dobra ili loša, ne možete znati rezultat inovacije. Sve tvrtke s rizičnim kapitalom znaju da trebate uložiti u mnoge pogreške kako biste pronašli savršenog 'jednoroga'.

Koji su rizici unaprjeđenja umjetne inteligencije?

Budući da AI postaje sve pametniji, mnogi će se novi poslovi stvoriti no mnogi se neće uspjeti održati i bit će zamijenjeni i ukinuti. Ovaj ekonomski šok, gubitak ili smanjena važnost, biti će najveći izazov za naše društvo. Naši sustavi obrazovanja i socijalne podrške nisu spremni za to. Kao primjer možemo navesti njemačku automobilsku industriju. Što će se dogoditi s njihovim gospodarstvom i socijalnim sustavima ako njihova automobilska industrija ne uspije na vrijeme reagirati na novi niz inovativnih automobilskih startupa kao što je Tesla. Ako ekonomije nisu dizajnirane da podrže sigurne inovacije i nose se s poremećajima, one će zaostajati.

Kako ljudi pružaju sve više privatnih podataka tvrtkama i postaju sve ovisniji o podršci tehnologijama koje upravljaju AI .... moć nad ljudima i skupinama vjerojatno će preuzeti tvrtke koje imaju najveći pristup ljudima i podacima. Znamo da se ta moć može upotrijebiti protiv nas, kao što je vidljivo u ciljanom oglašavanju i što se vidjelo u utjecaju Cambridge Analytice na demokratske procese u mnogim zemljama. Moć koju ove kompanije imaju nad nama i nad društvom čiji smo dio samo će se povećavati jer će alati o kojima ovisimo biti sve sofisticiraniji u poznavanju, pomoći, upravljanju i kontroli naših života.