Nakon što je grupa od oko 3000 znanstvenika, eksperata raznih profila, poslovnih lidera i dr. potpisala i objavila otvoreno javno pismo Pause Giant AI Experiments u kojem traže zaustavljanje istraživanja na polju artificijelne inteligencije na šest mjeseci zbog, navodno, silnih ugroza koje njezin prebrzi razvoj donosi čovječanstvu, otvorila se široka fronta javnih polemika za i protiv usporavanja razvoja.
S obzirom na to da je lista potpisnika pobornika strože kontrole razvoja umjetne inteligencije vrlo široka, otvorilo se i pitanje kakvi su rizici zabrane razvoja.
Nakon što je javno postavljeno pitanje je li moguć scenarij u kojem Kina jednostavno neće pristati na zaustavljanju istraživačke utrke u unapređivanju AI rješenja, u trenu je postalo jasno kako si samo zbog te činjenice Sjedinjene Države i druge zapadne liberalne demokracije neće dopustiti zaostajanje u razvoju tehnologije koja će sasvim sigurno strelovito transformirati globalno tržište rada, biznise i svakodnevni život, ali i nacionalne sustave obrane. Ukratko, samo zbog toga što je nemoguće postići globalni konsenzus o razvoju AI-a, u startu je jasno kako će otvoreno javno pismo široke grupe uglednika ostati samo dobra podloga za intrigantne filozofske rasprave.
Uz to, sasvim je sigurno da će se otvoriti pitanje koje bi sve napredne tehnologije zbog prebrzog razvoja trebali usporiti te zbog čega. Primjerice, jedan od potpisnika otvorenog javnog pisma Pause Giant AI Experiments jedan je od najmoćnijih, najbogatijih i najutjecajnijih poduzetnika današnjice, Elon Musk.
Mnogi će reći kako je sarkastično da se upravo on zalaže za usporavanje razvoja umjetne inteligencije, iako njegova kompanija Neuralnik, koja razvija implante za mozak, upravo traži partnere za klinička istraživanja na ljudima. Muskov Neurolink, naravno, istraživanja opravdava jako humanim ciljevima, kao što je pomoć slijepima ili paraliziranima, ali u osnovi kompanija od 2016. razvija specifične implantate - Brain Compute Interface (BCI) uređaje koji elektrodama penetriraju u mozak kako bi osigurali direktnu komunikaciju računala s određenim moždanim područjima. Čini li vam se to manje uzbudljivo i nepredvidljivo od AI-rješenja? To je vrlo relevantno pitanje jer Musk najavljuje da će njegovi implantati postati uobičajeni kao laserske operacije oka.
Muskov Neuralink razvija implantate od 2016. godine, a Reuters je početkom ovog mjeseca izvijestio kako je američki FDA (Food and Drug Adminstration) odbio njihovu prijavu za klinička istraživanja na ljudima. Pa ipak, menadžeri Neuralinka pregovaraju s vrhunskim Barrow Neurological Instituteom iz Arizone, institucijom s bogatim iskustvom na polju moždanih implantata, ali uopće ne onakvih kakve razvija Neurolink. Odlučnost vodstva Neurolinka da razvije funkcionalni možda implantat nije usporena niti nakon što je američki Department of Agriculture poslao inspekciju nakon prijave bivših zaposlenika o smrtima i patnjama određenog broja životinja dok su zajedno s University of California testirali svoje implantate. Boji li se Musk da bi uz njegove implantate i unaprijeđenu umjetnu inteligenciju svijet mogao postati mjesto s kojima će moći upravljati samo jedna osoba ili računalo, a to neće biti Elon Musk?
Elon Musk kao potpisnik peticije za usporavanje razvoja umjetne inteligencije vrlo je zanimljiv slučaj. Naime, planet je trenutačno suočen sa situacijom da je Muskov SpaceX sa svojim satelitima praktično postao monopolist svemira koji okružuje Zemlju, njegov Starlink bio je nezamjenjiv na ukrajinskim bojišnicama, Tesla je uz obilatu pomoć državnih subvencija postala kompanija koja je možda već predodredila globalnu budućnost transporta, iako čisti električni pogon možda niti nije najučinkovitije niti najčišće rješenje dugoročno gledano. Je li ikada trebalo raspravljati o usporavanju Tesle, SpaceX-a, Starlinka ili Neurolinka? Musk je, pretpostavljamo, uvjeren kako je u tim slučajevima rasprava izlišna.
Ako izostavimo Elona Muska, uvijek gladnog dokazivanja u javnom prostoru, činjenica je da su peticiju o opasnostima umjetne inteligencije potpisali mnogi koji nama ostalima, prosječnim građanima, mogu davati poduke na tu temu. Primjerice, potpisnici su i Yoshua Bengio, osnivač i znanstveni direktor Mila, dobitnik Turingove nagrade i profesor na Sveučilištu u Montrealu, pa i jedan Stuart Russell, Berkeley, profesor računarstva, direktor Centra za inteligentne sustave i koautor standardnog udžbenika "Umjetna inteligencija: moderan pristup".
Potpisnici peticije, između ostalog, tvrde:
„Suvremeni AI sustavi sada postaju konkurentni ljudima u općim zadacima i moramo se zapitati: Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinama? Trebamo li automatizirati sve poslove, uključujući i one koji ispunjavaju? Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti? Trebamo li riskirati gubitak kontrole nad našom civilizacijom? Takve se odluke ne smiju prenijeti na neizabrane tehnološke vođe. Snažne sustave umjetne inteligencije treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati. Ovo povjerenje mora biti dobro opravdano i povećavati se s veličinom potencijalnih učinaka sustava. Nedavna izjava OpenAI-ja u vezi s umjetnom općom inteligencijom, navodi da ‘U nekom trenutku može biti važno dobiti neovisnu reviziju prije nego što započnete s obukom budućih sustava, a za najnaprednije napore pristati na ograničenje stope rasta računala koje se koristi za stvaranje novih modeli‘. Slažemo se. Ta točka je sada. Stoga pozivamo sve laboratorije za umjetnu inteligenciju da odmah zaustave barem 6 mjeseci obuke AI sustava moćnijih od GPT-4. Ta bi pauza trebala biti javna i provjerljiva te uključivati sve ključne aktere. Ako se takva pauza ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij.“
Broj istomišljenika potpisnika peticije proširio se i u medijima. Peggy Noonan u Wall Street Journalu piše:
„Cijela stvar je gotovo u potpunosti neregulirana jer nitko ne zna kako to regulirati, pa čak ni što točno treba regulirati. Njegova (njezina) složenost pobjeđuje kontrolu. Njegovi vlastiti kreatori u određenom trenutku ne razumiju točno kako AI radi to što radi. Ljudi citiraju Arthura C. Clarkea: ‘Svaka dovoljno napredna tehnologija ne može se razlikovati od magije.‘
Prijelomni trenutak u tjeskobi AI-a (koji je nadahnuo kreatore AI-a na dugotrajno negodovanje) bila je kolumna Kevina Roosea prije šest tjedana u New York Timesu.
Kolumna nas je postavila na područje djela Stanleya Kubricka, "2001: Odiseja u svemiru". ‘Molim te, otvori vrata odjeljka za kapsule, Hal.‘ ‘Žao mi je, Dave, bojim se da to ne mogu učiniti. . . . Znam da ste ti i Frank planirali prekinuti vezu.‘
Meta je, na primjer, velika za AI. Meta, prethodno Facebook, godinama je optuživana za tajno prikupljanje i zlouporabu korisničkih podataka, zadiranje u privatnost korisnika, monopolističko poslovanje. To su ljudi koji će stvoriti moralne i etičke ograde za AI? Stavljamo budućnost čovječanstva u ruke… Mark Zuckerberg?
AI će biti benigna ili zloćudna kao i njeni kreatori. Samo to bi trebalo izazvati strah – ‘Od krivog drveta čovječanstva nikad nije napravljena ravna stvar‘ - ali posebno to krivo drvo.
Naravno da bi razvoj umjetne inteligencije trebao biti pauziran, naravno da bi trebao postojati moratorij, ali šest mjeseci neće biti dovoljno. Pauzirajte nekoliko godina. Pozovite svjetsko savjetovanje, uključite sve. Dovraga, održite Svjetski kongres.
Ali usporite ovu stvar. Igramo se s najvrućom stvari od otkrića vatre.“
Nakon svih ovih pametnih riječi ponovimo pitanje iz prvog pasusa: Hoće li Kina zaustaviti utrku u razvoju umjetne inteligencije? I tko zaustavlja Elona Muska u bilo čemu?