Donald Trump nazvao ga je "gotovo ustavom", premda dokument koji su u ponedjeljak u Bijeloj kući potpisali šefovi šest najvažnijih američkih tehnoloških kompanija ima 308 riječi i stane na jednu A4 stranicu.
U njemu pritom nema nijedne kazne, nijednog roka niti tijela koje bi provjeravalo drži li se itko onoga što je potpisao. Umjesto toga, sporazum je "moralno obvezujući" - rekao je to upravo Trump, od svih ljudi na svijetu. Pravno, dakako, ne obvezuje nikoga od AI velikana ni na što.
Ako vam se stoga čini da su se najveće lisice u kvartu upravo dogovorile na koji će način odgovorno upravljati kokošinjcem - na dobrom ste tragu.
Službeni naziv dokumenta je "Sporazum Bijele kuće o superinteligenciji: zajednička obveza o odgovornostima na tehnološkoj granici" (neka vas ne zbunjuje termin superinteligencija, to je samo još jedna Trumpova propala ideja o promjeni nekog imena).
Potpisali su ga Dario Amodei (Anthropic), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI), Jensen Huang (Nvidia) i Greg Brockman, predsjednik OpenAI-ja, koji je potpisao umjesto direktora Sama Altmana. Na ručku su bili i Jeff Bezos i Alex Karp iz Palantira, ali oni, iz nekog razloga, dokument nisu potpisali.
Srž sporazuma čine četiri razine nadzora.
Prvo, kompanije uvode "robusne interne kontrole" kojima prate sposobnosti i ponašanje modela tijekom treniranja i korištenja, osobito kad je riječ o kibernetičkoj sigurnosti te biološkim i kemijskim prijetnjama.
Drugo, osnivaju interni tim koji pazi da te kontrole doista rade. Treće, surađuju s "neovisnim vanjskim revizorom". Četvrto, neovisni odbor u upravi prima izvješća i traži da se problemi poprave.
Predizborno naslikavanje
Ako vam sve to zvuči kao nešto što bi ozbiljna kompanija trebala imati i bez toga da američki predsjednik dobije "photo op" prije važnih izbora, u pravu ste. Banke, recimo, imaju interne kontrole, revizore i odbore za rizik već desetljećima.
Razlika je u tome što ih banke moraju imati jer to zahtijeva regulator, a ne zato što su obećale predsjedniku na ručku. A regulator ih je na to natjerao s dobrim razlogom, jer su, podsjetimo, u par navrata srušile svjetsku ekonomiju upravo zato što im je bilo dopušteno da se "samoreguliraju".
Uz to, potpisnici se obvezuju redovito sastajati i dogovarati standarde, a u tekstu stoji i rečenica da bi "s vremenom možda imalo smisla" sve to pretočiti u zakone.
Sporazum ne kaže ni tko su revizori, kompanije ih biraju same. Nigdje ne piše da rezultate revizije moraju objaviti ni da ih moraju poslušati. I to je otprilike kao da učenik izabere frenda iz razreda koji će mu pregledati test, a ocjenu ne mora pokazati roditeljima.
Posljedica za kršenje nema. Ako neka kompanija sutra prekine suradnju s revizorom, ne događa se ništa osim eventualnog lošeg publiciteta.
Tajming je također zanimljiv. Dan prije sastanka OpenAI je otkazao lansiranje modela GPT-6.1 Astra jer nije prošao interna sigurnosna testiranja. Model je, prema riječima šefice sigurnosnih sustava Saachi Jain, imao probleme s "poštivanjem granica zadatka i ovlasti". A to je samo najnoviji primjer da se kreatori AI modela boje pustiti ih u javnost.
Tjedan ranije 20 država i Europska unija predložili su na Općoj skupštini UN-a osnivanje međunarodnog tijela koje bi postavljalo i provodilo sigurnosne standarde za AI. SAD i Kina tu deklaraciju nisu potpisali, a Trump je poručio da će se suprotstaviti "svakom pokušaju konstruiranja globalističke sheme" kontrole umjetne inteligencije.
Sporazum je tako svojevrsni Trumpov odgovor na pitanje "tko nadzire AI": nadziru ga sami. "Postoji uvjerenje da treba postojati golema samoregulacija", rekao je predsjednik, dodavši da regulaciju "ionako automatski imamo" preko Ministarstva pravosuđa i FBI-ja.
Analitičari nisu impresionirani. "Koja još industrija vrijedna bilijune dolara sama sebi ispravlja zadaću?", upitao je Toby Walsh s Instituta za AI Sveučilišta Novog Južnog Walesa, kako prenosi Al Jazeera.
Vrijeme nam nije prijatelj
David Krueger sa Sveučilišta u Montrealu opisao je dokument kao nastavak administracijskog pristupa "reguliranja bez reguliranja". "Ne oduševljava me nešto što bi rizik moglo smanjiti za jedan posto", kazao je.
Na pitanje je li išta od ovoga obvezujuće odgovor je jednostavan: nije. Predsjednik Zastupničkog doma američkog Kongresa Mike Johnson izrijekom je rekao da je sporazum "dobrovoljan", a sam dokument priznaje da koraci "nisu kodificirani u zakone ni propise". Sve je ovo, dakle, samo još jedan primjer sigurnosnog teatra.
Trump je spomenuo mogućnost osnivanja "nekakvog odbora" od desetak ljudi i najavio da je "vrlo blizu" imenovanja novog "AI cara", no ni sastav ni ovlasti tog tijela nisu definirani (a valja podsjetiti da nam vrijeme ovdje nije prijatelj; AI napreduje puno brže nego što je itko očekivao).
Takve smo obveze već gledali. U srpnju 2023. sedam kompanija potpisalo je u Bidenovoj Bijeloj kući dobrovoljne sigurnosne obveze. Bilo je konferencija za medije i naslikavanja, ali nije bilo provedbe onoga što su potpisali. Trump je potom Bidenovu izvršnu uredbu o AI-ju ukinuo prvog dana drugog mandata.
Sporazum pritom obuhvaća isključivo američke kompanije. Kineski DeepSeek, Alibaba, Moonshot i svi ostali nisu dio priče, kao ni francuski Mistral.
S Kinom je Washington, doduše, nekoliko dana ranije dogovorio "Dijalog o superinteligenciji" i komunikacijski kanal za incidente, nakon susreta Trumpa i Xi Jinpinga 26. rujna. Sljedeći sastanak zakazan je za studeni. No, Trump je odmah isključio zajednički razvoj ili zajedničku regulaciju. "Radije se ne bih integrirao, jer jako vodimo", izjavio je.
Europa je na suprotnom kraju spektra. Zakon o umjetnoj inteligenciji (AI Act) od kolovoza 2025. od tvrtki koje razvijaju velike modele traži dokumentaciju, sigurnosna testiranja i prijavu incidenata. Od kolovoza ove godine Europska komisija može za kršenje izreći kazne do 15 milijuna eura ili tri posto globalnog godišnjeg prihoda, ovisno o tome što je više. Ured za AI može tražiti podatke, sam testirati modele i naložiti njihovo povlačenje s tržišta.
To znači da Googleovi, Metini ili OpenAI-jevi modeli u Europi i dalje moraju poštivati Bruxelles, bez obzira na to što su potpisali u Washingtonu. Za europske korisnike Trumpov sporazum u praksi ne mijenja gotovo ništa. Za europske kompanije ostaje stara gorčina: one i dalje rade pod daleko strožim pravilima od američke konkurencije, koja kod kuće mora reći samo "neću, majke mi".
Ukratko, šest ljudi koji upravljaju tehnologijom za koju i sami kažu da nosi egzistencijalne rizike za čitavo čovječanstvo dogovorilo se da će se ponašati odgovorno. A kada netko od njih prekrši dogovor - jer nije pitanje hoće li se to dogoditi, nego samo kada će se dogoditi - sudit će im jedino njihova vlastita savjest, takva kakva jest.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....