Stanislav Petrov sam je spriječio nuklearnu apokalipsu. Sada idemo prema scenariju u kojem će ljudi biti posve nemoćni

Snažno širenje sustava umjetne inteligencije smanjuje nuklearnu stabilnost svijeta, upozorava u posljednjem broju Foreign Affairs.

Časopis za međunarodnu politiku i trendove podsjeća na slučaj iz 1983. godine kad je zahvaljujući razboritom postupanju jednog sovjetskog službenika, Stanislava Petrova, izbjegnuta mogućnost da SSSR ispali nuklearnu bombu na Sjedinjene Države. Naime, sovjetski sustav ranog upozorenja pogrešno se aktivirao, ali Petrov je, srećom, utvrdio da je riječ o lažnoj uzbuni.

No, danas su takve odluke sve više pod kontrolom umjetne inteligencije i to zabrinjava stručnjake. O čemu je riječ?

Ljudi, a ne strojevi

U središtu pozornosti analize Foreign Affairsa sustavi su zaduženi da spriječe mogućnost da neka zemlja, koja posjeduje nuklearno oružje, pogreškom rasporedi kapacitete za masovno uništenje. Na prvu, zvuči kao prizivanje sudnjeg dana, no s obzirom na to da je danas opasnost od nuklearnog rata veća nego što je bila desetljećima, FA smatra da je važnije nego ikad osigurati da ljudi, a ne strojevi prosuđuju postupke, namjere i ciljeve protivnika.

Prema autorima FA, postoji opasnost da neke od nuklearnih zemalja prenese odluku o upotrebi nuklearnog oružja na strojeve. Sjedinjene Američke Države već su prije uvele zaštitne mjere kako bi osigurale da isključivo ljudi donose krajnje odluke o pokretanju napada. O tome su se složili i bivši američki predsjednik Joe Biden i kineski lider Xi Jinping u zajedničkim razgovorima.

Međutim, Foreign Affairs upozorava da aktualna američka administracija na čelu s Donaldom Trumpova agresivno gura korištenje umjetne inteligencije u sektoru nacionalne sigurnosti. To izaziva zabrinutost dijela stručnjaka, a FA upozorava da umjetna inteligencija još često pokazuje nedostatke u previđanju ili razumijevanju činjenica te da, sve dok se to ne promijeni, odluke moraju ostati u rukama ljudi.

Naime, umjetna inteligencija olakšava stvaranje i širenje tzv. deepfake materijala - lažnih, ali uvjerljivih videozapisa, slika i audiozapisa - koji se koriste za generiranje lažnih informacija o ljudima ili događajima. Tehnike postaju sve sofisticiranije.

Jedan od primjera je deepfake Volodimira Zelenskog koji se proširio nakon ruskog napada na Ukrajinu 2022., a koji je prikazivao ukrajinskog predsjednika kako poziva sugrađane da polože oružje. Godinu dana poslije jedan deepfake prikazivao je Vladimira Putina i proglašenje potpune mobilizacije u Rusiji. U ekstremnom scenariju, protivnička bi strana mogla iskoristiti sofisticirane uratke AI-ja kako bi uz lažne pretpostavke navela drugu stranu na radikalni potez.

Ugrađivanje AI-a

Ipak, američka administracija zasad grabi velikim koracima naprijed kad je riječ o ugrađivanju umjetne inteligencije u infrastrukturu nacionalne sigurnosti. FA podsjeća da je u srpnju administracija objavila akcijski plan kojim se poziva na "agresivno" korištenje umjetne inteligencije u Pentagonu. U prosincu je Ministarstvo predstavilo GenAI.mil, platformu s alatima umjetne inteligencije za zaposlenike.

Obrambeni sektor raste, ali stručnjaka nema dovoljno: Njemačka ih uzima iz autoindustrije, UK-u ih nedostaje 10.000

Foreign Affairs tu veliku opasnost vidi i u samom američkom predsjedniku koji je "dosadašnjim ponašanjem pokazao da često ne razlikuje stvarne vijesti od lažnih", a još se manje ustručava širiti ih ako mu tako odgovara.

FA piše o tome koliko je vremena potrebno da stvari odu putem bez povratka. Prema američkom zakonu, predsjednik se ne mora ni s kim savjetovati kako bi naredio upotrebu nuklearnog oružja za uzvratni napad ili prvi udar. Američki vojni dužnosnici spremni su rasporediti zrakoplove, podmornice i projektile koji mogu nositi nuklearne bojeve glave. Američki interkontinentalni balistički projektil može dosegnuti svoj cilj unutar pola sata, a nakon što se takav projektil lansira, nitko ga ne može povući.

I američke i ruske nuklearne snage imaju mogućnost automatskog lansiranja u slučaju da u sustav stigne upozorenje, što znači da se mogu rasporediti čim se otkriju neprijateljski projektili koji se kreću prema njima, tumači FA. To šefu države ostavlja samo nekoliko minuta za procjenu o tome je li počeo protivnički nuklearni napad. Prema trenutačnoj američkoj politici, predsjednik ima mogućnost odgoditi odluku dok protivničko nuklearno oružje ne udari u Sjedinjene Države. Ako američki sustav ranog upozorenja otkrije prijetnju, američki dužnosnici pokušat će provjeriti napad koristeći i klasificirane i neklasificirane izvore.

Kako odlučiti?

Mogu pogledati satelitske podatke o aktivnostima u poznatim vojnim objektima, pratiti izjave stranih čelnika te provjeriti društvene mreže i strane izvore vijesti za kontekst i izvještaje s terena. Vojni časnici, državni službenici i politički dužnosnici tada moraju odlučiti koje će informacije komunicirati uzlaznim putem i kako će ih prezentirati.

Dezinformacije potaknute umjetnom inteligencijom mogle bi potaknuti tzv. kaskadne krize, upozorava FA. Korištenje sustava umjetne inteligencije za tumačenje podataka ranog upozorenja može najaviti napad koji nije stvaran. To bi američke dužnosnike dovelo u poziciju sličnu onoj u kojoj se našao Rus Petrov 1983. godine. Unutarnja logika sustava umjetne inteligencije nije transparentna pa ljudi često ne znaju zašto je AI došao do određenog zaključka. Istraživanja pokazuju da ljudi s prosječnom razinom poznavanja umjetne inteligencije imaju tendenciju prikloniti se odlukama stroja.

Ovogodišnji Davos u sjeni uzdrmanog svjetskog poretka

Bez opsežne obuke, alata i operativnih procesa koji uzimaju u obzir slabosti umjetne inteligencije savjetnici donositelja odluka u Bijeloj kući mogli bi automatski pretpostaviti, ili barem razmotriti, mogućnost da je sadržaj generiran s pomoću umjetne inteligencije točan. Deepfake u tom kontekstu predstavlja još veću prijetnju.

Velika opasnost

Umjetna inteligencija, čije korištenje Trumpova administracija snažno gura, pokazala se korisnom u povećanju učinkovitosti dijelova vojne infrastrukture. Primjerice, strojno učenje olakšava planiranje održavanja razarača mornarice. Tehnologija umjetne inteligencije ugrađena u autonomno oružje poput dronova može vojnicima omogućiti da se drže podalje od prvih crta bojišnice. Alati umjetne inteligencije za prevođenje pomažu obavještajnim časnicima u analizi podataka o stranim zemljama.

Zahvaljujući razboritosti sovjetskog službenika Stanislava Petrova izbjegnut je nuklearni napad SSSR-a na SAD

Mark Mcdonald/Zuma Press/Profimedia

No, ne smije se zaboraviti na opasnost od prevelikog oslanjanja na AI. Foreign Affairs podsjeća da se obavještajne agencije moraju poboljšati u praćenju porijekla informacija dobivenih umjetnom inteligencijom te da je potrebno standardizirati način na koji prenose podatke kreatorima politika kada se podaci proširuju ili sintetiziraju. Stručnjaci i tehnolozi trebali bi nastaviti s radom na pronalaženju načina za označavanje i usporavanje lažnih informacija, slika i videozapisa koji se šire društvenim mrežama.

"Umjetna inteligencija već ima potencijal prevariti ključne donositelje odluka i članove nuklearnog lanca zapovijedanja da vide napad kojeg nema. U prošlosti su samo autentični dijalog i diplomacija sprečavali nesporazume među državama s nuklearnim oružjem. Politike i prakse trebale bi štititi od štetnih informacijskih rizika koji bi u konačnici mogli dovesti do sudnjeg dana", zaključuju autori FA.