Obavještajno izvješće koje se ovog proljeća, u jeku vojnih napetosti i rata s Iranom, velikom brzinom proširilo među američkim vojnim zapovjedništvima, u samo nekoliko minuta podiglo je uzbunu na najvišu razinu. Prema podacima iz spornog dokumenta, kineski teretni brod koji je plovio bliskoistočnim vodama prevozio je ključne komponente namijenjene tajnom razvoju programâ nuklearnog naoružanja, piše CNN.
Američko vojno zapovjedništvo smjesta je stupilo u akciju i razradilo operativni plan za presretanje i zauzimanje plovila. Kako potvrđuju četiri neimenovana izvora upoznata s izvanrednim događajem, situacija je u potpunosti eskalirala na terenu: naoružani pripadnici specijalnih postrojbi američke vojske već su vršili posljednje pripreme za ukrcaj, dok su borbeni zrakoplovi kružili u zraku pružajući podršku iznad samog broda.
Hoće li AI uskoro uništiti cijelo čovječanstvo? Teško se oteti dojmu što zapravo stoji iza svega...
Fatalna pogreška umjetne inteligencije
Međutim, doslovno u posljednjim trenucima uoči početka same jurišne operacije, viši dužnosnici odlučili su još jednom temeljito provjeriti obavještajne izvore. Detaljnijom analizom izvješća, koje je sastavio analitičar Specijalnog zapovjedništva, razotkrivena je frapantna činjenica: dokument je u potpunosti izrađen uz pomoć umjetne inteligencije, pri čemu je primijenjeni pametni chatbot potpuno pogrešno interpretirao i identificirao stvarni teret koji je brod prevozio.
Istraga je pokazala da je analitičar putem AI alata nasumično spajao javno dostupne podatke otvorenog koda s tajnim, presretnutim signalnim informacijama iz vladinih baza.
Sustav je na temelju tih nepovezanih parametara donio katastrofalan i netočan zaključak o opasnom teretu, nakon čega je analitičar ponovno iskoristio umjetnu inteligenciju kako bi te nalaze zapakirao u standardizirani format službenog obavještajnog izvješća te ga neoprezno distribuirao zapovjednom lancu.
Korak do rata dviju velesila
Izvješće je bilo u potpunosti lažno, no kako ističe jedan od visokih obavještajnih izvora, nepromišljena procjena zamalo je izazvala oružani sukob globalnih razmjera. Bilo kakav nasilni upad američkih vojnih snaga na kinesko plovilo u međunarodnim vodama nosio je golem rizik od trenutnog izbijanja otvorenog ratnog sukoba između dviju vodećih svjetskih velesila.
Ovaj zamalo fatalni incident razotkriva najneposredniju opasnost od ubrzane i nekontrolirane primjene umjetne inteligencije u vojnim i obavještajnim strukturama - donošenje pogubnih zapovjednih odluka na temelju algoritamski izgeneriranih ili ‘haluciniranih‘ informacija.
Znanstvenik digao svjetsku buru: ‘Svi bismo mogli umrijeti‘; oglasila se i tri moćna AI šefa
Decentralizirani sustav bez kontrole
Iako Pentagon i ministar obrane Pete Hegseth snažno guraju novu strategiju ubrzane integracije AI modela na svim zapovjednim razinama kako SAD ne bi zaostajao za Kinom, sam sustav unutar vojske ostaje izrazito decentraliziran. Različiti rodovi vojske i agencije primjenjuju različite softverske alate bez jedinstvenih i strogo definiranih sigurnosnih standarda za neovisnu provjeru točnosti podataka.
Dok u Washingtonu i Silicijskoj dolini traju teoretske rasprave te stizaju mračna upozorenja tehnoloških čelnika o tome kako bi umjetna inteligencija u budućnosti mogla ugroziti čitavo čovječanstvo, ovaj slučaj jasno pokazuje da je stvarna prijetnja već prisutna i iznimno opasna.
Pritisak da se obavještajne procjene izrade i dostave što brže prisiljava analitičare, posebice mlađe generacije koje bezrezervno vjeruju suvremenim digitalnim alatima, na preuranjene i neprovjerene zaključke. Kako je to slikovito zaključio jedan obavještajni dužnosnik: umjetna inteligencija ne čini vas pametnijima, ona vam samo omogućuje da do katastrofalno loše ideje stignete znatno brže nego ikada prije, zaključuje CNN.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....