Prije samo nekoliko godina direktori, poduzetnici i tehnološki konzultanti bojali su se da će propustiti najveću poslovnu revoluciju još od interneta. Umjetna inteligencija postala je nezaobilazna stavka poslovnih strategija i tvrtke su se utrkivale u dokazivanju da su „AI-ready“, a one koje nisu imale što pokazati žurile su barem osmisliti plan kako da ne zaostaju za konkurencijom.
Od korisničke podrške i administracije do marketinga i analize podataka, malo je kompanija koje se ne vole pohvaliti kako upravo zahvaljujući AI-ju rade brže, učinkovitije i pametnije. No kako se početna euforija stišava, a računi za računalnu infrastrukturu, licence i specijalizirane AI alate postaju sve konkretniji, mijenja se i ton rasprave pa strah od zaostajanja polako zamjenjuje pitanje može li se umjetna inteligencija pretvoriti u financijski teret koji je teško opravdati dobrim rezultatima.
AI za pisanje jednog e-maila troši količinu struje dovoljnu za napajanje 14 LED žarulja
Amazon, Walmart, Cisco, Uber i Meta među ranim su korisnicima koji su uveli ograničenja u korištenju umjetne inteligencije, obeshrabrili „rasipnu“ upotrebu ili potaknuli zaposlenike na jeftinije modele u nastojanju da drže potrošnju pod kontrolom, piše Financial Times. Nova je to faza u prihvaćanju umjetne inteligencije u tvrtkama koja je uslijedila nakon što su primijetili da radnici sve više prelaze s chatbotova na AI agente, koji mogu autonomno obavljati složene zadatke, ali zahtijevaju daleko veću računalnu snagu. Zbog rasta potrošnje tvrtke sada provjeravaju za koje se zadatke isplati koristiti AI, a za koje veća brzina i učinkovitost ipak ne opravdavaju rast potrošnje.
Pitanje dolazi u trenutku kada AI kompanije, uključujući Anthropic i OpenAI, neke usluge više ne nude u okviru fiksnih pretplata, već naplaćuju na temelju tokena, prateći jedinice podataka koje obrađuju modeli.
Najbolji primjer koliko to utječe na tvrtke je Uber, koji je uveo ograničenja korištenja umjetne inteligencije na 1500 dolara mjesečne potrošnje tokena na pojedinačne AI alate, nakon što su do travnja potrošili cijeli svoj AI proračun za 2026. Andrew Macdonald, predsjednik i glavni operativni direktor Ubera, rekao je da je „sve teže opravdati“ njihova ulaganja u AI tokene.
„Vrlo je teško povući granicu, vidjeti te brojke i reći: ‘U redu je jer tako proizvodimo oko 25 posto više korisnih značajki za korisnike’“, komentirao je nedavno.
Američki maloprodajni div Walmart slično je ograničio korištenje vlastitog internog AI agenta ograničavanjem broja tokena koje zaposlenici mogu koristiti jer je, prema riječima glavnog tehnološkog direktora Suresha Kumara, korištenje „stvarno naglo poraslo“. Od zaposlenika sada očekuju da prepoznaju prave alate koji im mogu pomoći oko pojedinih zadataka, ali i one zadatke za koje korištenje AI-a nije ni potrebno.
Jeetu Patel, predsjednik i glavni direktor za proizvode u Ciscu, smatra da tvrtke moraju uravnotežiti želju za korištenjem tehnologije za implementaciju agenata s cijenom i dostupnošću tokena.
„Količina infrastrukture potrebne za agenta znatno je veća nego za chatbota. Svaka osoba može koristiti 10, 100 ili čak 1000 agenata, što znači da se troši velik dio računalnih resursa“, rekao je Patel.
Amazon je prošli mjesec upozorio zaposlenike da ne bi trebali prestati koristiti „umjetnu inteligenciju samo radi korištenja umjetne inteligencije“ nakon što su inženjeri počeli koristiti agente koji nisu donijeli ništa drugo osim penjanja na internim ljestvicama najboljih zaposlenika. Meta je poduzela slične korake u travnju.
Glavni čovjek tehnološkog diva: ‘U mojoj kompaniji jedan će čovjek raditi sa 100 AI agenata‘
I manje tvrtke osjećaju pritisak na troškove. Američka softverska grupa Workato izjavila je da je njihova upotreba umjetne inteligencije eksplodirala nakon što je prošlog ljeta 1300 zaposlenika počelo koristiti AI agente. Doživjeli su šok kada je Anthropic u svibnju prešao na cijene temeljene na tokenima.
„Naša potrošnja se već prvog dana povećala sedam puta i pomislio sam: ‘Kvragu, stvorili smo čudovište’“, rekao je glavni direktor za informatiku Carter Busse.
Umjesto ograničavanja pristupa, Busse pokušava obuzdati potrošnju pa je svoje radionice o korištenju umjetne inteligencije sada pretvorio u dijeljenje ideja za uštedu, poput prelaska na starije jeftinije Anthropicove modele.
Analitičari Goldman Sachsa prošlog su mjeseca predvidjeli da će korištenje AI agenata rezultirati 24-strukim povećanjem potrošnje tokena do 2030. godine te da će ogroman porast potražnje pogoršati nestašicu čipova u sljedećih 12 do 18 mjeseci.
Iako korištenje tokena i potrošnja tvrtki na umjetnu inteligenciju i dalje rastu, napori za ograničavanje troškova mogli bi opteretiti rast najvećih svjetskih laboratorija za umjetnu inteligenciju poput Anthropica i OpenAI-ja. Istovremeno su kineski modeli umjetne inteligencije pretekli svoje američke kolege u potrošnji tokena, prema podacima OpenRoutera, agregacijske platforme koja korisnicima omogućuje pristup višestrukim modelima umjetne inteligencije.
Ako ovo uspije, današnji AI je dječja igra: Dolazi sustav koji će izazvati novu revoluciju!
Jeftinija kineska energija i učinkovitiji modeli omogućili su laboratorijima za umjetnu inteligenciju u toj zemlji da tokene naplaćuju manje, pa sve izraženija potreba za smanjivanjem potrošnje na tokene Kini ide na ruku.
Microsoft i drugi pružatelji AI platformi, uključujući Amazon i Google, već su pokrenuli alate koji usmjeravaju upite i zadatke korisnika prema najrelevantnijem modelu unutar serije kako bi učinkovitije kontrolirali troškove. U međuvremenu, neke su tvrtke rekle radnicima da koriste modele otvorenog koda koji se mogu pokretati lokalno na njihovim vlastitim poslužiteljima ili osobnim uređajima, smanjujući račun koji plaćaju laboratorijima za umjetnu inteligenciju i pružateljima usluga u oblaku.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....