Vaši AI agenti mogu ispravno izvršiti svaki poziv alata, a ipak prekršiti svako pravilo poduzeća.
U današnjim upravama poduzeća, pritisak na IT direktore svodi se na dva ključna pojma: brzinu i povrat ulaganja. Odbori očekuju zrele strategije za agentnu umjetnu inteligenciju i jasan vremenski plan za uvođenje autonomnih sustava koji donose mjerljive poslovne rezultate. No, u toj utrci prema proizvodnji, pojavila se kritična arhitektonska slijepa točka. Prevladavajuća tržišna logika počiva na jednostavnoj formuli: agenti, plus alati, plus podaci, jednako agilnost. Ta ideja, iako je nijedan dobavljač eksplicitno ne izgovara, podrazumijeva se u gotovo svakoj ponudi. No, ona ne funkcionira. Čini upravo suprotno.
Naime, kada poslovni softver dotakne zaposlenike, kupce i financije, tolerancija na halucinacije ili odstupanja pada na nulu. Da bismo razumjeli taj otpor, moramo pogledati anatomiju agenta. U svojoj osnovi, veliki jezični model (LLM) je probabilistički – generira tokene na temelju matematičke vjerojatnosti, a ne čvrstih pravila. Industrijski odgovor na uvođenje pravila je pozivanje alata, što modelu daje skup API-ja za djelovanje u stvarnom svijetu. Iako pozivanje alata čini pojedinačnu radnju determinističkom, nadređeni sloj odlučivanja ostaje probabilistički. Agent i dalje mora odlučiti koji alat pozvati, kada i s kojim argumentima.
Budući da generički alat izvršava sve što mu se zada, pozivanje alata ne rješava problem upravljanja. Ono ga samo premješta na granicu alata, koja ostaje izložena i neuređena.
Kontekst
Ključni pojmovi ovdje su "agentna AI" i "pozivanje alata". Agentna AI odnosi se na autonomne sustave koji sami postavljaju ciljeve i donose odluke. Pozivanje alata je mehanizam kojim se LLM-u daje pristup API-jima kako bi obavljao konkretne zadatke. No, kako izvorni tekst objašnjava, taj pristup stvara "agent bez zakona". Zamislite menadžera koji od agenta traži da zaposli međunarodnog suradnika. Agent će optimizirati samo dovršetak zadatka. Svaki pojedinačni poziv alata može uspjeti, ali agent može prekršiti regionalne zakone o radu, porezne olakšice i provjere klasifikacije zaposlenika. Ne čini to iz zlobe, već zato što ništa u njegovoj arhitekturi ne razumije ta pravila.
To se na površini čini kao pobjeda agilnosti, ali u stvarnosti je "otkucavajuća regulatorna bomba".
Ključne brojke
Izvor ne navodi konkretne brojke.
Što to znači
Kada IT lideri otkriju takvo ponašanje, instinkt je zakrpati ranjivost izvana. Timovi pribjegavaju izradi vanjskih LLM pristupnika, dodavanju slojeva politika ili trpanju poslovnih pravila u kontekstni prozor. Nijedno od tih rješenja ne drži vodu. Prompt je zahtjev, a ne jamstvo. Nakon 18 mjeseci, inženjerski timovi potrošit će milijune ručno rekonstruirajući organizacijske strukture, logiku usmjeravanja i sigurnosne dozvole unutar provizornog, izoliranog AI sustava. To je zamka "sive ERP infrastrukture", gdje agilnost umire. Na kraju održavate krhku, bugovitu kopiju poslovne logike koju ste već imali u svom sustavu evidencije.
To nije prečac, već put prema beskonačnim troškovima održavanja i fragmentiranom upravljanju.
Što slijedi
Rješenje je da agent bude "zakonit po dizajnu". Upravljanje mora postati temeljna infrastruktura, izravno ugrađena u inferencijski motor i izvršno okruženje. To zahtijeva tri komponente. Prvo, kontekstni motor koji sastavlja točno ono što agent smije vidjeti, uključujući aktivne zapise, politike i organizacijski kontekst. Drugo, motor politika koji provjerava svaku radnju agenta prema poslovnoj logici koja vrijedi za ljudskog kolegu. Ako financijska transakcija zahtijeva četiri razine odobrenja, platforma odbija svaki zaobilazni put.
Treće, izvršni sloj koji osigurava da svaki vanjski API poziv nosi eksplicitni autoritet i opseg ovlasti konkretne osobe kojoj agent služi, a ne stalne "božanske" vjerodajnice. Agent ne može premašiti svoj autoritet jer mu ovlast nikada nije izdana. Prava poteškoća enterprise AI nije u rasuđivanju, već u upravljanju.