Sve manje poduzeća vjeruje AI agentima da samostalno mijenjaju produkcijske sustave – udio pao sa 75 na 56 posto, pokazuje VB Intelligence

U kolovozu 2026. VentureBeat Intelligence proveo je anketu o pouzdanosti i evaluacijama agentne umjetne inteligencije. Rezultati pokazuju da je udio poduzeća koja dopuštaju da AI agenti sami izvrše određene produkcijske promjene, bez ljudske provjere, pao sa 75% u srpnju na 56% u kolovozu. Riječ je o ispitanicima čije organizacije koriste autonomne AI agente ili grade sustave koji bi to omogućili u sljedećih godinu dana.

Anketa je obuhvatila 140 ispitanika u kolovozu. Više od polovice, 53%, bili su konačni donositelji odluka o kupnji AI rješenja, dok je u srpnju taj udio bio 44%. I unutar te skupine zabilježen je pad: među konačnim donositeljima odluka čije organizacije koriste autonomne agente, udio onih koji dopuštaju produkcijske promjene bez pregleda ili grade prema tome pao je sa 88% u srpnju na 61% u kolovozu. VentureBeat navodi da to upućuje na stvarni pomak unutar ispitanih organizacija, a ne samo na promijenjen sastav ispitanika.

Ipak, obje ankete koristile su odvojene, samoodabrane skupine čitatelja VentureBeata i članova panela, pa rezultati ne moraju odražavati promjenu na cijelom tržištu poduzeća.

Kontekst

Autonomni AI agenti su sustavi koji mogu samostalno izvršavati zadatke, uključujući promjene koda ili sustava u produkciji. Automatizirane evaluacije služe procjeni pouzdanosti tih agenata. Anketa je provedena u kolovozu, prije nego što je 12. rujna izvršni direktor Anthropica Dario Amodei objavio esej "We Must Pace the Frontier", u kojem je pozvao na usporavanje razvoja frontier AI i jači sigurnosni nadzor. Drugi čelnici industrije, među njima OpenAI-jev Sam Altman i Google DeepMindov Demis Hassabis, naknadno su podržali veći oprez. Budući da je anketa provedena u kolovozu, pomak ne može biti izravna reakcija na Amodeijev esej, a podaci ne utvrđuju što je potaknulo veći oprez.

Ključne brojke

U kolovozu je 56% ispitanika čije organizacije koriste autonomne agente reklo da već dopuštaju određene produkcijske promjene samo na temelju automatiziranih evaluacija ili to grade za sljedećih godinu dana, u odnosu na 75% u srpnju. Anketa je obuhvatila 140 ispitanika, od kojih su 53% bili konačni donositelji odluka o kupnji AI rješenja, a u srpnju 44%. Među tim donositeljima odluka udio je pao sa 88% na 61%. Korištenje OpenAI-ovog izvornog alata za evaluacije poraslo je sa 31% u srpnju na 59% u kolovozu.

Ukupno 61% ispitanika čije organizacije provode evaluacije prije uvođenja prijavilo je barem jedan slučaj u posljednjih 12 mjeseci kada je AI agent ili LLM značajka prošla interno testiranje, ali kasnije izazvala kvar vidljiv korisnicima. Od svih 140 ispitanika, 27% već dopušta nekim agentima niskog rizika promjene bez ljudske validacije, 35% to isključuje u doglednoj budućnosti, 20% gradi prema tome u roku od 12 mjeseci, 16% uopće ne uvodi autonomne agente, a 2% nije sigurno.

Što to znači

To znači da poduzeća razlikuju korištenje automatiziranih evaluacija za procjenu AI sustava od oslanjanja na te evaluacije kao jedino odobrenje za puštanje promjena u produkciju. Iako podrška ukidanju ljudskog odobrenja opada, uporaba alata za evaluacije raste. Zato ljudski nadzor ostaje središnji za enterprise AI. Podaci takođerr pokazuju da evaluacije prije uvođenja ne jamče uspjeh u produkciji, jer je 61% ispitanika prijavilo kvarove nakon internog testiranja.

Što slijedi

VentureBeat zaključuje da rezultati upućuju na pomak unutar ispitanih organizacija, ali ne dokazuju promjenu na cijelom tržištu. Nije utvrđeno što je uzrokovalo veći oprez. Ostaje vidjeti hoće li se trend nastaviti i hoće li poduzeća nastaviti usvajati alate za evaluacije dok istodobno zadržavaju ljudsko odobrenje za produkcijske promjene.