Svatko može razvijati aplikacije uz pomoć umjetne inteligencije. No, kome one pripadaju?

U anketi koju je predstavio Retool, provedenoj među 307 viših čelnika u tehnologiji i sigurnosti — CTO-a, CIO-a i CISO-a — ispitanici su odgovarali o upravljanju (governance) u doba AI kodiranja. Rezultati pokazuju da odgovornost nije pratila rast sposobnosti. Čak 44% viših tehnoloških i sigurnosnih čelnika nema jasan zadani odgovor na pitanje tko je odgovoran kada AI-generirani alat izazove produkcijski incident. Većina ispitanika nije mogla sa sigurnošću reći je li u protekloj godini uopće imala takav incident jer nema nadzora koji bi to potvrdio.

Kada su upitani što se događa ako AI-generirani interni alat izazove produkcijski incident, 32% ispitanika reklo je da se odgovornost prebacuje na inženjersko vodstvo ili CTO-a, 23% da odgovornost snosi tim ili pojedinac koji je alat izradio, a 34% da ovisi o situaciji. Deset posto nije to uopće definiralo. Zbrojeno, 44% ih posluje bez jasnog zadanog modela odgovornosti. Jedan CITO iz ankete opisao je problem riječima: „When anyone can ship a tool in an afternoon, nobody signs up to maintain it.

Rot stays invisible until something breaks.“ Uz to, 78% čelnika sadašnje upravljanje opisuje kao ručno održavano ili nejednako među timovima, a samo 7% podržava pristup u kojem se svaki alat i pojedinog izrađivača rješava zasebno.

Kontekst

Izvor ističe da se gradnja softvera ubrzava, dok sigurnost ne uspijeva držati korak. Smjer je jasan: više ljudi gradi više softvera, brže i uz manje tradicionalnog inženjerskog sudjelovanja. Devedeset posto ispitanih čelnika navodi povećan pritisak da omoguće AI-vođenu gradnju, a većina to naziva neto dobitkom u produktivnosti. Organizacijske strukture koje određuju vlasništvo još nisu usklađene. Problemi vlasništva i upravljanja pristupom i autentifikacijom postoje i kod internih alata, ali AI ih pojačava jer više članova tima može graditi brže i manje sigurno.

Uobičajeni odgovor — dodatni pregledi, jasnija pravila i bolja obuka — pristaje centraliziranom razvoju i ograničenom broju alata, ali ne okruženju u kojem alat od upita do produkcije prijeđe u jednom poslijepodnevu.

Ključne brojke

Anketa je obuhvatila 307 viših čelnika. Devedeset posto ih osjeća povećan pritisak za AI-vođenu gradnju. Trideset i dva posto kaže da je za incident odgovorno inženjersko vodstvo ili CTO, 23% da je odgovoran tim ili pojedinac koji je gradio, 34% da ovisi o situaciji, a 10% nije definiralo odgovornost. Ukupno 44% nema jasan zadani odgovor. Sedamdeset i osam posto upravljanje opisuje kao ručno ili nejednako, samo 7% podržava pristup pojedinačnog alata i izrađivača, a 55% smatra da primarna odgovornost za sigurnost treba biti na centraliziranoj platformi.

Što to znači

Ako odgovornost ostane nejasna, raste broj produkcijskih alata bez jasnog vlasnika i sigurnosnog nadzora. To je rizik koji se ne vidi dok ne pukne. Istodobno, pristup u kojem se sigurnosni standardi postavljaju jednom i primjenjuju na svaku aplikaciju, neovisno o tome kako je i tko ju izradio, dobiva prednost. Dok je Pierre-Yves Calloc’h vodio AI transformaciju u Pernod Ricardu, upravljanje je od početka tretirao kao nužno dizajnersko ograničenje, a ne kao.