Satya Nadella: Trebamo pretpostaviti da su svi AI modeli 'kompromitirani

Nadella je u opsežnoj objavi na platformi X izložio svoj pogled na opasnosti koje donose visoko napredni modeli umjetne inteligencije i načine suočavanja s tim rizicima. Izvršni direktor Microsofta poručuje da više ne možemo prihvatiti svijet u kojem se AI tretira kao "set of nested black boxes", a njegove savjete i postupke jednostavno prihvaćamo ili odbacujemo. Umjesto toga, traži transparentniji sustav.

U objavi se zalaže za sustav u kojem se modeli mogu sadržavati, promatrati i ostavljati za sobom dokaz koji je otporan na nedopušteno mijenjanje i čitljiv ljudima. Njegove preporuke, navodi se, uvelike se podudaraju s onim što se čuje od drugih u industriji: pravovremeno objavljivanje incidenata, neovisne revizije, provjerljivi podaci i sadržavanje. Upravo je posljednja točka, sadržavanje, ona na kojoj se, prema izvornom tekstu, čini da se Nadella posebno zaustavlja. Objava je dugačka i bavi se i opasnostima i načinom na koji bi se s njima trebalo nositi.

Kontekst

Pojam koji Nadella spominje označava pristup u kojem su AI modeli netransparentni, a ljudi mogu samo prihvatiti ili odbaciti ono što im model savjetuje ili čini. Nadella zato traži transparentniji sustav u kojem se modeli mogu sadržavati i promatrati. Sadržavanje znači da se modele drži pod nadzorom, a promatranje da se njihovo djelovanje može pratiti. Dokaz koji je otporan na nedopušteno mijenjanje i čitljiv ljudima trebao bi omogućiti da se AI ne ponaša kao neprozirna crna kutija. Preporuke o pravovremenom objavljivanju incidenata, neovisnim revizijama, provjerljivim podacima i sadržavanju dio su šireg pristupa koji Nadella iznosi.

Što to znači

Nadellin stav važan je jer dolazi od izvršnog direktora Microsofta i bavi se rizicima visoko naprednih AI modela. Ako se njegove preporuke prihvate, korisnici i nadzornici dobili bi više uvida u to kako modeli rade i kakve posljedice mogu imati. Time bi se smanjila mogućnost da se AI tretira kao sustav čije se savjete i postupke prihvaća bez provjere. Objava na platformi X pokazuje da se rasprava o tim pitanjima vodi javno, a ne samo unutar pojedinih tvrtki. Nadella ne govori samo o koristima, nego i o rizicima i načinu da se oni ograniče.

Što slijedi

Iz dostupnog izvornog teksta nije razvidno koji su konkretni sljedeći potezi. Tekst se prekida na dijelu o sadržavanju, pa nije moguće utvrditi što je Nadella dalje zaključio. Ono što je jasno jest da su pravovremeno objavljivanje incidenata, neovisne revizije, provjerljivi podaci i sadržavanje dio njegovih preporuka. Ostaje vidjeti hoće li se te ideje pretvoriti u konkretne mjere i kako će ih drugi u industriji prihvatiti. U ovom trenutku poznato je samo ono što stoji u izvornom tekstu.