OpenAI ustraje u odluci o otpuštanju trojice istraživača za sigurnost umjetne inteligencije
OpenAI je ostao pri odluci o otkazu trojice sigurnosnih istraživača nakon što je unutarnja istraga utvrdila znatnu povredu povjerenja. Riječ je o Jasmine Wang, Tomeku Korbaku i Mikiti Balesniju, koje je tvrtka otpustila zbog kršenja jasnih pravila o postupanju s osjetljivim informacijama. OpenAI je to objavio u petak na X-u, odgovarajući na otvoreno pismo istraživača objavljeno dan prije.
U objavi na X-u OpenAI je ustvrdio da otkazi nisu povezani s tim što su istraživači javno govorili o tvrtki i svojim zabrinutostima oko sigurnosti umjetne inteligencije. Tvrtka je navela da je unutarnja istraga otkrila kršenja koja nadilaze ono što je navedeno u pismu, ali pojedinosti nije iznijela. Istraživači su u otvorenom pismu i nizu objava na društvenim mrežama tvrdili da vjeruju kako su dobili otkaz zbog iznošenja sigurnosnih zabrinutosti te da su djelovali u skladu s misijom OpenAI-a i tadašnjim radnim normama.
Kontekst
OpenAI je AI laboratorij, a sigurnosni istraživači bave se pitanjima sigurnosti umjetne inteligencije. Povreda povjerenja u ovom slučaju znači kršenje jasnih pravila o postupanju s osjetljivim informacijama. Otvoreno pismo je javni poziv tvrtki da bude transparentnija oko odluke, a istraživači su ga popratili objavama na društvenim mrežama. U pozadini je rastuća zabrinutost zaposlenika u AI tvrtkama za sigurnost graničnih sustava, nakon niza zapaženih incidenata ove godine. Najistaknutiji je OpenAIjev hak Hugging Facea. Mnogi zaposlenici pozivaju tvrtke da uspore i učine više kako bi se zaštitili od mogućih posljedica izgradnje samopoboljšavajućih sustava.
Ključne brojke
U središtu su tri otpuštena sigurnosna istraživača: Jasmine Wang, Tomek Korbak i Mikita Balesni. OpenAI je svoju odluku objavio u petak, dok su istraživači otvoreno pismo objavili u četvrtak. Drugih brojki u izvornom tekstu nema.
Što to znači
Ova je situacija važna jer se sukobljavaju dvije interpretacije istog događaja. OpenAI tvrdi da je riječ o povredi povjerenja i kršenju pravila o osjetljivim informacijama, a otpušteni istraživači tvrde da su kažnjeni zbog iznošenja sigurnosnih zabrinutosti. Ako zaposlenici posumnjaju da se otkazi povezuju s upozoravanjem na rizike, to može utjecati na unutarnju kulturu i na spremnost drugih da progovore. U kontekstu rastuće zabrinutosti za granične sustave i samopoboljšavajuće sustave, način na koji OpenAI objašnjava ovaj slučaj može biti važan signal i unutar tvrtke i šire.
Što slijedi
OpenAI zasad nije objavio pojedinosti o kršenjima koja navodno nadilaze sadržaj otvorenog pisma. Istraživači su zatražili veću transparentnost, a tvrtka je ostala pri svojoj odluci. Otvoreno je hoće li uslijediti dodatna objašnjenja, odgovor trojice istraživača ili daljnji pritisak zaposlenika u AI sektoru. Mnogi zaposlenici već pozivaju tvrtke da uspore i pojačaju zaštitu od posljedica izgradnje samopoboljšavajućih sustava.