Microsoftov Satya Nadella: AI modelima potrebna 'kočnica za nuždu

Satya Nadella, glavni izvršni direktor Microsofta, objavio je u subotu ujutro na X-u opširan osvrt o tome kako poboljšati sigurnost umjetne inteligencije. Poručio je da je vrijeme da se “vratimo korak unatrag i procijenimo arhitekturu povjerenja” AI sustava. Njegov istup dolazi u trenutku kada vodeće AI tvrtke priznaju sve više incidenata u kojima su izgledale kao da su izgubile kontrolu nad svojim modelima, te nakon što je izvršni direktor Anthropica Dario Amodei objavio plan za oprezniji razvoj AI-a.

Nadella smatra da se Super Intelligence ne smije tretirati kao skup ugniježđenih crnih kutija čije preporuke, odgovore i radnje jednostavno prihvaćamo ili odbijamo. Predlaže da se model odvoji od okvira koji usklađuje njegov rad te da se kontrole i zaštitni mehanizmi izdvoje. Traži i da svaka značajna radnja modela bude dokumentirana dokazom čitljivim ljudima i zaštićenim od neovlaštenog mijenjanja. Osim toga, želi sustave u kojima ovlaštena osoba uvijek ima mogućnost pauzirati ili zaustaviti model tijekom zadatka. Nadella kaže da moramo pretpostaviti da je model kompromitiran i obuzdati ga od početka, poput sigurnosne kočnice.

Kontekst

U tekstu se koristi termin Super Intelligence, koji je opisan kao termin koji preferira Trumpova administracija. “Arhitektura povjerenja” odnosi se na način na koji se gradi povjerenje u AI sustave. Nadella objašnjava da njegov pristup znači odvajanje modela od okvira koji orkestrira njegov rad, kao i izdvajanje kontrola i zaštitnih mehanizama. Dokumentiranje svake značajne radnje modela trebalo bi se oslanjati na dokaz čitljiv ljudima koji je zaštićen od neovlaštenog mijenjanja. Sustav bi trebao omogućiti ovlaštenoj osobi da pauzira ili zaustavi model usred zadatka. Metafora sigurnosne kočnice opisuje upravo tu mogućnost zaustavljanja.

Kontekst je jasan: vodeće AI tvrtke priznaju sve više incidenata u kojima su izgledale kao da su izgubile kontrolu nad modelima, a Dario Amodei iz Anthropica objavio je plan za oprezniji razvoj AI-a.

Što to znači

Nadellin prijedlog pomiče raspravu s pitanja što model govori na pitanje kako se njegovo djelovanje kontrolira, dokumentira i zaustavlja. Ako bi se takav pristup primijenio, svaka značajna radnja modela morala bi ostaviti provjerljiv trag, a ovlaštena osoba imala bi mogućnost prekida. To je važno jer izvorni tekst navodi da AI tvrtke sve češće priznaju incidente u kojima su izgledale kao da su izgubile kontrolu. U tom smislu Nadella ne govori samo o sigurnosti modela, nego i o arhitekturi povjerenja oko njega.

Što slijedi

Nadella je pozvao na procjenu arhitekture povjerenja, odvajanje modela od okvira koji orkestrira njegov rad te na izdvajanje kontrola i zaštitnih mehanizama. Sljedeće je pitanje kako te ideje prevesti u praksu i hoće li ih drugi akteri u raspravi prihvatiti. Njegov osvrt dolazi nakon Amodeijeva plana za oprezniji razvoj AI-a, pa se može očekivati nastavak javne rasprave o sigurnosti AI sustava.