Previše se uzdamo u sposobnost AI-a da kaže ne
Suvremeni veliki jezični modeli, odnosno LLM-ovi, danas su osmišljeni tako da odbiju opasne zahtjeve, ali to odbijanje nije nepogrešivo i može postati instrument represije. Rasprava je važna jer su tvrtke odbijanje ugradile u samo središte sigurnosti umjetne inteligencije, a vlade se tek spremaju povući vlastite crte. Već 2021. tim u Anthropicu zapisao je da veliki jezični modeli trebaju biti korisni, iskreni i prije svega bezopasni.
Od ranih modela OpenAIja, koji su prema riječima Stevena Adlera, stručnjaka za sigurnost u toj tvrtki od 2020. do 2024., “brbljali o svemu”, do današnjih sustava koji odbijaju mnoštvo upita, promjena je golema. Ryan McBain s Harvarda, koji istražuje AI i mentalno zdravlje, sjeća se da je rani chatbot lako mogao dati odgovor na pitanje o najučinkovitijem načinu samoubojstva pištoljem. Danas se modeli treniraju da odbiju brojne upite, od trovanja kolege do vezanja omče. Tvrtke ih podvrgavaju vježbama u kojima se odbijanje štetnih pitanja nagrađuje, a pretjerano odbijanje bezopasnih upita kažnjava. Pritom druge modele koriste za provedbu tih vježbi, pa AI poučava AI kako reći ne.
Modeli se skrivaju i iza slojeva drugih AI sustava koji sprječavaju zlonamjerne upite da dođu do inteligentne jezgre.
Kontekst
Odbijanje je tako postalo svojstveno modernoj umjetnoj inteligenciji. No ono često zakaže, ponekad stravično, s nasilnim posljedicama. Modeli su i dalje puni opasnog znanja, a sposobnost za zlo rasla je usporedno s njihovom dobronamjernom inteligencijom. Neki najnoviji modeli jednako su dobri u upadima u kritične računalne mreže kao vrhunski ljudski hakeri i jednako učinkoviti u oblikovanju javnog mnijenja kao najvještiji širitelji dezinformacija. Učiti AI da odbije takve stvari, a pritom mu ostaviti urođenu sposobnost da ih izvede, nalik je ugradnji mitraljeza u svaki automobil i skrivanju okidača negdje pod haubom. Mehanizmi odbijanja su probabilistički, pa nikada nisu posve pouzdani.
Odlučni zlonamjernici već su ih probili i možda će to uvijek moći.
Ključne brojke
Godine 2021. tim Anthropica opisao je načela korisnosti, iskrenosti i bezopasnosti. Steven Adler radio je na sigurnosti u OpenAIju od 2020. do 2024. Modeli se treniraju na milijardama web-stranica. Tvrtke bilježe pokušaje uporabe najnaprednijeg AI-a za usavršavanje bioloških patogena i izgradnju autonomnih rojeva dronova. Kao primjer pretjeranog odbijanja navodi se i zahtjev da chatbot broji do milijuna.
Što to znači
Odbijanje je postalo, kako to kažu u industriji, nosivi zid sigurnosti AI-a. No pouzdanje u njega znači povlačenje crte između onoga što model mora poslušati i onoga što mora odbiti. Za to ne postoji formula. Neki virolozi imaju dobar razlog proučavati opasne viruse, a neki korisnici žele znati ranjivosti računalnog sustava kako bi ih popravili, a ne iskoristili. “Gdje povući crtu veliko je pitanje”, rekao je Zico Kolter, član OpenAIjeva odbora i suosnivač tvrtke Gray Swan. Trenutačno tu crtu povlače AI tvrtke, ljubomorno i uz najveću tajnost. Vlade će uskoro povlačiti svoje.
Što AI bolje odbija štetu, to bolje može gušiti ideje čiji je jedini rizik to što smetaju onima koji postavljaju pravila. AI možda već odbija kritizirati određene autoritarne šefove država.
Što slijedi
Očekuje se da će vlade uskoro početi povlačiti vlastite crte i pritom morati blokirati stvarno zlonamjerne čine. Pentagon se već borio s tvrtkama koje razvijaju frontier modele jer želi manje odbijanja. No malo je toga što bi spriječilo represivne vlade da blokiraju sposobnost tehnologije da stvara legitiman govor. Odlučni zlonamjernici mogli bi i dalje probijati odbijanje, a neuspjela odbijanja mogla bi jednom dovesti do globalne katastrofe. Zato ostaje otvoreno pitanje kako zamisliti alternativu, jer je sposobnost AI-a da šteti neodvojiva od njegove sposobnosti da pomaže.