OpenAI uvježbava odgovor na pobunu javnosti nakon katastrofalnog zatajenja AI-a

U Sjedinjenim Državama javno raspoloženje prema rastućoj moći AI laboratorija i njihovih čelnika izrazito je negativno. Kako je objavio Axios, čelnici vodećih AI tvrtki, među njima Anthropic i OpenAI, počeli su razrađivati standardne procedure za slučaj masovne pobune protiv njih. Riječ je o pripremama koje podsjećaju na pentagonske "ratne igre", a cilj je osmisliti odgovore na hipotetske scenarije.

Prema Axiosu, AI laboratoriji razmatraju situacije poput masovnih kibernetičkih napada omogućenih njihovim proizvodima ili političke pobune kao reakcije na katastrofalni događaj koji su izazvali njihovi modeli. OpenAI je na upit Axiosa odgovorio nonšalantno. "OpenAI conducts preparedness exercises where teams discuss and work through a range of potential scenarios," poručio je glasnogovornik. Dodao je da se ti scenariji ne smatraju neizbježnima, nego služe pripremi za razne okolnosti. Anthropic nije želio komentirati, no zabrinutost zbog društvenih nemira nije neobična za čelnike te tvrtke.

U rujnu je objavljeno da Anthropic gradi nadzorni aparat za praćenje anti-AI protestnih pokreta, uključujući "pre-crime" pristup prikupljanju obavijesti.

Kontekst

Izvor opisuje kako je javni otpor protiv AI laboratorija i njihovih čelnika u SAD-u postao izrazito negativan. Kada je razmjer tog otpora postao jasan, tech milijarderi poput Marka Zuckerberga reagirali su medijskim potezima koji su djelovali neosjetljivo, nadajući se da će povratiti naklonost milijuna ljudi. Ta strategija očito nije uspjela. Zato čelnici vrhunskih AI laboratorija sada razrađuju procedure za slučaj masovne pobune. "Ratne igre" u ovom kontekstu znače simulacije u kojima se timovi pripremaju za moguće krize. "Pre-crime" pristup u prikupljanju obavijesti podrazumijeva usmjerenost na predviđanje mogućih prijetnji prije nego se ostvare.

Ključne brojke

Anketa Wall Street Journala od kraja rujna pokazala je da 63 posto odraslih Amerikanaca podržava trenutačnu pauzu u razvoju AI-ja. Istraživanje Politica pokazalo je da otprilike dvije trećine Amerikanaca ima barem "umjerene" tjeskobe zbog toga što bi AI mogao uništiti čovječanstvo. U rujnu je objavljeno i da Anthropic gradi nadzorni aparat za praćenje anti-AI protesta.

Što to znači

Ovi podaci pokazuju da otpor prema AI-ju nije marginalna pojava. Čelnici najvažnijih AI tvrtki očito ne pripremaju samo odgovore na tehničke rizike, nego i na društvene reakcije koje bi njihovi proizvodi mogli izazvati. Koliko je stvarna prijetnja od pobune teško je procijeniti, ali sama činjenica da je razmatraju govori mnogo. To je znak da ih anti-AI backlash zabrinjava.

Što slijedi

Axios je objavio priču, OpenAI je odgovorio da provodi pripremne vježbe, a Anthropic nije komentirao. Daljnji koraci nisu detaljno poznati. Za sada je jasno da su čelnici vodećih AI tvrtki počeli razmatrati mogućnost masovne pobune protiv njih.