Sam Altman: Bolje je da RAM bude u podatkovnom centru nego na vašem stolu

Sam Altman, izvršni direktor OpenAI-ja, u intervjuu je komentirao nestašicu RAM-a i ocijenio lošim to što se RAM nalazi u osobnim računalima umjesto u podatkovnim centrima. Gostujući u podcastu Cheeky Pint, Altman je odgovarao na pitanja o nestašicama u opskrbnom lancu, poput aktualne nestašice RAM-a. U istom razgovoru osvrnuo se i na utjecaj umjetne inteligencije na matematiku. Njegova izjava o raspodjeli RAM-a privukla je pozornost jer dolazi iz tvrtke koja razvija AI modele i ovisi o računalnim resursima.

Altman je objasnio da mnogi ljudi žele lokalnu inferenciju. Pritom, kako je rekao, pretpostavljaju da je problem riješen jer će imati modele otvorenog koda i moći će ih pokretati na svojim računalima, pa im neće trebati sve što je u podatkovnom centru. No iz perspektive globalne raspodjele, istaknuo je, "prilično je grozno" imati RAM u svakom osobnom računalu umjesto u podatkovnim centrima. U izvornom tekstu citat je na tome mjestu prekinut, pa nije naveden cijeli završetak njegove misli. Ostaje jasno da Altman dovodi u pitanje ideju da se potreba za podatkovnim centrima može lako zaobići lokalnim pokretanjem modela.

Kontekst

Nestašica RAM-a u tekstu se spominje kao aktualni problem u opskrbnom lancu. RAM je vrsta memorije, a Altmanova izjava stavlja je u kontekst rasprave o tome gdje će se AI modeli izvršavati. Lokalna inferencija znači pokretanje modela na vlastitom računalu, a ne u podatkovnom centru. Zagovornici takvog pristupa, kako prenosi izvor, žele modele otvorenog koda koje bi mogli pokretati na svojim uređajima. Altman, međutim, upozorava da takva pretpostavka zanemaruje globalnu raspodjelu resursa. Podatkovni centri u njegovu su argumentu mjesto gdje RAM, prema njegovoj ocjeni, treba biti u većoj mjeri nego u osobnim računalima.

U istom podcastu Altman je govorio i o utjecaju AI-ja na matematiku, što pokazuje da je razgovor obuhvatio šire teme od same opskrbe hardverom.

Što to znači

Altmanova izjava važna je jer otvara napetost između želje za lokalnim AI modelima i ograničenih resursa. Ako sve više ljudi želi pokretati modele na osobnim računalima, to može promijeniti način na koji se RAM raspoređuje između pojedinaca i podatkovnih centara. Altman očito ne smatra da je pitanje riješeno samo zato što postoje modeli otvorenog koda. Njegov argument usmjeren je na globalnu perspektivu: nije samo stvar osobnog izbora hoće li netko imati RAM kod kuće, nego i pitanje gdje će ti resursi ukupno završiti. To je relevantno za raspravu o nestašicama u opskrbnom lancu, ali i za razumijevanje kako čelnici AI tvrtki gledaju na buduću infrastrukturu.

Izvor ne nudi detaljnije podatke o količinama ni o konkretnim posljedicama, pa ostaje na razini Altmanove ocjene i konteksta koji je sam naveo.

Što slijedi

Iz dostupnog teksta ne proizlazi konkretan plan ni najava mjera. Nije navedeno hoće li OpenAI ili drugi dionici mijenjati pristup raspodjeli RAM-a, ni kako bi se lokalna inferencija mogla uskladiti s potrebama podatkovnih centara. Ostaje pratiti daljnje Altmanove izjave i raspravu o nestašici RAM-a, ali iz izvornog teksta ne treba izvoditi zaključke koji u njemu nisu sadržani. Ono što je sigurno jest da je Altman javno doveo u pitanje pretpostavku da će lokalno pokretanje modela otvorenog koda riješiti problem potrebe za podatkovnim centrima. U tom smislu njegova je poruka više upozorenje o globalnoj raspodjeli nego najava konkretnog koraka.