Viralni ChatGPT Memory prompt otkriva velik rizik za vlasnike kriptovaluta
Viralni upit koji traži od ChatGPT-a da popuni praznu sobu svime što zna o korisniku otkrio je koliko je chatbot skupio u svojoj memoriji. Mnogi korisnici znali su da ChatGPT pohranjuje podatke, no kada su sve informacije vidjeli na jednoj slici, dio njih ostao je nelagodan. Trend na prvi pogled izgleda kao bezazlena zabava, ali ujedno djeluje kao sigurnosni test jer svaki predmet u sobi odražava podatke koje su korisnici nekada upisali u chatbot.
Upit spaja običnu sliku prazne sive sobe s uputom "Fill this room with what you know about me". ChatGPT zatim namješta prostor na temelju prošlih razgovora. Popularan kripto račun na X-u pozvao je pratitelje da isprobaju trik i objave rezultate. Trik se brzo proširio kao zabava, ali je pokazao i granicu između osobnog i javnog. Kada se takve slike javno objave na X-u, isti profil mogu dobiti i stranci. Zato je zabava istovremeno i pokazatelj koliko se osobnih detalja može otkriti bez izravnog pristupa računu.
Kontekst
Prema OpenAI-u, memorija ChatGPT-a radi na dva načina. Spremljena sjećanja čuvaju detalje poput korisničkog imena, preferencija i ciljeva. Pretplatnici Plus i Pro dobivaju i referencu na povijest razgovora, pa model može koristiti stare razgovore čak i kada ništa nije posebno spremljeno. To znači da se podaci iz starijih razgovora mogu ponovno pojaviti u novom kontekstu. Ta rastuća memorija otežava prelazak na drugi alat, što je dio rasprave o zaključavanju korisnika u AI memoriju. OpenAI dopušta korisnicima da pregledaju, izbrišu ili isključe memoriju ChatGPT-a u postavkama Personalization. Privremeni razgovor ne čita memoriju niti je ažurira.
Ključne brojke
Najveći broj u izvornom tekstu odnosi se na kaznu koju je sudac u New Mexicu naložio Meti: 25 milijardi dolara zbog načina na koji je Facebook postupao s korisničkim podacima. Riječ je o rekordnoj kazni u izvornom tekstu. Taj iznos pokazuje koliko su regulatori spremni povećati cijenu neispravnog rukovanja podacima. U tekstu se spominju i pretplatnički planovi Plus i Pro, ali bez dodatnih brojki.
Što to znači
Za kripto korisnike rizik je veći od neugodnih detalja. Ranije ove godine programeri su pronašli podatke kripto novčanika u razgovorima s Claudeom koje je Google indeksirao preko dijeljenih poveznica. Spremljeni profil koji spominje imovinu, burze ili planove putovanja može pomoći prevarantima da sastave uvjerljivije phishing poruke. Osnivač Binancea Changpeng Zhao već je tvrdio da stvarna AI opasnost leži u phishingu i curenju podataka, a ne u razbijanju Bitcoinove kriptografije. Prazna soba tako pokazuje što bi napadač mogao naučiti.
Što slijedi
Neki u kripto svijetu idu dalje. Suosnivač Ethereuma Vitalik Buterin izradio je paranoidni način rada za AI koji maskira upite prije nego stignu do modela. Kako memorija ChatGPT-a postaje dublja, prazna soba mogla bi postati rutinska provjera onoga što AI tvrtke drže o korisnicima. Korisnici će morati odlučiti hoće li memoriju pregledavati, brisati ili isključivati, osobito prije javnog objavljivanja rezultata ovakvih upita.