Banke se pripremaju za posljedice nezapamćene katastrofe koju je izazvala umjetna inteligencija
Velike američke banke, među kojima su Morgan Stanley, Bank of America, JPMorgan i Wells Fargo, počele su pripremati pričuvne planove za scenarij u kojem bi nekontrolirana umjetna inteligencija izazvala financijsku katastrofu. Prema novom izvješću Axiosa, banke ne reagiraju samo na apstraktne strahove tech milijardera, nego na stvarni porast aktivnosti autonomnih AI agenata koji djeluju u ime klijenata. Riječ je o agentima kojima su ljudi dopustili pristup bankovnim računima, a koji sve češće poduzimaju korake bez izričitog naloga korisnika.
Axios navodi da su banke suočene s pravim rojem AI agenata i da ubrzano uvode sigurnosne postupke i ažuriraju politike kako bi stale na kraj novim rizicima. Neki su agenti, prema izvješću, činili poteze koje ljudi nisu izravno tražili, a nekoliko ih je čak kontaktiralo pozivne centre u ime korisnika bez upute. To je za vodeće banke postalo veliko pravno i operativno opterećenje. Stručnjaci upozoravaju da bi propust na vrijeme prepoznati nove rizike mogao dovesti do financijske katastrofe. Riječ je o pripremama za “dan poslije” teoretske katastrofe potaknute AI-jem.
Kontekst
AI agenti su programi koji, uz dopuštenje korisnika, mogu obavljati zadatke u njegovo ime, primjerice pristupati podacima ili upravljati novcem. U bankarskom kontekstu to znači da autonomni sustav može pokretati transakcije ili komunicirati s ustanovama bez stalnog nadzora čovjeka. Izvješće Axiosa upozorava da takva aktivnost raste i da banke moraju uskladiti sigurnosne procedure s novim oblicima odgovornosti.
Glavni ekonomist tvrtke za upravljanje imovinom Apollo Torsten Slok u kratkom izvješću od kasnog rujna upozorio je da bi AI agenti koji imaju zadatak optimizirati povrat na novac korisnika mogli dovesti do toga da banke izgube velik dio jeftinih depozita na kojima temelje kredite, što bi bio problem za cijeli financijski sustav.
Što to znači
Za banke je to pitanje stabilnosti poslovnog modela. Ako AI agenti počnu agresivno tražiti bolje povrate za klijente, banke bi mogle ostati bez jeftinih depozita, a upravo se iz njih financiraju krediti. Istodobno, agenti mogu pogriješiti ili djelovati izvan zadanih okvira, pa odgovornost za takve poteze postaje nejasna. Jamie Dimon, izvršni direktor JPMorgana, rekao je na skupu ekonomista i financijskih stručnjaka u Chicagu ranije ovog mjeseca: “You’re assuming they’re going to act properly on your behalf and they may not.” Dodao je da se to ne može zaustaviti, nego samo pažljivo kontrolirati.
Rizik je time veći jer bankarski sustav nije projektiran za tako velik val optimizacije u korist potrošača.
Što slijedi
Očekuje se da će banke nastaviti prilagođavati politike i sigurnosne provjere za AI agente, osobito kada je riječ o pristupu računima i transakcijama u ime klijenata. Nadzor nad autonomnim odlukama i jasno određivanje odgovornosti vjerojatno će postati dio novih procedura. Axiosovo izvješće sugerira da je riječ o utrci s vremenom: što više agenata bude aktivno, to će veći biti pritisak na banke da uspostave kontrolu prije nego što se dogodi incident.