Singapurska vlada i Google DeepMind razvijaju prilagođeni model umjetne inteligencije za otkrivanje prijevara

Google DeepMind i singapurska vlada udružili su snage kako bi izradili prilagođeni AI model za otkrivanje prijevara. U sklopu Nacionalnog AI partnerstva, Google DeepMind surađuje s Government Technology Agency of Singapore (GovTech Singapore). Rezultat je model koji radi na uređaju i čuva privatnost, a predstavljen je na Singapore International Cyber Week (SICW 2026).

Prevare poput investicijskih prijevara, lažnih ponuda za posao i impersonacije javnih dužnosnika čine više od polovice prijavljenih kaznenih djela u Singapuru. Od 2019. prouzročile su više od S$4 milijarde gubitaka. Prevare se sve više oslanjaju na složeni socijalni inženjering, pa sada čine do 80% svih gubitaka. Zato su Google DeepMind i GovTech Singapore prilagodili Googleov lagani Gemma model lokalnim prijevarama. Model razlikuje bezopasno društveno čavrljanje od stvarne manipulacije. Za razliku od tradicionalnog otkrivanja prijetnji, koje se oslanja na skeniranje poruka na poslužitelju u oblaku, ovaj model može obrađivati podatke razgovora izravno na uređaju.

Kada otkrije manipulativne obrasce, pokreće upozorenje na uređaju korisnika.

Kontekst

Riječ je o modelu koji se izvodi lokalno, na mobilnom uređaju, bez slanja podataka u oblak. Fine-tuning znači dodatno prilagođavanje već postojećeg modela, u ovom slučaju Gemme, specifičnim lokalnim primjerima prijevara. Takvi generički modeli često ne prepoznaju lokalne tehnike obmane. Dvostupanjska pipeline sastoji se od laganog klasifikatora koji pregledava dolazne poruke uz minimalnu potrošnju energije, te druge faze koja analizira širi snimak razgovora kako bi potvrdila prijetnju ili odbacila lažnu uzbunu.

Sve je razvijeno uz strogo upravljanje: fine-tuning se odvijao unutar GovTech Singaporeovog GCP okruženja pod nazivom Sovereign Sandbox, bez podataka građana, uz anonimizirane skupove podataka i testiranje na sintetičkim dijalozima i lokalnim korpusima. Model je zamišljen i za platforme za razmjenu poruka koje balansiraju zaštitu korisnika s end-to-end enkripcijom.

Ključne brojke

Više od polovice prijavljenih kaznenih djela u Singapuru otpada na prijevare. Od 2019. gubici premašuju S$4 milijarde. Prevare čine do 80% svih gubitaka. Model je predstavljen na SICW 2026. Razvijen je kroz dva stupnja obrade.

Što to znači

Model omogućuje lokalnu, trenutačnu detekciju prijevara i pomaže građanima djelovati prije nego što dođe do financijske ili izloženosti vjerodajnica. Budući da radi isključivo na uređaju, ni singapurska vlada ni Google ne mogu pristupiti korisničkim razgovorima putem njegove implementacije. Time se pokazuje da AI može pomoći u borbi protiv kriminala bez ugrožavanja sigurnosti ili privatnosti. Ujedno se nudi model za platforme koje žele zaštititi korisnike, a zadržati end-to-end enkripciju.

Što slijedi

Uvođenje modela u aplikacije bit će pažljivo fazno i razvijano u suradnji sa singapurskom vladom. Model će moći pristupati razgovorima na uređaju samo uz korisnikov pristanak, u skladu s uvjetima korištenja pojedine aplikacije. Google DeepMind najavljuje da će uskoro podijeliti više detalja o suradnji sa singapurskom vladom te istražuje mogućnost primjene slične tehnologije u drugim zemljama.