Gemma gegn símasvikum: árangurstölur vantar

Josephine Teo, ráðherra stafrænnar þróunar og upplýsinga í Singapúr, kynnti 14. október 2026 samstarf GovTech Singapore og Google DeepMind um svikagreiningu fyrir Android-síma. Þau hafa sérstillt Gemma-líkan til að greina merki um blekkingar í skilaboðasamtölum á símanum sjálfum. Áformað er að koma því inn í forrit í áföngum; enn liggja ekki fyrir birtar tölur um hversu vel það greinir svik eða hversu oft það varar ranglega við.

Í kynningu Google DeepMind segir Mark Chen, yfirmaður trausts og öryggis hjá GovTech Singapore: „Fighting scams shouldn't mean sacrificing personal privacy.“ Fyrirhuguð útfærsla metur skrifleg samskipti í tækinu og birtir viðvörun meðan samtal stendur yfir, áður en notandi deilir viðkvæmum upplýsingum eða sendir peninga. Þessi verkun er fyrirhuguð í forritum sem taka líkanið upp; almennur aðgangur hefur ekki verið kynntur.

Frá skilaboðum til viðvörunar

Greiningin er hönnuð í tveimur þrepum til að spara vinnslugetu og rafhlöðu. Léttur flokkunarbúnaður fer fyrst yfir innkomin skilaboð og flokkar saklaus skilaboð án þess að kalla á þyngra líkanið. Ef skilaboðin virðast grunsamleg fær sérstillt Gemma-líkan stærri hluta samtalsins og metur hvort þar sé raunveruleg blekking eða fölsk vísbending.

Þessi skipting skiptir máli vegna þess að svikatilraun getur þróast yfir mörg skilaboð. Einstök beiðni um að svara fljótt er ekki endilega svik, en hún getur fengið aðra merkingu þegar sá sem skrifar þykist vera frá banka eða opinberri stofnun og þrýstir síðan á um greiðslu. Líkaninu er ætlað að lesa slíkt samhengi, í stað þess að dæma samtal eftir einu grunsamlegu orði.

Sérstillingin beindist meðal annars að frásögnum þar sem svikari hermir eftir opinberri stofnun, banka eða þekktum einstaklingi í Singapúr, auk svikaaðferða sem hafa verið að breiðast út á svæðinu. Ef síðara þrepið metur samtalið sem svik á að birtast viðvörun á skjá tækisins og hvetja notandann til að staldra við. Viðvörunin er inngrip í ákvörðun notandans; hún framkvæmir ekki sjálf greiðsluvarnir eða stöðvar millifærslu.

Hvar samtalið er lesið og hvar líkanið var þjálfað

Við fyrirhugaða notkun fer greining skilaboðanna fram í símanum sjálfum. Samtalið þarf þá ekki að fara á netþjón Google eða stjórnvalda til þess að þessi tiltekna flokkun geti átt sér stað. Það er sérstakur kostur fyrir skilaboðaforrit með enda á milli dulkóðun: þjónn forritsins sér ekki skýran texta skilaboðanna, en sími viðtakandans getur unnið úr þeim eftir afkóðun.

Aðgangur líkansins að samtali á að vera háður samþykki notandans og skilmálum þess forrits sem tekur það upp. Hvorki Google né stjórnvöld í Singapúr eiga að fá aðgang að samtölunum í gegnum þessa uppsetningu. Sú lýsing nær til úrvinnslu líkansins; hún segir ekki til um alla aðra gagnavinnslu viðkomandi forrits, til dæmis hvað það geymir eða hvaða upplýsingar það notar til að afhenda skilaboð.

Sérstilling líkansins fór fram á öðrum stað en dagleg greining á símanum: í Google Cloud-umhverfi sem GovTech Singapore stýrir og heldur utan um. Þar voru notuð nafnlaus gagnasöfn unnin úr svikatilkynningum og upplýsingum um svikaaðferðir. Einkasamskipti og persónugreinanlegar upplýsingar borgara voru útilokuð frá þjálfuninni. Þjálfun í stýrðu skýjaumhverfi jafngildir því ekki því að ný samtöl notenda fari þangað við greiningu.

Prófanir án birtra árangursmælikvarða

Líkanið var prófað á tilbúnum samtölum og staðbundnum gagnasöfnum sem áttu að ná yfir mismunandi tegundir svika og breyttar aðferðir við að þykjast vera annar aðili. Það sýnir að þróunaraðilarnir hafa lagt prófunardæmi fyrir kerfið. Engar birtar tölur um stærð prófsins eða niðurstöður þess gera þó kleift að reikna næmni, hlutfall rangra viðvarana eða hversu margar svikatilraunir sleppa í gegn.

Næmni myndi segja hversu stóran hluta staðfestra svika kerfið finnur. Rangar jákvæðar niðurstöður myndu sýna hversu oft saklaus samtöl kalla fram viðvörun. Hvort tveggja þarf að mæla við sömu skilgreiningu á svikatilraun og við raunhæfa blöndu samtala; annars er erfitt að túlka hlutföllin. Tíð viðvörun við venjulegum samskiptum gæti auk þess gert fólk síður móttækilegt þegar raunveruleg hætta kemur upp.

Prófun á því að viðvörun birtist í rauntíma svarar heldur ekki því hvort hún birtist nógu snemma til að breyta hegðun eða draga úr fjárhagslegu tjóni. Þar þarf að fylgjast með atburðarásinni frá grunsamlegum skilaboðum að ákvörðun notandans, án þess að rugla saman fjölda birtra viðvarana og fjölda afstýrðra svika. Hraði greiningar og áhrif á rafhlöðu skipta líka máli ef forrit á að vinna stöðugt á venjulegum síma.

Áfangainnleiðing í Singapúr og spurningin fyrir Ísland

Næsti áfangi er innleiðing í forritum í samstarfi við stjórnvöld í Singapúr, með samþykki þeirra sem nota þau. Ekki hafa verið nefnd tiltekin forrit, dagsetning almenns aðgangs eða leið fyrir notendur til að setja líkanið upp. Þess vegna er ekki hægt að líta á kynninguna sem staðfestingu á því að Android-notandi geti þegar fengið þessa viðvörun í sínu skilaboðaforriti.

Á Íslandi væri flutningur sömu aðferðar yfir á íslensk samskipti sérstakt matsverkefni. Líkan sem lærði af svikafrásögnum í Singapúr hefur ekki þar með sýnt að það þekki íslenskt orðalag, nöfn stofnana eða staðbundnar greiðslubeiðnir. Innlendar prófanir þyrftu að sýna bæði hvaða svik það greinir og hversu oft það truflar venjuleg samtöl, áður en hægt væri að tala um sambærilega vörn hér.

Fyrstu niðurstöður úr áfangainnleiðingunni munu skipta mestu ef þær sýna frammistöðu eftir tegund svika og tungumáli, ásamt tíðni rangra viðvarana og tímasetningu þeirra í samtalinu. Þær myndu sýna hvort viðvörunin berst á réttu augnabliki; upplýsingar um afstýrðar greiðslur eða tjón þurfa síðan að fylgja til að meta áhrifin á svikin sjálf.

Lestu einnig: