Gemma leitar að svikum í símanum — nákvæmnin er enn leynd

Í frétt CNA af kynningunni kemur fram að Josephine Teo, ráðherra stafrænnar þróunar í Singapúr, kynnti samstarf Google DeepMind og GovTech Singapore um svikagreiningu í síma á Singapore International Cyber Week 14. október 2026 og að vörnin sé ætluð Android-tækjum. Gemma-líkanið á að greina grunsamleg samtöl í tækinu, en almenn dreifing í skilaboðaappi er enn fyrirhuguð. Ekki hefur verið tilgreint hvaða app taki lausnina fyrst upp eða hvenær notendur fái aðgang að henni.

Í kynningu Google DeepMind lýsir Mark Chen, yfirmaður trausts og öryggis hjá GovTech Singapore, markmiðinu svo: „Fighting scams shouldn't mean sacrificing personal privacy.“ Kerfið notar fyrst létta síu fyrir ný skilaboð og lætur síðan fínstillt Gemma-líkan meta stærra samhengi þegar grunur vaknar. Samtalsgreiningin á að fara fram í símanum með samþykki notandans; engin birt nákvæmnitala sýnir enn hversu vel hún finnur raunveruleg svik.

Létt sía velur hvaða samtöl Gemma metur

Fyrra þrep kerfisins metur innkomin skilaboð með flokkara sem á að nota litla orku. Skilaboð sem hann telur meinlaus stöðvast þar. Þegar hann sér hugsanleg merki um svik fær Gemma stærra brot úr samtalinu og metur hvort orðaskiptin sýni blekkingu eða hvort fyrri grunurinn hafi verið ástæðulaus. Þannig er umfangsmeiri greiningu beint að afmörkuðum hluta skilaboðanna í stað þess að keyra hana við hvert einasta þeirra.

Þessi skipting ræður líka hvar mistök geta orðið. Svik sem fyrri sían hleypir fram hjá sér komast aldrei til Gemma, jafnvel þótt líkanið hefði þekkt blekkinguna í samhengi samtalsins. Of næm sía getur hins vegar sent mörg saklaus samtöl áfram, aukið vinnu í símanum og skapað fleiri tilefni til ónauðsynlegra viðvarana. Nákvæmni Gemma einnar og sér myndi því ekki lýsa því hversu vel öll vörnin virkar.

Samkvæmt fyrirhugaðri virkni birtist viðvörun í símanum þegar seinna þrepið greinir merki um blekkingu. Hún á að fá notandann til að staldra við áður en hann sendir peninga eða viðkvæmar upplýsingar. Úttekt AccessAllGPT bendir á að hvorki nákvæmt auðkenni líkansins né tölur um svik sem finnast, svik sem sleppa í gegn, falskar viðvaranir eða rafhlöðunotkun hafi verið birtar. Innri prófanir samstarfsaðilanna gefa því enn enga opinbera viðmiðun fyrir árangur við daglega notkun.

Greiningin á að halda samtalinu í símanum

Persónuverndarloforðið snýst um staðsetningu úrvinnslunnar. Þegar líkanið verður fellt inn í app á það að skoða samtalið í tæki notandans, án þess að senda textann til skýjaþjóns vegna svikagreiningarinnar. Samkvæmt lýstri útfærslu eiga hvorki Google né stjórnvöld í Singapúr að fá aðgang að samtölum í gegnum þessa notkun líkansins. Það er afmörkuð lýsing á gagnaleið greiningarinnar, ekki heildarlýsing á allri gagnavinnslu appsins sem síðar tekur hana upp.

Líkanið á aðeins að fá aðgang að samtölum með samþykki notandans og samkvæmt skilmálum viðkomandi apps. Þess vegna mun útfærslan í appinu skipta máli: hvaða samtöl heimildin nær til, hvernig viðvörunin birtist og hvaða gögn appið sjálft vinnur með. Þar sem ekkert fyrsta app hefur verið nefnt liggur ekki fyrir hvernig þessi atriði verða útfærð fyrir notendur. Fyrirhuguð staðbundin vinnsla lýsir því skýrri hönnun, en ekki reynslu af útgefinni þjónustu.

Hönnunin hefur sérstaka þýðingu fyrir skilaboðaþjónustur sem nota enda á enda dulkóðun. Samtal sem notandi getur lesið í eigin síma má þar greina á sama tæki án þess að miðlægur þjónn þurfi ódulkóðaðan texta til svikaskimunar. Vörnin myndi þó aðeins ná til þeirra samtala sem viðkomandi app veitir henni aðgang að. Það ræðst af samþykki notanda og þeirri dreifingu sem samstarfsaðilarnir ákveða, ekki af því einu að Gemma geti keyrt staðbundið.

Þjálfunin miðast við svikamynstur í Singapúr

Gemma-líkanið var fínstillt fyrir staðbundin svik, þar á meðal samtöl þar sem sendandi þykist vera frá opinberri stofnun, banka eða þekktri persónu. Slík blekking getur byggst upp yfir fleiri en ein skilaboð áður en óskað er eftir peningum eða trúnaðarupplýsingum. Það skýrir hvers vegna seinna þrep kerfisins skoðar samhengi samtals í stað þess að dæma hvert grunsamlegt skilaboð eitt og sér.

Fínstillingin fór fram í Google Cloud-umhverfi sem GovTech Singapore stýrir og heldur utan um. Samstarfsaðilarnir lýsa þjálfunargögnunum sem nafnlausum gögnum úr svikatilkynningum og upplýsingum um svik; einkasamtöl borgara og persónugreinanlegar upplýsingar áttu að vera undanskilin. Líkanið var einnig prófað á tilbúnum samtölum og staðbundnum gagnasöfnum. Skýjavinnslan við þróun líkansins og fyrirhuguð greining á samtölum notenda eru því aðskilin ferli með ólíkar gagnaleiðir.

Þessi aðlögun að Singapúr segir ekki sjálfkrafa til um árangur á öðrum tungumálum eða gegn öðrum svikaaðferðum. Íslensk skilaboð geta vísað til annarra stofnana og byggst á öðru orðalagi en þau samtöl sem notuð voru við fínstillinguna. Ef sambærileg vörn yrði síðar boðin á Íslandi þyrfti árangur hennar að koma fram í prófunum á íslenskum aðstæðum. Engin slík dreifing eða niðurstaða hefur verið kynnt fyrir þetta verkefni.

Fyrsta appið og mældur árangur ráða næsta skrefi

Samstarfsaðilarnir gera ráð fyrir áfangaskiptri dreifingu í öppum í Singapúr. Þeir hafa ekki nefnt fyrsta appið, aðferð til að setja vörnina upp eða fastan útgáfudag. Fyrir notendur er munurinn skýr: þróað og prófað líkan getur verið tilbúið til frekari innleiðingar án þess að vera orðið að aðgengilegri vörn í daglegum skilaboðum. Nánari upplýsingar um dreifingu munu einnig sýna hvaða símar og samtöl falla raunverulega undir hana.

Við mat á virkni þarf að greina á milli svika sem fyrri sían missir af og mistaka sem verða eftir að samtal nær til Gemma. Niðurstöður fyrir kerfið í heild þurfa jafnframt að sýna hversu oft saklaus samtöl valda viðvörun og hvort greiningin heldur í við nýjar svikaaðferðir. Prófun á tilbúnum samtölum sýnir að unnið hafi verið með fjölbreytt dæmi, en án birtra niðurstaðna er ekki hægt að bera þá vinnu saman við það sem gerist þegar fólk notar skilaboðaapp.

Staðbundin greining hefur líka kostnað fyrir símann sem þarf að mæla við fyrirhugaða notkun: töf þegar Gemma er kölluð til, minnisþörf og áhrif á rafhlöðu. Þau gögn skipta máli vegna þess að sían og stærra líkanið þurfa að vinna saman meðan samtal stendur yfir. Þegar fyrsta appið verður nefnt munu upplýsingar um prófunaraðstæður, heildarárangur og orkunotkun skera úr um hversu mikið fyrirhuguð viðvörun getur í raun hjálpað notendum.

Lestu einnig:

• Whisper eða Google fyrir íslenskt tal: stuðningur tryggir ekki nákvæmni
• Claude fann CRISPR-líkt kerfi — enginn veit enn hvað það gerir
• Cloudflare vill verða vottunarstjóri — skammtaheld rót er ekki tilbúin enn