Gemma má odhaľovať podvody v zariadení bez odosielania správ

Google DeepMind a singapurská Government Technology Agency (GovTech Singapore) 14. októbra 2026 predstavili model Gemma na dvojstupňové lokálne rozpoznávanie podvodných rozhovorov. Prichádzajúce správy má najprv triediť úsporný klasifikátor; pri podozrení má upravená Gemma preskúmať širší úsek konverzácie a upozorniť človeka v telefóne. Obsah správ sa pri tejto analýze nemá posielať na server. Partneri však opísali plán postupného začleňovania do aplikácií, nie funkciu, ktorú si už verejnosť môže zapnúť.

Projekt zaznel na Singapore International Cyber Week. Ministerka Josephine Teo v prejave na podujatí spojila včasné rozpoznanie manipulácie s tým, že zariadenie ponechá osobné správy používateľovi: „while keeping their personal messages on their devices“. Zmyslom varovania je zastaviť človeka skôr, než podvodník získa prihlasovacie údaje alebo peniaze. To, či sa upozornenie skutočne objaví, bude závisieť od nasadenia modelu v konkrétnej aplikácii.

Od prichádzajúcej správy k varovaniu

Prvý stupeň posudzuje prichádzajúcu správu ľahkým klasifikátorom, ktorý má spotrebovať málo energie. Ak ju vyhodnotí ako bežnú, náročnejšia analýza sa nespustí. Ak zachytí možný podvod, odovzdá podozrivý prípad upravenej Gemme. Toto rozdelenie má šetriť výkon telefónu: jazykový model dostane len prípady, pri ktorých samotný rýchly filter nestačí. Varovanie teda nevzniká len preto, že sa v jednej správe objaví nezvyčajné slovo.

Druhý stupeň dostane väčší výsek rozhovoru a posudzuje jednotlivé repliky vo vzájomnom kontexte. Má potvrdiť podozrenie, ale môže aj odmietnuť planý poplach z prvého filtra. Dôležitá je postupnosť: oslovenie môže vyzerať neškodne, zatiaľ čo nasledujúce správy budujú naliehavosť alebo dôveru pred žiadosťou o prevod peňazí. Opísaný postup preto neznamená, že model musí čítať celú históriu četov; pracuje so širším úsekom relevantnej konverzácie.

Ak druhý stupeň rozpozná manipulatívny vzorec, výsledkom má byť upozornenie priamo na zariadení. Používateľa má vyzvať, aby sa pred odoslaním citlivých údajov alebo peňazí zastavil. Jeho zásahom je výstraha v okamihu, keď obsah rozhovoru naznačuje nátlak; rozhodnutie o ďalšej odpovedi zostáva na človeku.

Správa v telefóne, tréning v spravovanom cloude

Pri budúcom používaní má analýza prebiehať na zariadení. Správy sa kvôli detektoru nemajú prenášať na server Googlu ani singapurskej vlády a model má ku konverzáciám pristupovať iba so súhlasom používateľa podľa podmienok aplikácie. Tento prísľub sa týka spracovania pre detektor. Samotná četovacia služba môže mať vlastné pravidlá prenosu a uchovávania správ, ktoré oznámenie projektu nemení.

Model vznikal v inej fáze a na inom mieste. Dolaďovanie Gemmy prebehlo v prostredí Google Cloud Platform, ktoré spravuje GovTech Singapore a v ktorom mali tréningové údaje zostať izolované. Vývojári použili anonymizované dáta odvodené z hlásení podvodov a informačných vstupov o nich; súkromné rozhovory občanov a osobné identifikačné údaje boli podľa opisu vývoja vylúčené. Cloud pri príprave modelu preto neznamená, že tam má pri neskoršom používaní odchádzať obsah četov.

Lokálne vyhodnocovanie má význam aj pre aplikácie s koncovým šifrovaním. Správa je na telefóne príjemcu čitateľná, takže tam možno hľadať známky manipulácie bez kontroly obsahu na serveri aplikácie. Súhlas však nie je technická drobnosť: až spôsob začlenenia do konkrétnej služby určí, ktoré rozhovory bude môcť model posudzovať a ako sa prístup používateľovi vysvetlí. Sľub o súkromí teda stojí na miestnom spracovaní aj na pravidlách aplikácie, ktorá model nasadí.

Prečo sa model učil na singapurských vzoroch

Gemmu dolaďovali na miestnych spôsoboch podvodu vrátane vydávania sa za verejné inštitúcie, banky a známe osoby. Zahrnuté boli aj schémy, ktoré sa šíria v regióne. Takýto kontext môže pomôcť rozlíšiť bežný rozhovor od manipulácie, ktorá používa vierohodné miestne mená a postupne mení tón. Klasifikátor posudzujúci jedinú správu by práve túto zmenu v priebehu konverzácie nemusel zachytiť.

Pre slovenského čitateľa je prenosný najmä princíp sledovania postupnosti správ. V podvodnom rozhovore môže žiadosť o údaje či peniaze prísť až po viacerých zdanlivo normálnych odpovediach; lokálne posúdenie širšieho kontextu má takýto obrat zachytiť bez odosielania četu na kontrolu. Singapurské doladenie však neposkytuje údaje o tom, ako by model rozpoznával slovenčinu, názvy našich bánk alebo napodobňovanie domácich úradov. Také výsledky by si vyžadovali osobitné overenie.

Kedy sa ochrana dostane do aplikácií

Podľa správy CNA je model určený pre zariadenia s Androidom a podrobnosti o tom, ako ho budú ľudia používať, ešte majú prísť. Partneri neoznámili dátum všeobecného sprístupnenia ani zoznam aplikácií. Opísali postupné nasadzovanie so singapurskou vládou; predstavený model preto ešte nie je ochranou dostupnou v každej správe na Androide.

Vývoj zahŕňal skúšky na syntetických dialógoch a miestnych súboroch konverzácií, no zverejnený opis neuvádza mieru úspešného zachytenia ani počet mylných varovaní. Bez týchto údajov sa nedá odhadnúť, koľko skutočných pokusov by funkcia prehliadla alebo ako často by prerušila nevinný rozhovor. Pre používateľa bude rozhodujúce prvé konkrétne nasadenie: až názov aplikácie, nastavenie súhlasu a výsledky prevádzky ukážu, akú ochranu projekt v praxi poskytne.

Prečítajte si aj: