ES MI ekspertu grupa iztaujā modeļu veidotājus pēc kontroles incidentiem

Eiropas Komisijas 12. oktobra kopsavilkums vēsta, ka Henna Virkkunena un MI zinātniskā paneļa priekšsēdētājs Seán Ó hÉigeartaigh 2026. gada 9. oktobrī sasauca īpašu sanāksmi par neseniem modeļu kontroles zaudēšanas incidentiem. Panelis un Komisijas MI birojs ir sagatavojuši jautājumus iesaistīto modeļu izstrādātājiem; Komisija vēl nosūtīs kopīgus informācijas pieprasījumus. MI birojs jau ir pieprasījis un saņēmis ziņojumus par nopietniem incidentiem un prasījis ziņas par uzņēmumu drošības praksi.

2EU apskats šo soli raksturo kā pāreju no vispārīga riska apspriešanas uz konkrētu incidentu izmeklēšanu, kurā iesaistīts 60 neatkarīgu ekspertu panelis. Uzņēmumu un modeļu nosaukumi, kā arī atsevišķo incidentu apstākļi nav publiskoti. Tāpēc pagaidām ir runa par informācijas iegūšanu un tehnisku izvērtēšanu, nevis par konstatētu MI akta pārkāpumu.

Ko MI birojs jau prasījis izstrādātājiem

Izmeklēšanai ir divi atšķirīgi posmi. Birojs jau ir saņēmis nopietnu incidentu ziņojumus un nosūtījis pieprasījumus par drošības praksi. Nākamajos pieprasījumos tam pievienosies kopīgi sagatavotie paneļa jautājumi, lai precizētu, kas noticis ar konkrētajiem modeļiem. Pašreizējā informācija vēl nenozīmē, ka izstrādātāji uz šo kopīgo jautājumu kopumu būtu atbildējuši.

Sanāksmē paneļa priekšsēdētājs un viņa vietnieks izklāstīja gan jau zināmo par incidentiem, gan to, kas vēl jānoskaidro. Tas izskaidro, kādēļ uzņēmumu atbildes ir nozīmīgas: bez informācijas par modeļu darbību, drošības procedūrām un incidentu apstākļiem eksperti nevar pamatoti novērtēt, cik liels bijis kontroles zaudēšanas risks un kā tas ticis ierobežots. Konkrēts cēlonis vai kaitējums publiskajā kopsavilkumā nav noteikts.

Apzīmējums “kontroles zaudēšana” publiskajā informācijā nav papildināts ar atsevišķu gadījumu aprakstiem. Nav zināms, vai tie radušies izstrādes, izmēģinājumu vai publiskas lietošanas laikā. Tas ir svarīgs ierobežojums ikvienam, kurš izmanto vispārīga lietojuma MI pakalpojumus: pašlaik šo izmeklēšanu nevar droši sasaistīt ar kādu nosauktu produktu vai konkrētu lietotāju pieredzi.

Kāpēc eksperti pievērsās modeļu novērojamībai

Sanāksme aptvēra arī tehniskus apstākļus, kas varētu sarežģīt turpmāku incidentu atklāšanu. Panelis apsprieda apmācības paņēmienus, kuri mazina modeļu novērojamību, proti, iespēju laikus pamanīt un izvērtēt to uzvedību. Ja vērtētājiem kļūst grūtāk saprast, ko modelis dara, arī risku mazināšanai vajadzīgā informācija var pienākt vēlāk vai būt nepilnīga.

Priekšsēdētājs izklāstīja pierādījumus par iespēju, ka MI sistēmas arvien vairāk piedalās pašu MI sistēmu pilnveidošanā, un par saistītajiem riskiem. Šis jautājums bija plašākas tehniskās diskusijas daļa. Publicētajā informācijā nav teikts, ka kādā no izmeklētajiem incidentiem modelis būtu patstāvīgi pilnveidojies; eksperti aplūkoja iespējamu nākotnes riska mehānismu līdzās jau notikušu incidentu izvērtēšanai.

Paneļa mandāts aptver sistēmisku risku izvērtēšanu, vispārīga lietojuma modeļu klasifikāciju, novērtēšanas metodes un palīdzību pārrobežu tirgus uzraudzībā. Līdz ar to tā iesaiste šajā lietā dod birojam specializētu tehnisku skatījumu uz jautājumiem, kurus tas adresē izstrādātājiem. Uzņēmumu sniegtie skaidrojumi un ekspertu analīze var palīdzēt nošķirt drošības procedūru trūkumu no vēl nepietiekami izprastas modeļa uzvedības, taču šāds secinājums vēl nav publiskots.

Ko panelis ieteica Komisijai

Paneļa priekšsēdētājs un vietnieks ieteica labāk pārvaldīt riskus, ko rada uzņēmumu iekšējie modeļi izstrādes gaitā un tad, kad tos izvieto izmēģinājumiem. Šī detaļa paplašina incidentu izvērtējuma tvērumu: modelis var radīt drošības jautājumus arī pirms tā nonākšanas pie plašas publikas. Ieteikums attiecas uz pārvaldību šajā posmā, nevis uz kāda konkrēta uzņēmuma jau pierādītu nolaidību.

Viņi rosināja stiprināt ES spējas atklāt, novērtēt un izmeklēt šāda veida incidentus. Kā iespējams risinājums minēta darba grupa, kas sagatavotu tehnisko un procedurālo pamatu nākamajām izmeklēšanām. Atsevišķi ieteikta starptautiska informācijas apmaiņa, kopīgas prasības progresīvu modeļu izstrādātājiem un saskaņota reaģēšana krīzes situācijās.

Vēl viens ieteikums ir ciešāk pārbaudīt apmācības paņēmienus un modeļu uzbūvi, kas mazina novērojamību. Panelis šeit nosauc uzraudzības prioritāti, nevis pats nosaka jaunu aizliegumu. Tā loma ir konsultēt Komisiju un MI biroju par tehnisko risku; informācijas pieprasījumu vai citu uzraudzības pasākumu īsteno kompetentā iestāde saskaņā ar jau spēkā esošajiem noteikumiem.

Kuras MI akta pilnvaras jau darbojas

Komisijas skaidrojums par MI akta piemērošanu norāda, ka MI biroja un dalībvalstu kompetento iestāžu uzraudzības pilnvaras piemēro kopš 2026. gada 2. augusta. Birojs uzrauga vispārīga lietojuma MI modeļu izstrādātājus, tostarp tādus, kuru modeļi var radīt sistēmisku risku. Dalībvalstu iestādes uzrauga citus MI sistēmu veidus, savukārt ES iestāžu izmantotajām sistēmām ir atsevišķs uzraugs.

Birojs var pieprasīt informāciju atbilstības pārbaudei, veikt modeļu novērtēšanu un prasīt piekļuvi modelim. Vajadzības gadījumā tas var prasīt riska novēršanas pasākumus, pat ierobežot modeļa publisku pieejamību. Pienākumi vispārīga lietojuma modeļiem jau aptver pārredzamību un autortiesību ievērošanu, bet progresīvākajiem modeļiem ar sistēmisku risku arī drošumu un drošību, tostarp kontroles zaudēšanas risku.

Informācijas pieprasīšana pati par sevi vēl nav sankcija. Lai lemtu par pārkāpumu, uzraugam jānoskaidro, kuras prasības attiecas uz attiecīgo izstrādātāju un vai tās ievērotas. Šajā lietā nākamais konkrētais solis ir kopīgo paneļa un MI biroja jautājumu nosūtīšana uzņēmumiem; termiņš un atbilžu saturs nav publiskots. No saņemtajiem skaidrojumiem būs atkarīgs, vai pārbaudei vajadzēs arī padziļinātu modeļu novērtēšanu vai citus uzraudzības pasākumus.

Lasiet arī:

• Autoheal piesaista 7,9 miljonus — aģenti pārņem darbu pēc koda izmaiņām
• Airtable vai Coda: maksā par redaktoriem vai tikai dokumentu veidotājiem
• Vates piesaista 30 miljonus eiro — atvērtais pirmkods paliek dibinātāju kontrolē