ES sušaukė 60 DI ekspertų: vertinami nauji kontrolės praradimo incidentai

Europos Komisijos 2026 m. spalio 9 d. pranešime paskelbta apie specialų mokslinės grupės, kurią sudaro 60 nepriklausomų DI ekspertų, posėdį dėl naujausių modelių kontrolės praradimo incidentų. Grupė kartu su Komisijos DI biuru jau buvo parengusi klausimus bendrovėms, sukūrusioms su incidentais susijusius modelius. Posėdyje taip pat buvo numatyta pateikti Komisijai rekomendacijas dėl pažangių modelių saugos ir saugumo rizikos.

Tą pačią spalio 9 d. „AI Affairs“ rašė apie planuotą posėdį ir klausimus modelių kūrėjams. Posėdis įvyko, o grupės vadovybė pristatė rekomendacijas Komisijai ir DI biurui. Įmonėms svarbus skirtumas tarp šio ekspertinio vertinimo ir vėlesnių institucijos veiksmų: grupė teikia techninę nuomonę, o informacijos prašo ir priežiūros sprendimus priima įgaliotos institucijos.

Ką ekspertai aiškinasi apie incidentus

Grupė nagrinėjo iki šiol žinomas kontrolės praradimo incidentų aplinkybes ir išskyrė klausimus, į kuriuos dar reikia atsakyti. DI biuras jau yra prašęs ir gavęs pranešimų apie rimtus incidentus, taip pat siuntęs užklausas dėl saugumo praktikos. Dabar numatytos papildomos informacijos užklausos su bendrais biuro ir mokslinės grupės klausimais bendrovėms, sukūrusioms nagrinėjamus modelius.

Viešai neįvardyti konkretūs modeliai, jų kūrėjai ar kiekvieno atvejo eiga. Todėl iš paskelbtos informacijos negalima nustatyti, kokiomis sąlygomis pasireiškė aptariamas elgesys ir kaip jį vertino modelių kūrėjai. Būsimi atsakymai svarbūs būtent šioms aplinkybėms išsiaiškinti: be jų sunku spręsti, ar skirtingi atvejai turi bendrą techninę priežastį.

Posėdyje incidentai buvo siejami ir su platesniais techniniais klausimais. Ekspertai aptarė, kiek įmanoma stebėti modelių veikimą, mokymo metodus, galinčius mažinti šį stebimumą, ir rekursinio savęs tobulinimo galimybę bei jos riziką. Šios temos svarbios vertinant, kokius požymius galima aptikti bandymų metu ir kokios informacijos reikėtų, jei panašus incidentas pasikartotų.

Trys grupės vaidmenys pagal DI aktą

Sisteminės rizikos vertinimas reiškia, kad ekspertai gali atkreipti DI biuro dėmesį į bendrojo naudojimo modelių keliamą riziką ES mastu. Šio tyrimo atveju esminis klausimas yra, ar nagrinėjami incidentai atskleidžia platesnę modelių valdomumo problemą. Toks vertinimas remiasi techninėmis aplinkybėmis ir poveikio mastu; vien viešas incidento paminėjimas dar neparodo, kokios išvados bus padarytos dėl konkretaus modelio.

Antrasis vaidmuo – konsultuoti dėl modelių klasifikavimo. Šios mokslinės grupės posėdžio apžvalgoje nurodyta, kad spalio 9 d. jos pirmininkas Seán Ó hÉigeartaigh ir jo pavaduotojas pristatė rekomendacijas vykdomajai vicepirmininkei Hennai Virkkunen bei DI biurui. Grupės įprastas mandatas apima techninius patarimus dėl bendrojo naudojimo modelių klasifikavimo, tačiau posėdžio apžvalgoje nepaskelbtas sprendimas, priskiriantis kuriam nors iš nagrinėjamų modelių konkretų statusą.

Trečiasis vaidmuo apima vertinimo metodus ir rinkos priežiūrą. Ekspertų techninės įžvalgos gali padėti nustatyti, kokie duomenys ir bandymai leidžia patikimiau įvertinti modelio gebėjimus bei riziką. Grupė taip pat konsultuoja nacionalines institucijas ir padeda, kai priežiūra apima daugiau nei vieną valstybę. Šioje byloje tai gali turėti reikšmės tam, kaip būtų nagrinėjami iš kūrėjų gauti atsakymai ir kaip institucijos vertintų panašius atvejus ateityje.

Šie vaidmenys sudaro skirtingus darbo etapus. Techninis įspėjimas apie galimą sisteminę riziką gali paskatinti išsamesnį vertinimą; klasifikavimo patarimas padeda spręsti dėl modelio teisinio statuso; vertinimo metodika padeda surinkti ir palyginti reikalingus duomenis. Kiekvienu atveju ekspertų nuomonė yra indėlis į institucijų darbą, o ne savarankiškas įpareigojimas modelio kūrėjui.

Kokias rekomendacijas grupė pateikė

Grupės vadovybė pasiūlė atidžiau valdyti riziką, kurią kelia vidiniam kūrimui ir bandymams naudojami modeliai. Ji taip pat siūlo stiprinti ES gebėjimą aptikti, vertinti ir tirti tokio pobūdžio incidentus, įskaitant pasirengimą būsimiems tyrimams. Šie siūlymai susiję su tuo, kad incidentų aplinkybėms nustatyti gali prireikti ir techninių duomenų, ir aiškios tyrimo tvarkos.

Kitos rekomendacijos skirtos informacijos mainams tarp valstybių bei pažangių modelių kūrėjų ir atidesnei mokymo metodų bei architektūrų, mažinančių modelių stebimumą, priežiūrai. Pasiūlyta tarptautinė iniciatyva bendriems reikalavimams, krizių prevencijai ir reagavimui aptarti. Kol kas tai yra grupės vadovybės pasiūlymai, pateikti Komisijai ir DI biurui; jų turinys savaime nenustato naujos bendros pareigos visiems modelių kūrėjams ar naudotojams.

Artimiausias konkretus institucinis veiksmas yra papildomos užklausos su ekspertų ir DI biuro parengtais klausimais. Jos skiriasi nuo jau išsiųstų užklausų apie saugumo praktiką: naujieji klausimai turi padėti toliau tirti būtent aptariamus kontrolės praradimo incidentus. Kūrėjų atsakymai gali suteikti pagrindą tikslesniam techniniam vertinimui, tačiau viešai dar nepaskelbtas nei jo rezultatas, nei sprendimas dėl konkrečios bendrovės.

Ką tai reiškia Lietuvos įmonėms

Lietuvoje veikiantiems bendrojo naudojimo modelių kūrėjams posėdis pirmiausia rodo, kokią informaciją gali siekti gauti DI biuras: incidentų aplinkybes, taikytą saugumo praktiką, modelio veikimo stebimumą ir rizikos vertinimo duomenis. Jei kūrėjas gautų individualią užklausą, jos turinys apibrėžtų, ko institucija iš jo prašo. Bendras ekspertų rekomendacijų paskelbimas tokios individualios užklausos neatstoja.

Modelius savo sistemose diegiančioms Lietuvos įmonėms šis skirtumas taip pat svarbus. Viešas tyrimas leidžia suprasti, kodėl tiekėjo paaiškinimai apie modelio elgesį ir incidentus gali tapti reikšmingi vertinant naudojamą paslaugą. Tačiau iš šio posėdžio nekyla naujas vienodas reikalavimas visiems diegėjams: galimas poveikis priklausys nuo naudojamo modelio, įmonės vaidmens ir vėlesnių institucijų veiksmų.

Tolesnę istorijos kryptį parodys atsakymai į Komisijos planuojamas užklausas. Jei jie atskleis pasikartojančią riziką ar poreikį kitaip vertinti modelių valdomumą, DI biuras galės spręsti dėl konkretesnių vertinimo ar priežiūros veiksmų.

Taip pat skaitykite:

• Jira ar Linear: greitesnė užduotis gali kainuoti mažiau kontrolės
• DI vertintojas sutinka su žmogumi, bet balas vis tiek gali skirtis penkiais
• Kalifornija pareikalavo „OpenAI“ atsakymų dėl DI kibernetinių incidentų