ЕС расследуе выпадкі страты кантролю над ШІ — пытанні атрымаюць распрацоўшчыкі

9 кастрычніка 2026 года віцэ-прэзідэнтка Еўракамісіі Хенна Віркунен і старшыня навуковай групы па ШІ Seán Ó hÉigeartaigh склікалі спецыяльнае пасяджэнне аб рызыках перадавога ШІ. Эксперты ўжо вывучалі нядаўнія выпадкі страты кантролю над мадэлямі і разам з AI Office падрыхтавалі пытанні кампаніям, якія іх распрацавалі. Еўракамісія збіраецца накіраваць распрацоўшчыкам аб’яднаныя запыты інфармацыі, каб працягнуць расследаванне інцыдэнтаў.

AI Affairs паведамляла пра запланаванае пасяджэнне 9 кастрычніка і адзначала, што ў навуковую групу ўваходзяць 60 незалежных экспертаў. Публічна пакуль не названыя ні кампаніі, ні мадэлі, ні канкрэтныя дзеянні сістэм, якія сталі прадметам расследавання. Адрасаваныя распрацоўшчыкам пытанні азначаюць збор фактаў; высновы аб парушэнні правілаў або рашэння аб абмежаванні мадэляў пакуль няма.

Што ўжо зрабілі ў расследаванні інцыдэнтаў

Праца рэгулятара пачалася да спецыяльнага пасяджэння. AI Office ужо запытаў і атрымаў паведамленні пра сур’ёзныя інцыдэнты, а таксама накіраваў запыты пра практыкі бяспекі распрацоўшчыкаў. Наступны этап — аб’яднаныя пытанні ведамства і навуковай групы, якія павінны дапамагчы ўдакладніць абставіны выпадкаў страты кантролю.

На сустрэчы старшыня і намеснік старшыні групы прадставілі вядомыя ім звесткі пра інцыдэнты і паказалі, якіх дадзеных не хапае. Гэта тлумачыць, чаму Камісія звяртаецца да кампаній, што стварылі адпаведныя мадэлі: частка неабходнай інфармацыі знаходзіцца ў саміх распрацоўшчыкаў. Камісія не апублікавала ні пераліку пытанняў, ні апісання паводзін кожнай мадэлі; таму па адкрытых звестках нельга назваць удзельнікаў або ацаніць цяжар асобнага выпадку.

Істотная паслядоўнасць дзеянняў: паведамленні пра сур’ёзныя інцыдэнты ўжо атрыманыя, запыты пра практыкі бяспекі ўжо адпраўленыя, а аб’яднаныя пытанні яшчэ толькі будуць накіраваныя. Адказы на ранейшыя запыты і будучыя звесткі ад распрацоўшчыкаў могуць даць AI Office больш поўную карціну таго, як працавалі мадэлі і якія меры бяспекі ўжывалі кампаніі. Дата адпраўкі новых запытаў публічна не вызначана.

Што эксперты раяць змяніць пасля пасяджэння

Навуковая група абмяркоўвала не толькі самі выпадкі, але і ўмовы, пры якіх іх складаней своечасова заўважыць. У цэнтры тэхнічнай часткі былі магчымасць рэкурсіўнага самаўдасканалення ШІ і спосабы навучання, якія змяншаюць магчымасць назіраць за працай мадэляў. Камісія не звязала ніводзін такі спосаб з пэўным інцыдэнтам; размова ішла пра рызыкі для будучых расследаванняў і мер па іх зніжэнні.

Старшыня і намеснік старшыні прапанавалі лепш кіраваць рызыкамі мадэляў, якія кампаніі выкарыстоўваюць унутры сябе падчас распрацоўкі і выпрабаванняў. Гэтая прапанова ахоплівае этап, калі мадэль ужо можа прымяняцца для тэстаў, але яе праца яшчэ залежыць ад унутраных працэдур распрацоўшчыка. Рэкамендацыя датычыць кантролю рызык у такіх умовах; яе прадстаўленне на пасяджэнні само па сабе не ўводзіць новага абавязку для кампаній.

Яшчэ адна прапанова — павялічыць здольнасць ЕС выяўляць, ацэньваць і расследаваць падобныя выпадкі, у тым ліку праз рабочую групу і падрыхтоўку тэхнічных ды працэдурных асноў для будучых расследаванняў. Эксперты таксама прапанавалі міжнародны абмен інфармацыяй, агульныя патрабаванні да распрацоўшчыкаў перадавога ШІ і сумеснае рэагаванне на крызісныя сітуацыі. Асобна яны заклікалі больш уважліва сачыць за метадамі навучання і архітэктурамі, якія ўскладняюць назіранне за працай мадэлі.

Якія паўнамоцтвы мае навуковая група

Роля групы ў механізме AI Act — даваць тэхнічную экспертызу AI Office і нацыянальным органам. Яна дапамагае ацэньваць сістэмныя рызыкі мадэляў агульнага прызначэння, падыходы да іх класіфікацыі і метады праверкі магчымасцяў. Яе веды могуць спатрэбіцца і пры наглядзе за мадэллю, якая выкарыстоўваецца ў розных краінах ЕС: тэхнічная ацэнка дапамагае органам разабрацца ў рызыцы, перш чым вырашаць пытанне аб мерах.

У гэтай справе ўплыў групы практычны, але дарадчы: эксперты вывучылі паведамленыя выпадкі, сфармулявалі частку пытанняў кампаніям і перадалі рэкамендацыі Камісіі. Сам факт, што пытанне ўвайшло ў запыт, не азначае высновы аб парушэнні з боку распрацоўшчыка. Для прававой ацэнкі патрэбныя звесткі пра канкрэтную мадэль, яе пастаўшчыка і абавязкі, якія да яго прымяняюцца.

Калі пытанні могуць перарасці ў меры

Тлумачэнне Еўракамісіі пра выкананне AI Act адводзіць AI Office нагляд за пастаўшчыкамі мадэляў ШІ агульнага прызначэння і асобнымі звязанымі сістэмамі; большасць іншых сістэм кантралююць нацыянальныя кампетэнтныя органы. Ведамства можа запытваць інфармацыю, праводзіць ацэнку мадэлі і патрабаваць доступу да яе для такой ацэнкі. Навуковая група дае спецыялізаваную падтрымку, але рашэнні аб прымусовых мерах прымае не яна.

Форма запыту мае прававое значэнне. AI Office можа адправіць звычайны запыт або аформіць яго рашэннем Камісіі. Няправільны ці ўводзячы ў зман адказ на звычайны запыт можа стаць падставай для штрафу; пры запыце, аформленым рашэннем, такой падставай можа быць таксама адсутнасць або няпоўнасць адказу. Таму атрыманне пытання і ўстанаўленне парушэння — розныя этапы магчымай працэдуры.

Калі праверка выявіць парушэнне абавязкаў паводле AI Act, Камісія можа прыняць рашэнне аб штрафе. У дачыненні да мадэляў агульнага прызначэння AI Office можа запатрабаваць мер для змяншэння рызыкі і, калі гэта неабходна, абмежавання публічнай даступнасці мадэлі. Пакуль ні штраф, ні такое абмежаванне ў сувязі з разгледжанымі інцыдэнтамі не абвешчаныя. Найбліжэйшая канкрэтная падзея — адпраўка аб’яднаных запытаў распрацоўшчыкам; іх адказы дапамогуць вызначыць, ці патрэбныя далейшыя праверкі і меры.

Чытайце таксама:

• Barclays аддае Claude палову распрацоўшчыкаў — кантроль стане галоўным тэстам
• Нью-Ёрк выклікаў распрацоўшчыкаў ШІ пад прысягу — рыхтуюцца новыя правілы
• GitLab звязаў ШІ-код з кантролем: кожная змена пакідае доказ