ЕС разследва загуба на контрол над AI — експертите могат да подадат сигнал

В съобщението на Европейската комисия от 12 октомври се посочва, че на 9 октомври 2026 г. изпълнителният заместник-председател Henna Virkkunen и председателят на научния панел по ИИ Seán Ó hÉigeartaigh са свикали специално заседание за скорошни случаи на загуба на контрол над модели. Панелът и Службата на ЕС по ИИ са подготвили въпроси към компаниите, разработили засегнатите модели. Службата вече е поискала и получила доклади за сериозни инциденти и е поискала информация за практиките за сигурност.

Комисията ще изпрати допълнителни искания за информация, за да продължи разследването на случаите. Заседанието само по себе си не налага мярка срещу разработчик, но член 90 от Акта за изкуствения интелект позволява на панела да изпрати квалифициран сигнал до Службата по ИИ при обосновано подозрение за конкретен риск от модел с общо предназначение. След такъв сигнал Комисията може да оцени случая чрез предвидените в закона правомощия.

Какво вече е установено за инцидентите

Председателят и заместник-председателят на панела са представили известното досега за случаите и въпросите, които остават неизяснени. Съвместната работа със Службата по ИИ насочва следващите искания към разработчиците на замесените модели. Така техническата оценка участва в разследването още при определянето каква допълнителна информация е необходима.

Публично не е назована нито една засегната компания, нито конкретен модел. Не са описани и действията, довели до отделните инциденти. Получените доклади показват, че Службата по ИИ вече събира сведения, но от тях не следва публично заключение за нарушение или отговорност на определен разработчик.

Следващите искания ще обединят въпросите на панела и на Службата по ИИ. Разликата спрямо вече изпратените запитвания за практиките за сигурност е участието на експертите в оформянето на въпросите за самите случаи. Комисията не е посочила срок за новите искания или дата, на която ще представи резултатите от проучването.

Защо панелът обсъжда модели в разработка

Разследването е повод панелът да разгледа и рисковете преди широкото използване на даден модел. Председателят и заместник-председателят са препоръчали управление на риска от вътрешни модели по време на разработването и внедряването им за тестове. Това е препоръка за начина, по който ЕС да следи подобни рискове, а не констатация, че конкретна компания е нарушила правило при изпитване.

Експертите са обсъдили и техники за обучение, които затрудняват наблюдението на поведението на моделите, както и данни за възможността системи с ИИ да подобряват способностите си чрез собствената си работа. Тези въпроси са свързани с разследването, защото по-трудното проследяване на поведението може да затрудни изясняването на инцидент. Панелът препоръчва по-задълбочен преглед на техниките и архитектурите, които намаляват възможността за такова наблюдение.

Сред останалите предложения са по-силен капацитет на ЕС да открива, оценява и разследва подобни случаи, включително чрез специализирана група, както и международен обмен на информация и общи изисквания към разработчиците на най-усъвършенствани модели. Предложени са също съвместни действия за реакция при криза и предотвратяване на бъдещи инциденти. Засега това са насоки към Комисията и Службата по ИИ; решение за прилагането им не е обявено.

Кога оценката може да стане квалифициран сигнал

За формален сигнал не е достатъчна обща тревога от поведението на ИИ. Панелът трябва да има основания да подозира, че определен модел с общо предназначение създава конкретен, разпознаваем риск на равнище ЕС или отговаря на законовите условия за модел със системен риск. Затова обсъждането на инциденти и препоръките за по-добро наблюдение не означават сами по себе си, че тази процедура е започнала.

Квалифицираният сигнал трябва да бъде мотивиран. Той трябва да съдържа описание на относимите факти, причините за тревогата и данни за контакт с доставчика на засегнатия модел; панелът може да добави и друга информация, която смята за съществена. Именно тази конкретика превръща експертната преценка в основание Комисията да обмисли формална оценка.

Няма публично потвърждение, че панелът е изпратил квалифициран сигнал за случаите, обсъдени на специалното заседание. Вече получените доклади и предстоящите въпроси са реални действия по разследването, но правният им статут не бива да се смесва със статута на сигнал по член 90. Двата пътя могат да използват сходна техническа информация, без да са една и съща процедура.

Какво може да последва за разработчиците

Ако панелът изпрати квалифициран сигнал, Комисията може да действа чрез Службата по ИИ, след като информира Европейския съвет по изкуствен интелект. Законът ѝ дава възможност да поиска документация и информация, да оцени модела и при съответните условия да поиска мерки от доставчика. Сигналът отваря път към оценка; сам по себе си той не е санкция.

За разработчиците, чиито модели са засегнати от сегашното разследване, непосредственото потвърдено развитие са допълнителните искания за информация. Техните отговори могат да помогнат да се установят обстоятелствата около инцидентите и дали са нужни последващи действия. Публичните данни засега не позволяват да се каже дали Комисията ще предприеме мярка срещу някоя компания.

Следващият видим етап е изпращането на общите въпроси на панела и Службата по ИИ до разработчиците. От съдържанието на отговорите и от последващата експертна оценка ще зависи дали проучването ще остане на равнище събиране на сведения и препоръки, или ще се появят основания за формален сигнал и регулаторна оценка.

Прочетете също:

• ClickUp или Asana: повече функции могат да означават по-бавно внедряване
• Unity Gateway дава общ контрол над Claude Code и Codex
• FTC разследва OpenAI и Anthropic — безопасността влиза в досието