Менаџерите бараат речиси двојно повеќе човечка контрола врз AI

12 октомври 2026 г., во 15:00|Автор: Уредувачки тим на QUASA|5 мин. читање| 1

TeamViewer на 7 октомври 2026 година објави резултати од глобална анкета според кои 46% од средните менаџери бараат човек да учествува кога AI решава ИТ-проблем што може да ги засегне безбедноста, податоците или работењето, наспроти 24% од извршните лидери. Анкетата ја спровела Sapio Research во април и мај 2026 година со 4.200 испитаници од девет пазари, меѓу кои нема испитаници од Северна Македонија. Разликата се однесува на чувствителни автономни дејства, а не на секоја употреба на AI.

Во извештајот на IT Security Guru се наведува дека 45% од ИТ-одлучувачите ги гледаат безбедноста, приватноста и ризикот како пречка за усвојување AI, а 30% од работниците се загрижени за небезбеден или неовластен пристап; таму е пренесено и предупредувањето на директорот за информациска безбедност на TeamViewer, Јан Би: „Security cannot be added after autonomy is introduced.“ За ИТ-тимот тоа значи да разграничи кои акции агентот смее да ги заврши сам, за кои мора веднаш да извести и кои чекаат човечко одобрение пред извршување.

Интервенцијата има вредност само со јасни граници

На страницата на истражувањето се наведува дека 70% се чувствуваат удобно со автономна акција ако можат да интервенираат, 36% сакаат ограничувања за пристапот на AI, а 31% посочуваат можност за враќање на промената како услов што би им ја зголемил довербата. Овие одговори покажуваат зошто „човек во процесот“ може да значи различни работи: право на увид, право на прекин или задолжително претходно одобрение. Изборот зависи од последицата на конкретното дејство, не од општата ознака дека алатката е автономна.

Прекинувањето помага кога промената сè уште трае или кога може сигурно да се врати. Ако агентот веќе споделил доверливи податоци или проширил пристап до чувствителен систем, известување по настанот не ја заменува одлуката што требало да дојде прва. Затоа организацијата треба однапред да ги одвои читањето податоци, предлагањето промена и нејзиното извршување: секое од тие овластувања носи различна последица. Записот за дејството е корисен за утврдување што се случило, но самиот запис не му дава на човекот можност да спречи ризична промена.

Три нивоа на овластување за AI-агент

Следниот модел е уреднички предлог за претворање на резултатите во работно правило, а не објавена политика на TeamViewer. За секое дејство се оценуваат податоците до кои агентот пристапува, влијанието врз други корисници или системи и дали последицата може да се врати. Овластувањето се поставува за задачата и не се проширува автоматски само затоа што претходна задача поминала без проблем.

Самостојно извршување. Агентот дејствува во однапред одобрен, тесен опсег со податоци за кои веќе има дозвола, кога дејството не менува туѓи права и последицата лесно се враќа. Условен пример е повторување проверка на состојбата на службен уред без промена на поставките. Однапред треба да бидат познати дозволените команди, засегнатите уреди и моментот кога задачата запира наместо да пробува нов начин за решавање. За секое извршување останува запис што овозможува подоцна да се види што точно било направено.
Извршување со известување. Агентот прави промена во познат опсег и веднаш го известува лицето одговорно за системот, кое може да ги запре следните дејства или да ја врати промената. Условен пример е примена на претходно одобрена поправка на ограничена група уреди, ако е проверено дека враќањето е изводливо. Известувањето мора да ги именува засегнатиот систем, направената промена и достапниот начин за прекин; не е доволно само да се каже дека задачата е завршена. Ова ниво има смисла кога брзото дејствување носи корист, а последицата останува под човечка контрола.
Задолжително човечко одобрение. Агентот подготвува предлог и чека пред да пристапи до чувствителни податоци, да прошири привилегии, да смени безбедносна поставка или да преземе тешко повратно дејство. Условен пример е барање за нови администраторски права при решавање ИТ-инцидент. Одобрувачот треба да ги види причината, обемот на пристапот, засегнатите системи и очекуваната последица, па да може да го одбие или стесни барањето. Ако не може да се најде надлежното лице, барањето останува на чекање.

Истиот агент може да помине низ сите три нивоа во една задача: сам да открие проблем, да извести дека има дозволена поправка и да запре ако за следниот чекор му требаат пошироки права. Токму преминот меѓу дејствата е важен. Одобрување за една поправка не е трајна дозвола за сите идни промени, ниту дозволата за читање податоци автоматски дозволува нивно испраќање или менување.

Кој одговара кога агентот чека одлука

Поставувањето граница има смисла само ако е именуван човекот што смее да ја помести. Кога AI предлага промена на пристапни права, одобрувач треба да биде лице со надлежност за засегнатиот систем и увид во деловната последица, а не кој било што прв ќе го види известувањето. Ако задачата допира повеќе системи, треба однапред да е јасно кој го дава последното одобрение и кој го презема случајот кога тоа лице е недостапно. Инаку автоматизацијата може да застане токму при итен проблем или да продолжи со согласност од погрешна страна.

За организации во Северна Македонија, анкетните проценти не ги опишуваат ставовите на домашните вработени, бидејќи земјата не била опфатена. Корисното прашање е оперативно: дали агентот има само пристап неопходен за задачата, дали промената може да се поништи и дали назначеното лице ја гледа пред да стане неповратна. Кога одговорот за пристапот или враќањето е нејасен, границата се поместува кон претходно човечко одобрение; тоа го задржува ризичното овластување кај лицето што може да одговара за одлуката.

Прочитајте и:

Сподели: