AI Act wymaga kompetencji AI, ale nie narzuca jednego szkolenia

Dostawcy i podmioty stosujące systemy AI muszą podejmować działania wspierające rozwój kompetencji personelu oraz innych osób, które obsługują lub używają tych systemów w ich imieniu. Art. 4 AI Act każe przy tym uwzględnić wiedzę techniczną, doświadczenie, wykształcenie i dotychczasowe szkolenie tych osób, kontekst użycia systemu oraz ludzi, na których system oddziałuje. Obecne brzmienie przepisu nie wymaga zagwarantowania każdej osobie określonego poziomu kompetencji.

Nie ma więc jednego obowiązkowego kursu dla wszystkich użytkowników AI. Wyjaśnienia Komisji Europejskiej wskazują, że format działań zależy od zastosowania systemu, certyfikat nie jest wymagany, a wewnętrzny rejestr może dokumentować szkolenia i inne formy instruktażu. Komisja podaje też przykład używania ChatGPT do pisania tekstów reklamowych: pracownicy powinni znać ryzyko błędnych treści. Lista obecności na ogólnym webinarze potwierdzi udział, lecz sama nie pokaże, czy zespół potrafi ocenić wynik przed jego wykorzystaniem.

Kogo objąć przygotowaniem

Plan dotyczy osób, które w imieniu dostawcy lub podmiotu stosującego zajmują się działaniem albo używaniem systemu. Mogą to być pracownicy, a zależnie od organizacji pracy także wykonawcy zewnętrzni. Znaczenie ma wykonywana czynność, nie sama nazwa stanowiska: osoba przygotowująca treść, osoba zatwierdzająca ją do publikacji i osoba utrzymująca narzędzie potrzebują różnych informacji.

Przy ustalaniu zakresu przygotowania trzeba też uwzględnić osoby, na które wynik AI może oddziaływać. Nie stają się one przez to automatycznie uczestnikami firmowego szkolenia. Ich sytuacja wpływa jednak na to, jakich błędów użytkownik powinien umieć szukać i kiedy powinien wstrzymać użycie wyniku. Jak informowało Ministerstwo Cyfryzacji, obowiązek dotyczący kompetencji AI zaczął być stosowany 2 lutego 2025 r.

Mapa zastosowań przed wyborem szkolenia

Najpierw warto rozpisać rzeczywiste zastosowania AI w organizacji. Taki wykaz pozwala odróżnić użycie narzędzia do roboczego szkicu od sytuacji, w której jego wynik trafia do klienta albo wpływa na decyzję dotyczącą innej osoby. Dla każdego zastosowania trzeba znać drogę wyniku od wprowadzenia danych do zatwierdzenia działania.

1. Wpisz system i zadanie, na przykład przygotowanie projektu reklamy, odpowiedzi dla klienta lub streszczenia zgłoszeń.
2. Ustal, kto wprowadza dane, kto korzysta z wyniku, kto go zatwierdza i kto może zatrzymać proces po wykryciu błędu.
3. Opisz pomyłki możliwe w tym zadaniu: nieprawdziwe twierdzenie, niewłaściwe użycie danych, błędną interpretację wyniku albo nadmierne zaufanie do odpowiedzi.
4. Wskaż odbiorców wyniku oraz moment, w którym człowiek może wychwycić błąd, zanim wywoła on skutek.

To propozycja organizacji pracy, nie urzędowy formularz. Mapa pomaga jednak uzasadnić różnice w przygotowaniu osób korzystających nawet z tego samego systemu. Pracownik tworzący szkic musi wiedzieć, czego nie wpisywać i czego nie przyjmować bez sprawdzenia; osoba zatwierdzająca potrzebuje także kryteriów dopuszczenia wyniku do użycia.

Matryca ról i ryzyka

Matryca może mieć cztery pola: rola, możliwy błąd, potrzebna umiejętność i sposób jej sprawdzenia w praktyce. Nie wymaga punktacji ani jednakowej liczby godzin nauki dla całej firmy. Jej zadaniem jest powiązanie przygotowania z decyzjami, które dana osoba rzeczywiście podejmuje, oraz ze skutkami pomyłki.

• Osoba przygotowująca szkic powinna znać przeznaczenie narzędzia, zasady wprowadzania danych i ograniczenia odpowiedzi. Ćwiczenie może polegać na wskazaniu twierdzenia, którego nie wolno przekazać dalej bez weryfikacji.
• Osoba zatwierdzająca wynik potrzebuje kryteriów oceny treści, wiedzy o jej odbiorcach i możliwości odrzucenia wyniku. Powinna umieć rozstrzygnąć, kiedy wystarczy poprawka, a kiedy należy wstrzymać użycie treści.
• Osoba konfigurująca system powinna znać jego przeznaczenie, uprawnienia dostępu, źródła danych i sposób zgłaszania nieprawidłowości. Zmiana ustawień może wymagać aktualizacji instrukcji przekazanych użytkownikom.
• Osoba nadzorująca zastosowanie powinna wiedzieć, kto używa systemu, gdzie trafiają jego wyniki i kto odpowiada za reakcję na błąd. Zakres jej przygotowania rośnie, gdy skutki decyzji są trudne do odwrócenia lub dotyczą innych osób.

Role można połączyć, jeżeli jedna osoba wykonuje kilka czynności, albo rozdzielić, gdy zadanie przechodzi między zespołami. Matryca powinna wskazywać konkretną odpowiedzialność, zamiast przypisywać wszystkich do szerokiej grupy „użytkowników AI”. Dzięki temu można też zauważyć lukę między przygotowaniem osoby tworzącej wynik a przygotowaniem tej, która podejmuje decyzję o jego użyciu.

Co powinno znaleźć się w instruktażu

Wspólne wprowadzenie do działania AI może stanowić początek programu, ale część praktyczna powinna dotyczyć własnego narzędzia i zadania zespołu. Przydatne jest ćwiczenie na warunkowym przykładzie podobnym do codziennej pracy, z jasno wskazanym momentem oceny wyniku przez człowieka.

• Narzędzie: do czego jest używane, jakie są granice jego zastosowania i gdzie znajdują się obowiązujące instrukcje.
• Dane: co wolno wprowadzać, jak postępować z informacjami osobowymi lub poufnymi i co zrobić po omyłkowym przekazaniu niewłaściwych danych.
• Nadzór człowieka: kto sprawdza wynik, według jakich kryteriów i kto podejmuje ostateczną decyzję o jego wykorzystaniu.
• Reakcja na błąd: jak wstrzymać użycie wyniku, komu zgłosić problem i jak dotrzeć do osób, które zdążyły już na nim polegać.

Przy tworzeniu tekstu reklamowego warunkowe ćwiczenie może polegać na ocenie projektu zawierającego twierdzenie bez potwierdzenia. Uczestnik wskazuje wtedy, co należy sprawdzić przed publikacją i do kogo skierować wątpliwość. W innym zastosowaniu trzeba zmienić zarówno rodzaj błędu, jak i drogę zatwierdzania wyniku.

Rejestr działań bez ustawowego certyfikatu

Wewnętrzny rejestr ma pokazywać, jakie działania podjęto, kogo objęły i dlaczego odpowiadały sposobowi używania systemu. Można prowadzić go dla grupy osób lub konkretnego zastosowania. Sam podpis na liście obecności będzie bardziej użyteczny, jeśli towarzyszy mu zapis zakresu instruktażu i zadania, do którego przygotowywano uczestników.

• System, zadanie i zespół odpowiedzialny za jego używanie.
• Grupa uczestników oraz ich rola w obsłudze, zatwierdzaniu lub nadzorze.
• Data, forma i zakres działania, na przykład instruktażu, ćwiczenia albo omówienia błędu.
• Użyte materiały oraz osoba odpowiedzialna za ich aktualność.
• Sposób sprawdzenia zrozumienia zasad, jeśli go zastosowano, i ustalone uzupełnienia.

Egzamin nie jest wymaganym elementem takiego programu. Omówienie błędnej odpowiedzi lub obserwacja krótkiego ćwiczenia może jednak pokazać, czy uczestnik umie zastosować instrukcję w swojej roli. Gdy dołącza nowa osoba, zmienia się narzędzie albo wynik zaczyna służyć innemu celowi, matryca i rejestr pomagają ustalić, jaki instruktaż trzeba przygotować ponownie.

Przeczytaj także:

• Polska czwarta w UE pod względem udziału ofert wymagających kompetencji AI
• Polska wdraża część DSA — skarga do UKE nie usunie od razu treści
• Zoom czy Google Meet na słabym łączu? Benchmark nie daje jednego zwycięzcy