Ihminen valvoo tekoälyä vain, jos hän voi pysäyttää sen

4. lokakuuta 2026 klo 13.00|Kirjoittaja: QUASAn toimitus|4 min lukuaika| 2

Tekoälyjärjestelmän ihmisen valvonta toimii käytännössä, kun valvojalla on aikaa, tietoa ja valta puuttua toimintaan ennen kuin se vaikuttaa muihin. Määritä kullekin merkittävälle teolle hyväksyntäkohta, vastuuhenkilö, päätöksessä tarvittavat tiedot sekä keinot hylätä tulos ja keskeyttää toiminta turvallisesti. Jos järjestelmä ehtii jo lähettää viestin tai muuttaa tietoa, myöhempi hyväksyntä ei estä kyseistä vaikutusta.

Korkean riskin järjestelmiä koskeva EU:n tekoälyasetuksen 14 artikla edellyttää, että valvoja voi ymmärtää järjestelmän rajat, havaita poikkeamia, välttää liiallista luottamista tuloksiin, sivuuttaa tai kumota tuloksen sekä keskeyttää toiminnan turvalliseen tilaan. Sama ajattelutapa auttaa suunnittelemaan muidenkin järjestelmien valvontaa, vaikka artiklan velvoitteet koskevat korkean riskin järjestelmiä.

Rajaa tapahtuma, johon ihminen voi vielä vaikuttaa

Aloita järjestelmän teoista ja niiden seurauksista. Ehdotuksen laatiminen, asiakasviestin lähettäminen ja toisen järjestelmän tietojen muuttaminen ovat eri tapahtumia, vaikka ne kuuluisivat samaan työnkulkuun. Selvitä kunkin kohdalla, kehen teko kohdistuu, voiko sen perua ja kuinka nopeasti valvojan on ehdittävä toimia. Hyväksyntä sijoitetaan ennen sitä rajaa, jonka jälkeen vaikutusta ei enää voi estää.

Jos tekoäly vain ehdottaa viestiluonnosta, ihminen voi arvioida sen työjonossa. Jos agentti saa myös lähettää viestin, lähetyksen on odotettava hyväksyntää tai lähetysoikeus on rajattava pois. Tämä on ehdollinen esimerkki: viestin sisältö, vastaanottaja ja mahdolliset seuraukset ratkaisevat, kuinka tiukkaa käsittelyä teko tarvitsee. Samassa työnkulussa voi siksi olla sekä vapaasti syntyviä luonnoksia että erillistä lupaa odottavia lähetyksiä.

Tee hyväksyntämatriisista työnkulun sääntö

Kirjaa jokaiselle toimintoluokalle valvottava tapahtuma, päätöksentekijä, hänelle näytettävä tieto, tuloksen ohitus, pysäytysmenettely ja lokiin jäävä merkintä. Matriisin rivi koskee tekoa eikä pelkästään käytettyä mallia. Seuraavat rivit ovat ehdollinen toteutusmalli organisaation omaan riskinarviointiin, eivät tekoälyasetuksen virallisia riskiluokkia.

Helposti peruttava ehdotus: nimetty työntekijä arvioi esimerkiksi viestiluonnoksen työjonossa ja näkee luonnoksen sekä sen tarkoituksen. Hän voi hyväksyä, hylätä tai palauttaa sen korjattavaksi. Jonon sulkeminen jättää ehdotuksen odottamaan; lokiin jäävät ehdotus, käsittelijä ja päätös.
Ulkopuoliseen vaikuttava teko: nimetty hyväksyjä näkee lähetyksen tai tietomuutoksen sisällön, kohteen ja olennaiset lähtötiedot ennen toimeenpanoa. Hylkäys estää teon, ja keskeytys sulkee myös saman tehtävän odottavat jatkotoimet. Loki yhdistää hyväksytyn version päätökseen ja toteutuneeseen tekoon.
Vaikeasti peruttava tai laajasti vaikuttava teko: nimetty vastuuhenkilö saa vaikutusarvion ja tiedon avoimista jatkotoimista ennen nimenomaista päätöstä. Hän voi jättää teon tekemättä ja pysäyttää koko tehtäväketjun. Lokista pitää selvitä päätöksen lisäksi, mitä ehti toteutua; varahenkilö ja käsin tehtävä jatkomenettely määritellään etukäteen.

Hyväksyntä ei saa syntyä automaattisesti siksi, että määräaika umpeutuu tai vastuuhenkilö on poissa. Jos ehdotuksia kertyy enemmän kuin valvoja ehtii arvioida ennen toimeenpanoa, vähennä järjestelmän itsenäisiä oikeuksia, hidasta työnkulkua tai siirrä tehtävä ihmiselle. Muuten matriisi antaa valvojalle päätösvallan vain paperilla.

Näytä päätöksen kannalta olennainen tieto

Hyväksyjän on nähtävä muutakin kuin tekoälyn lopputulos. Näytä, mitä järjestelmä aikoo tehdä, mihin syötteisiin ehdotus perustuu, mihin se vaikuttaa ja mitkä käyttörajat koskevat tilannetta. Puuttuva tai epävarma tieto pitää tuoda esiin silloin, kun se voi muuttaa päätöstä. Valvoja tarvitsee myös mahdollisuuden verrata ehdotusta muihin työtilanteen tietoihin eikä vain järjestelmän omaan perusteluun.

Hyväksyminen, hylkääminen ja korjattavaksi palauttaminen ovat eri päätöksiä. Palautettu ehdotus odottaa uutta arviota, jos sen sisältö tai kohde muuttuu. Hylkäys puolestaan estää saman teon toimeenpanon myös muuta reittiä pitkin. Käyttöliittymän päätöspainikkeet auttavat vain, jos nämä seuraukset toteutuvat myös järjestelmän oikeuksissa ja työjonossa.

Erota tuloksen ohitus toiminnan pysäyttämisestä

Yksittäisen tuloksen hylkääminen ei vielä pysäytä agenttia. Jos sillä on jonossa muita toimia tai oikeus käynnistää uusia työvaiheita, keskeytyksen on estettävä myös niiden eteneminen. Määritä etukäteen, jäävätkö keskeneräiset tehtävät odottamaan, mitkä jo tehdyt muutokset voidaan perua, kuka käsittelee seuraukset ja millä päätöksellä toiminta voidaan käynnistää uudelleen. Turvallinen tila tarkoittaa tässä sitä, ettei keskeytynyt työnkulku jatka ulospäin vaikuttavia tekoja omin päin.

Korkean riskin järjestelmän käyttöönottajaa koskeva tekoälyasetuksen 26 artikla edellyttää, että valvonta osoitetaan henkilöille, joilla on tarvittava pätevyys, koulutus, toimivalta ja tuki. Artikla edellyttää myös käytön keskeyttämistä ja ilmoituksia siinä määritellyssä riskitilanteessa. Käytännön menettelyssä valvojalla täytyy siksi olla selvä yhteys tahoon, joka voi katkaista toimintaoikeudet. Pelkkä hälytys ei pysäytä järjestelmää, jos uusia tekoja voidaan yhä käynnistää.

Jätä päätöksestä jälki ja koettele keskeytystä

Lokista pitää selvitä, mikä ehdotus annettiin, mitä järjestelmä aikoi tehdä, kuka hyväksyi, ohitti tai pysäytti toiminnan ja mitä tapahtui ennen päätöstä. Säilytä myös tieto hyväksyjälle näytetystä ehdotusversiosta: myöhemmin korjattu sisältö ei kerro, minkä perusteella alkuperäinen päätös tehtiin. Jos keskeytys tapahtuu kesken tehtäväketjun, lokin on erotettava toteutuneet teot odottamaan jääneistä.

NISTin AI RMF -kehys ohjaa määrittelemään ihmisen ja tekoälyn vastuut sekä suunnittelemaan jatkuvan seurannan ja määräaikaiset arvioinnit. Matriisia kannattaa koetella myös poikkeustilanteessa: saako valvoja tarpeelliset tiedot ajoissa, estääkö hylkäys toimeenpanon ja pysähtyvätkö odottavat toimet? Havaitut viiveet ja ohitusreitit antavat perusteen muuttaa oikeuksia, hyväksyntärajoja tai työnkulkua.

Lue myös:

Jaa: