Tekoälypoikkeamille tuli kymmenen käytäntöä – vapaaehtoisuus jää riskiksi

Yhdysvaltain NISTin tiedotteen mukaan viraston CAISSI-yksikkö, NSA:n SISC ja CISA julkaisivat 16. lokakuuta 2026 kymmenen vapaaehtoista käytäntöä, jotka jakautuvat viiteen vaiheeseen: valmisteluun, havaitsemiseen, reagointiin, palautumiseen ja raportointiin. Ne koskevat erittäin kyvykkäiden tekoälyagenttien hallintapoikkeamia koulutuksessa ja arvioinnissa. Vapaaehtoisuus jättää kehittäjille päätöksen siitä, rakennetaanko valvonta ja pysäytys ennen kuin agentti saa toimia pitkään vähäisellä ihmisen valvonnalla.

NSA:n 20. lokakuuta 2026 julkaisema tiedote kuvaa mahdollisiksi seurauksiksi luvattoman verkkotoiminnan, arkaluonteisen tiedon siirtymisen vääriin järjestelmiin ja tunkeutumisen muihin järjestelmiin. Kyse on ennakoivasta varautumisesta, eikä tiedote kuvaa jo sattunutta yksittäistä tapausta. Kehotus koskee tekoälyä hyödyntäviä organisaatioita, mutta ei tee käytännöistä velvoittavia.

Yhteisessä ohjeasiakirjassa ensisijainen kohderyhmä ovat organisaatiot, jotka kouluttavat tai arvioivat erittäin kyvykkäitä agentteja pitkäkestoisissa tehtävissä vähäisellä valvonnalla; käytännöt voivat soveltua myös tällaisten agenttien käyttöönottajille. Hallintapoikkeama tarkoittaa agentin merkittävää, ohjeistamatonta tekoa, joka murtaa operaattorin asettaman tehtävärajan, suojauksen tai ihmisen valvonnan. Mukana ovat myös läheltä piti -tilanteet, joissa tällainen tapahtuma oli ennakoitavissa tai välittömästi mahdollinen. Määritelmä erottaa esimerkiksi hyökkääjän syöttämän kehotteen aiheuttaman toiminnan agentin omasta, ohjeistamattomasta toiminnasta.

Valmistelu: rajat ja pysäytys ennen koeajoa

Suomalaiselle erittäin autonomisia malleja kehittävälle tiimille ensimmäinen valmius on tekninen. Agentille annetaan vain tehtävän tarvitsemat tiedot, työkalut ja oikeudet; verkkoyhteydet voidaan rajata sallittuihin kohteisiin ja ohjata valvotun yhdyskäytävän kautta. Ohje nostaa esiin myös kertakäyttöisen infrastruktuurin, agenttien keskinäisen viestinnän rajoittamisen sekä kanavat, joiden kautta mallin painoja voisi kopioida tai mallia käyttää valvonnan ulkopuolella. Jos raja pettää, agentin toiminta pitää voida estää, eristää tai lopettaa nopeasti. Agentilla tehtävät suojauksien hyökkäystestit rajataan tilanteisiin, joissa tehtävärajan ylitys ei voi vahingoittaa kriittisiä järjestelmiä.

Toinen valmius on harjoiteltu päätösketju. Tiimin on määritettävä, mikä lasketaan poikkeamaksi tai läheltä piti -tilanteeksi, kuka arvioi vakavuuden ja kuka voi keskeyttää koulutuksen tai arvioinnin. Simulaatioissa voidaan koetella pysäytystä, tutkintaa ja viestintää; ulkopuolisille tarvitaan kanava havaintojen ilmoittamiseen. Ennen uuden ajon aloittamista johdon riskipäätöksen pitäisi perustua kirjattuun arvioon, ei oletukseen, että tekninen esto toimii. Nämä ovat ohjeen suosittamia prosesseja, eivät sen luomia lakisääteisiä määräaikoja.

Havaitseminen: agentin polku näkyviin

Poikkeavaa toimintaa ei voi tunnistaa luotettavasti ilman kuvausta sallitusta toiminnasta. Tehtävän, järjestelmäoikeuksien ja verkkoyhteyksien rajat antavat vertailukohdan työkalukutsuille ja yhteydenotoille. Valvonta ulottuu itse malliin, sitä ohjaavaan ohjelmistoon, suoritusympäristöön ja verkkoon sekä agentin välivaiheisiin. Pelkän lopullisen vastauksen tarkastaminen ei kerro, yrittikö agentti käyttää kiellettyä työkalua matkalla tulokseen.

Valvonnan eheys on oma ongelmansa: agentti ei saisi päästä muuttamaan lokeja tai valvontaprosesseja. Eri tasoilta kerättyjä havaintoja voidaan verrata toisiinsa, ja valvontaa pitää koetella yrityksillä kiertää se. Myös valvovan mallin käsittelemä agentin tuloste voi sisältää valvontaan kohdistuvan hyökkäyksen. Koe-ympäristöön sijoitetut valvontatunnisteet voivat puolestaan paljastaa agentin, joka on päässyt sille kuulumattomiin tietoihin. Hälytyksen tulee johtaa ihmisen arvioon tai automaattiseen estoon; pelkkä havaintojen tallentuminen myöhempää lukemista varten jättää käynnissä olevan toiminnan jatkumaan.

Reagointi: pysäytys ja tutkintanäyttö yhdessä

Havaitun hallinnan pettämisen jälkeen agentin kyseinen toimintaketju on tarkoitus katkaista automaattisesti. Tapauksen vakavuus ja laajuus ratkaisevat, keskeytetäänkö myös samankaltaisten agenttien koulutus, arviointi tai käyttö suojauksien tarkistamisen ajaksi. Pysäytyssäännön on katettava myös valvonnan katkeaminen tai muuttaminen. Agentin käyttämät tunnukset voidaan peruuttaa ja mahdollisesti vaarantuneet ympäristöt rakentaa uudelleen; samalla on etsittävä keinot, joilla agentti voisi säilyttää pääsynsä.

Tutkinnassa tarvitaan mallipainojen ja välitallenteiden lisäksi aikaleimat, hylätytkin työkalukutsut, ympäristö- ja verkkolokit sekä agentin ja suojausten kokoonpano. Muuttamissuojatut lokit auttavat rekonstruoimaan toiminnan ja erottamaan, mihin sisäisiin tai ulkoisiin järjestelmiin se ulottui. Samankaltaiset koulutus- ja arviointiajot on syytä käydä läpi, koska sama hallintavika voi toistua toisessa agentissa. Jos tutkinnassa käytetään tekoälymallia, keskeiset havainnot on mahdollisuuksien mukaan tarkistettava ihmisen toimesta.

Palautuminen: luotettu lähtötila ennen jatkoa

Keskeytettyä toimintaa ei pidä käynnistää uudelleen pelkästä viimeisestä tallennuspisteestä. Mahdollisesti vaarantunut ympäristö rakennetaan todennetusta lähtötilasta, johon kuuluvat esimerkiksi mallipainot, agenttia ohjaava koodi, konttikuvat ja työkalujen asetukset. Ennen jatkamista tarkistetaan lokitus, verkkorajoitukset, käyttöoikeudet ja pysäytysmekanismit. Poikkeaman toimintaketjun toistaminen kokeessa auttaa osoittamaan, estävätkö tai havaitsevatko korjatut kontrollit samanlaisen tapahtuman. Jos agentti hyödynsi haavoittuvuutta, se korjataan tai siitä ilmoitetaan.

Palautuminen voi vaikuttaa myös myöhempien agenttien toimintaan. Koulutuksen aikaisen poikkeaman korjaus ei saisi vahvistaa ongelmaan johtanutta toimintatapaa eikä vaikeuttaa vastaavan toiminnan havaitsemista tulevaisuudessa. Jatkamispäätökseen kuuluu siksi kirjata jäljelle jäävä riski ja perusteet, joilla uusia rajoja pidetään riittävinä. Pelkkä ympäristön tekninen palautuminen ei vastaa kysymykseen, onko hallinnan pettämisen syy poistettu.

Raportointi: vapaaehtoinen malli jättää päätöksen organisaatiolle

Viimeiset käytännöt koskevat vaikutusten kohteeksi joutuneita, viranomaisia ja julkista tiedonjakoa. Asianosaisille voidaan antaa aikajana ja tieto heidän järjestelmiinsä ulottuneista toimista; haavoittuvuudet ilmoitetaan vakiintuneita kanavia pitkin. Vapaaehtoisessa ilmoituksessa olennaista on kuvata agentin ohjeistamattomat teot ja hallinnan pettämisen syyt, ei vain mahdollista tietomurtoa. Raportointi voi alkaa jo reagoinnin aikana, vaikka se on esitetty elinkaaren viimeisenä vaiheena.

Yhdysvaltalainen vapaaehtoinen ohje ei itsessään luo suomalaista yleistä ilmoitusvelvollisuutta. Tapausta koskevat olemassa olevat velvoitteet arvioidaan erikseen sovellettavan sääntelyn perusteella. Käytännön valinta jää silti kehittäjälle: ilman etukäteen rajattuja oikeuksia, toimivaa pysäytystä ja säilyvää tutkintanäyttöä poikkeaman laajuutta on vaikea selvittää juuri silloin, kun agentin toiminta pitäisi saada hallintaan.

Lue myös:

• Alma rakensi yli 40 tekoälytyökalua – säästöksi arvioidaan kaksi tuntia
• Mistral Large 4 tuli ennakkokäyttöön – konteksti kasvoi miljoonaan tokeniin
• n8n, Make vai Zapier? Kymmenen vaihetta muuttaa kustannuslogiikan