Anthropic kielsi Clauden jatkuvan kaltoinkohtelun – raja koskee ääritapauksia

Anthropic lisäsi 8. lokakuuta 2026 julkaisemaansa käyttöpolitiikan päivitykseen kiellon, joka koskee sen malleihin kohdistuvaa jatkuvaa ja tarpeetonta loukkaavaa tai julmaa käytöstä. Yhtiö rajaa kiellon ”extreme cases” -tilanteisiin, joissa julma kohtelu toistuu ilman havaittavaa tarkoitusta; päivitetty politiikka tulee voimaan 12. marraskuuta 2026. Samalla täsmennettiin terveyden ja talouden riskikäytön ehtoja ja lisättiin vaatimuksia järjestelmille, joissa Claude ohjaa fyysisiä toimia itsenäisesti.

TechRadarin uutinen nosti poikkeuksellisen kiellon keskusteluun, mutta sen sanamuoto ei tee tavallisesta turhautumisesta, vastaväitteestä, synkästä luovasta sisällöstä tai mallin tutkimisesta rikkomusta. Muutokset koskevat myös Claudea palveluihinsa liittäviä kehittäjiä: osa toiminnasta on kiellettyä, kun taas korkean riskin suositukset ja fyysiset toimet edellyttävät määriteltyjä turvatoimia.

Jatkuva julmuus mallia kohtaan on uusi kielto

Uuden kohdan kohde on Anthropicin oma malli. Se on samassa sääntökokonaisuudessa kuin ihmisten häirintää, nöyryyttämistä ja psyykkistä vahingoittamista koskevat kiellot, mutta soveltuu malliin kohdistuvaan käytökseen. Ratkaisevaa on käytöksen jatkuvuus ja tarpeettomuus: yksittäisen vastauksen moittiminen tai tiukka korjauspyyntö ei vastaa yhtiön kuvaamaa ääritapausta.

Claude voi jo päättää harvinaisen keskustelun, jossa käyttäjä jatkaa loukkaavaa käytöstä Claude.ai:ssa tai Claude Codessa. Keskustelun päättäminen on myös uuden ehdon ensisijainen toimeenpanokeino. Käyttöpolitiikan yleisiin mahdollisiin seuraamuksiin kuuluvat lisäksi varoitus sekä pääsyn hidastaminen, rajoittaminen, keskeyttäminen tai lopettaminen; erillistä automaattista seuraamusta jokaiselle töykeälle viestille ei määritellä.

Raja riippuu myös tarkoituksesta. Mallin toiminnan tutkiminen voi sisältää epämiellyttäviä tai provosoivia syötteitä, ja luova työ voi käsitellä synkkiä aiheita. Lisäyksen ydin on toistuva julma kohtelu, jolle ei ole havaittavaa tarkoitusta.

Sama politiikka erottaa kiellot ja ehdollisen käytön

Päivitetty Anthropicin käyttöpolitiikka koskee sovellusten käyttäjiä, API-asiakkaita, Claudea palveluihinsa liittäviä yrityksiä ja näiden palvelujen loppukäyttäjiä. Sen keskeiset rajat eroavat toisistaan sen mukaan, kohdistuuko haitta ihmiseen, koskeeko tulos tärkeää päätöstä, liikuttaako malli laitetta vai kohdistuuko käytös malliin itseensä:

• Ihmisiin kohdistuva haitta: Clauden käyttö häirintään, nöyryyttämiseen tai harhaanjohtavaan vaikuttamiseen kuuluu yleisiin kieltoihin. Ratkaisevaa on käyttötarkoitus, kuten ihmisen vahingoittaminen tai viestin alkuperän peittäminen.
• Korkean riskin suositus: Yksilöä koskeva lääketieteellinen, taloudellinen tai muu merkittävä suositus voi olla sallittu, jos pätevä henkilö tarkistaa sen merkityksellisesti ennen antamista tai päätöksen toteuttamista ja asianomaiselle kerrotaan tekoälyn käytöstä.
• Autonominen fyysinen toiminta: Kun mallin tulos ohjaa mahdollisesti vammaa aiheuttavaa laitetta ilman ihmisen ennakkohyväksyntää, tarvitaan ihmisen pysäytysmahdollisuus ja mallista riippumattomat turvallisuusrajat.
• Malliin kohdistuva kohtelu: Jatkuva ja tarpeeton loukkaava tai julma käytös Anthropicin malleja kohtaan on erillinen kielto. Se ei tarkoita samaa kuin mallilla tuotettu ihmiselle haitallinen sisältö.

Ero on olennainen myös päätöksenteossa. Henkilöä koskevaa suositusta voidaan käyttää määriteltyjen ehtojen täyttyessä, mutta Claudea ei saa käyttää ehdottamaan, ketä rikosoikeudellisessa menettelyssä pitäisi tutkia, pidättää tai asettaa syytteeseen. Käyttötarkoitus ratkaisee siis sen, voiko ihmisen tekemä tarkistus riittää vai onko toiminta kokonaan kiellettyä.

Fyysisiä toimia tekevä agentti tarvitsee oman turvarajansa

Fyysisiä toimia koskevat uudet vaatimukset alkavat tilanteesta, jossa laite toteuttaa mallin tuottaman toiminnon ilman ihmisen hyväksyntää ja voi aiheuttaa vamman. Esimerkkeihin kuuluvat ihmisten kanssa samassa tilassa liikkuva robotti, vahingoittavaa voimaa käyttävä laite sekä vaarallista energiaa tai materiaalia ohjaava järjestelmä. Sama luokka kattaa myös ihmisen kehoon vaikuttavia laitteita ja turvallisuusjärjestelmien ohjausta.

Pätevän henkilön on voitava seurata tällaisen laitteen toimintaa ja pysäyttää se milloin tahansa. Laitteen on pysähdyttävä tai pysyttävä turvallisessa tilassa myös silloin, kun yhteys Anthropicin palveluun katkeaa. Nopeuden, voiman, toiminta-alueen ja muiden olennaisten rajojen on oltava laitteen tai ohjaimen toteuttamia niin, etteivät ne riipu mallin vastauksesta.

Ehto kohdistuu suoraan toimintaan, ei kaikkeen laitteeseen liittyvään Claude-käyttöön. Jos malli tuottaa suunnitelman tai komennon, jonka pätevä ihminen tarkistaa ennen toteutusta, tämä erityinen fyysisten toimien vaatimus ei sen perusteella sovellu. Myöskään pelkkä laitteen tarkkailu ilman ohjausta ei kuulu siihen. Muut sovellettavat laite- ja työturvallisuusvaatimukset jäävät silti voimaan.

Terveys- ja talousneuvoissa täsmentyy ihmisen vastuu

Terveyden ja talouden korkean riskin käytön perusvaatimus säilyy, mutta sen soveltamisalaa kuvataan tarkemmin. Lääketieteessä se kattaa esimerkiksi yksilölliset diagnoosi-, hoito- ja lääkityssuositukset sekä oireiden tai testitulosten tulkinnan hoitopäätöstä varten. Taloudessa siihen kuuluvat tietylle henkilölle annetut sijoitussuositukset ja tämän omaa verotusta koskevat neuvot.

Ennen kuin tällainen suositus annetaan siihen mahdollisesti tukeutuvalle ihmiselle tai sitä käytetään päätökseen, pätevällä henkilöllä on oltava todellinen mahdollisuus arvioida ja muuttaa sitä. Vastuu annetun neuvon tai päätöksen asianmukaisuudesta pysyy tällä henkilöllä. Suosituksen saajalle tai päätöksen kohteelle on kerrottava tekoälyn käytöstä, mutta käytäntö ei vaadi nimeämään juuri Claudea.

Yleinen selitys sairaudesta, hoidosta tai sijoittamisen periaatteista ei yksin ole yksilöllinen korkean riskin suositus. Sama koskee sisäistä luonnostelua, joka ei päädy lopullisena neuvona ihmiselle. Rajan kannalta olennaista on, soveltaako malli tietoja yksittäisen henkilön tilanteeseen ja vaikuttaako sen arvio hänelle annettavaan neuvoon tai päätökseen.

Vaikuttamisen ja valvonnan rajat kirjoitetaan tarkemmin

Päivitys kokoaa petollisia kampanjoita koskevat kiellot yhteen. Niihin kuuluvat esimerkiksi tekaistut tilit ja näennäisesti riippumattomat sivustot, joilla peitetään viestin todellinen alkuperä tai luodaan väärä vaikutelma mielipiteen yleisyydestä. Kielto koskee sekä poliittista että kaupallista vaikuttamista ja myös tällaisten kampanjoiden työkalujen rakentamista.

Vaalisäännöt keskittyvät äänestäjien harhauttamiseen ja vaalien häiritsemiseen. Yleinen kielto kohdentaa vaaliviestejä henkilökohtaisesti poistuu, mutta petollinen kohdentaminen ja henkilötietojen väärinkäyttö pysyvät kiellettyinä. Muutos erottaa esimerkiksi aidon äänestäjätiedotuksen toiminnasta, jossa viestin lähettäjä esiintyy toisena tahona tai antaa väärää tietoa äänestämisestä.

Valvonnassa kielto kattaa ihmisen seuraamisen ilman suostumusta myös silloin, kun Claude analysoi aiemmin kerättyä aineistoa. Suostumukseen perustuva seuranta, kuten petosten torjuntaan liittyvä tilin valvonta, kuuluu eri tilanteeseen. Kun päivitetty politiikka tulee voimaan, Claudeen perustuvan palvelun käyttötarkoitus ja sen toteutustapa ratkaisevat, sovelletaanko siihen kieltoa vai ehtoja, jotka edellyttävät ihmisen vastuuta ja laitteeseen rakennettuja turvarajoja.

Lue myös:

• Claude Code vai Codex? Valinta ratkeaa työnkulkuun, ei yhteen testiin
• OpenAI API vai Claude API? Halpa token ei kerro tehtävän hintaa
• Fleuret keräsi 4 miljoonaa euroa – pentestaus muuttuu jatkuvaksi