Gemini API vai Mistral API? Ensimmäinen vastaus kääntää nopeusvertailun

|Kirjoittaja: QUASAn toimitus|5 min lukuaika| 1
Gemini API vai Mistral API? Ensimmäinen vastaus kääntää nopeusvertailun

Lyhyessä suoratoistetussa vastauksessa Mistral Large 3 saa tekstin näkyviin ensin. Pitkässä vastauksessa Gemini 3.1 Flash-Lite voi valmistua aiemmin, vaikka sen aloitusta joutuu odottamaan. Artificial Analysisin mallivertailussa ensimmäisen tokenin viive oli Mistralilla 1,05 ja Geminillä 5,29 sekuntia, tuottonopeus vastaavasti 79,8 ja 298,4 tokenia sekunnissa, yleisindeksin pistemäärä 10 ja 16 sekä konteksti-ikkuna noin 256 000 ja miljoona tokenia.

Hinnassa Gemini hyötyy etenkin syötepainotteisesta työstä. Googlen API-hinnastossa Flash-Liten tekstisyöte maksaa 0,25 dollaria, tuotos 1,50 dollaria ja välimuistista luettu syöte 0,025 dollaria miljoonalta tokenilta; eräajon syöte- ja tuotostokenit maksavat puolet tavallisesta. Mistralin mallikohtaisessa hinnastossa Large 3:n vastaavat tavalliset hinnat ovat 0,50 ja 1,50 dollaria sekä välimuistista luetun syötteen hinta 0,05 dollaria. Näillä hinnoilla valinta riippuu siitä, paljonko pyyntö sisältää syötettä suhteessa tuotokseen ja kuinka pian käyttäjän pitää nähdä vastaus.

Aloitusviive ei kerro koko vastauksen kestosta

Ensimmäisen tokenin viive mittaa aikaa pyynnöstä vastauksen alkuun. Tuottonopeus mittaa sen jälkeistä etenemistä. Nämä ovat eri käyttäjäkokemuksia: keskustelussa nopea aloitus tekee palvelusta välittömän tuntuisen, mutta pitkässä tiivistelmässä ratkaisee myös aika viimeiseen tokeniin. Mittauslukujen perusteella kumpaakaan mallia ei voi kutsua yksiselitteisesti nopeammaksi kaikissa pyynnöissä.

Yksinkertaistetussa laskelmassa aloitusviive pysyy vakiona ja tokeneita syntyy sen jälkeen tasaisesti mitatulla nopeudella. Näillä oletuksilla valmistumisajat kohtaavat noin 462 tuotostokenin kohdalla. Lyhyemmässä vastauksessa Mistralin aloitusetu säilyy, pidemmässä Gemini ehtii ohi. Leikkauspiste on laskennallinen, sillä syötteen pituus, ruuhka ja mallin käyttämä päätepiste voivat muuttaa viivettä. Jos vastausta ei näytetä käyttäjälle suoratoistona, nopean aloituksen hyöty käyttöliittymässä myös katoaa.

Kolme suomalaista työkuormaa euroina

Seuraavat ovat ehdollisia kuukausiesimerkkejä, eivät mitattuja asiakastapauksia. Laskelmat käyttävät tavallista tekstin API-hinnoittelua ilman välimuistia, eräajoa, työkaluja tai veroja. Dollarisummat on muunnettu euroiksi Suomen Pankin 7.10.2026 julkaisemalla viitekurssilla, jolla euro vastasi 1,1177 dollaria. Toteutunut laskutuskurssi voi olla toinen.

Suomenkielisessä tukikeskustelussa oletetaan kuukaudessa 100 000 pyyntöä, joista jokaisessa on 2 000 syöte- ja 200 tuotostokenia. Yhteensä kertyy 200 miljoonaa syöte- ja 20 miljoonaa tuotostokenia. Laskennallinen hinta on Geminillä noin 71,58 euroa ja Mistralilla noin 116,31 euroa. Tämä työkuorma tuottaa lyhyitä vastauksia, joten euroeroa on mielekästä verrata myös käyttäjän kokemaan aloitusviiveeseen. Jos tukipalvelu näyttää vastauksen vasta kokonaisena, ratkaiseva aikamittari on sen sijaan valmistuminen.

Pitkien suomenkielisten asiakirjojen tiivistämisessä oletetaan 10 000 pyyntöä, joissa kussakin on 50 000 syöte- ja 1 000 tuotostokenia. Kuukauden 500 miljoonaa syötetokenia ja 10 miljoonaa tuotostokenia maksaisivat Geminillä noin 125,26 euroa ja Mistralilla noin 237,09 euroa. Ero syntyy pääosin syötteestä: sen osuus on suuri, ja Geminin tavallinen syötetokenin hinta on puolet Mistralin hinnasta. Yksittäisen pyynnön aineisto mahtuu kuitenkin kummankin mallin ilmoitettuun kontekstiin, joten kontekstiraja ei tässä esimerkissä ratkaise valintaa.

Tuotospainotteisessa esimerkissä laaditaan 100 000 pitkää vastausta, joissa kussakin on 200 syöte- ja 800 tuotostokenia. Kuukaudessa kertyy 20 miljoonaa syöte- ja 80 miljoonaa tuotostokenia. Gemini maksaisi noin 111,84 euroa ja Mistral noin 116,31 euroa. Hintaero jää pieneksi, koska tuotostokenin listahinta on sama. Kaikki kolme laskelmaa olettavat, että mallit käyttävät täsmälleen saman määrän laskutettavia tokeneita; todelliset vastaukset ja mahdolliset ajattelutokenit voivat muuttaa jakaumaa.

Kontekstiraja muuttaa pitkän aineiston käsittelyä

Geminin suurempi konteksti-ikkuna antaa tilaa pitkälle lähdeaineistolle yhdessä pyynnössä. Mistralin pienempi ikkuna voi riittää hyvin tavalliseen keskusteluun tai yksittäiseen asiakirjaan, mutta laajan aineiston kohdalla rajasta tulee työmenetelmän valinta: sisältöä on pilkottava tai tarvittavat kohdat haettava ennen mallikutsua. Silloin pyyntöjä voi syntyä lisää, ja hakuvaihe voi vaikuttaa siihen, mitä tietoa malli ylipäätään näkee.

Nimellinen kontekstiraja ei yksin kerro, kuinka hyvin malli löytää olennaisen kohdan pitkästä tekstistä. Myös ohjeet, keskusteluhistoria ja tuotokselle varattu tila vievät tilaa pyynnöstä. Ostajan kannalta ratkaisevaa on, mahtuuko juuri hänen aineistonsa käsiteltäväksi ja säilyykö vastaus oikeana, kun tärkeä tieto sijaitsee kaukana syötteen alusta. Pienelle aineistolle käyttämätön lisäkapasiteetti ei tuo itsessään säästöä.

Välimuisti alentaa vain toistuvan syötteen hintaa

Jos samat ohjeet tai sama asiakirja lähetetään moneen pyyntöön, välimuistiosumat voivat muuttaa laskelmaa tuntuvasti. Oletetaan, että asiakirjaesimerkin 500 miljoonasta syötetokenista 400 miljoonaa luetaan välimuistista ja 100 miljoonaa veloitetaan tavalliseen hintaan. Kun tuotosta kertyy edelleen 10 miljoonaa tokenia, laskennallinen kuukausihinta on Geminillä noin 44,73 euroa ja Mistralilla noin 76,05 euroa. Tämä on ehdollinen tokenilasku, ei lupaus saavutettavasta osumamäärästä.

Mistralin välimuistiohjeen mukaan osuma edellyttää yhteistä alkuosaa pyynnöissä; sama välimuistiavain voi parantaa osuman mahdollisuutta muttei takaa sitä. Tämä tekee tekstin järjestyksestä olennaisen: pysyvä ohjeistus kannattaa sijoittaa ennen joka pyynnössä vaihtuvaa sisältöä. Geminin erikseen luotuun välimuistiin voi lisäksi liittyä säilytysaikaan perustuva maksu, joka ei sisälly esimerkin tokenisummaa. Jos aineisto vaihtuu lähes kokonaan jokaisella kutsulla, tavallinen syötehinta kuvaa kustannusta paremmin.

Laatu ratkaistaan oman tehtävän tuloksesta

Yleisindeksissä Gemini menestyy paremmin, mutta sen pistemäärä kokoaa yhteen monenlaisia arviointitehtäviä. Se ei suoraan kerro, kumpi kirjoittaa tarkemman suomenkielisen tukivastauksen tai poimii oikean ehdon oman yrityksen asiakirjoista. Laatuvertailussa on siksi käytettävä samoja lähtötekstejä, ohjeita ja hyväksymiskriteerejä kummallekin mallille. Samalla selviävät vastausten todelliset pituudet, joita tarvitaan kustannusarvion tarkentamiseen.

Valinta on selkein, kun tehtävän painopiste tunnetaan: lyhyt suoratoistettu vastaus korostaa Mistralin aloitusetua, pitkä tuotos Geminin nopeampaa tekstintuottoa. Runsas syöte ja suuri kontekstin tarve puoltavat Geminiä näillä listahinnoilla. Välimuistista hyötyvässä palvelussa ratkaisee todellinen osumien määrä, ja tehtäväkohtainen laatu voi perustellusti painaa enemmän kuin pieni ero tokenilaskussa.

Lue myös:

Jaa:

Tilaa uutiskirjeemme

Saat tuoreimmat Web3-, tekoäly- ja kryptouutiset suoraan sähköpostiisi.

0