Milloin Hugging Face on Replicatea halvempi mallin ajamiseen?

Hugging Face Inference Endpoints on Replicaten julkista, ajoajan mukaan veloitettavaa mallia halvempi, jos sama työ pitää oman GPU-päätepisteen riittävän suuren osan ajasta käytössä. Hugging Facen päätepistehinnastossa yhden AWS-T4:n hinta on 0,50, L40S:n 1,80 ja A100:n 2,50 dollaria tunnilta; käynnistyvän ja käynnissä olevan päätepisteen kustannus lasketaan minuuteittain. Replicaten laitehinnastossa vastaavat tuntihinnat ovat 0,81, 3,51 ja 5,04 dollaria, mutta useimpien julkisten mallien laiteperusteinen veloitus koskee vain pyynnön käsittelyaikaa.

Kun päätepiste pidetään käynnissä koko vertailujakso, Hugging Face voittaa näillä hinnoilla T4-luokassa yli 61,7 prosentin, L40S-luokassa yli 51,3 prosentin ja A100-luokassa yli 49,6 prosentin aktiivisella ajoajalla. Alle näiden rajojen Replicaten julkinen malli on laskennallisesti halvempi. Vertailu koskee yhtä GPU:ta ja aikaperusteisesti hinnoiteltua julkista mallia; tulos muuttuu, jos valittu Replicate-malli veloittaa esimerkiksi syötteestä tai tuloksesta.

Miten käyttöasteen nollakohta lasketaan?

Hugging Facen kustannukseen kuuluu jokainen minuutti, jonka päätepiste on käynnistymässä, valmiina tai käsittelemässä pyyntöjä. Replicaten julkisen mallin vertailukustannukseen kuuluu tässä vain mallin aktiivinen käsittelyaika. Siksi ratkaiseva suhde on Hugging Facen tuntihinta jaettuna Replicaten saman GPU-luokan tuntihinnalla: esimerkiksi L40S:n 1,80 ÷ 3,51 on noin 0,513. Jos aktiivinen työ täyttää tätä suuremman osuuden varatusta ajasta, jatkuvasti käynnissä pidetty päätepiste tulee laitehintojen perusteella edullisemmaksi.

T4:n vastaava lasku on 0,50 ÷ 0,81 eli noin 61,7 prosenttia ja A100:n 2,50 ÷ 5,04 eli noin 49,6 prosenttia. Ympäri vuorokauden toimivassa palvelussa rajat vastaavat noin 14,8:aa, 12,3:a ja 11,9:ää aktiivista tuntia vuorokaudessa T4:llä, L40S:llä ja A100:lla. Raja ei kuvaa GPU:n hetkellistä kuormituslukemaa, vaan laskutettavan käsittelyajan osuutta siitä ajasta, jonka oma päätepiste olisi muuten pidetty käytössä.

Sama GPU-luokka ei yksin takaa, että malli valmistuu molemmissa palveluissa samassa ajassa. Palvelinympäristö, mallin toteutus ja rinnakkaisten pyyntöjen määrä voivat muuttaa läpimenoa sekä tarvittavien replikoiden määrää. Nollakohta on siis hintavertailun lähtöarvo, ei mitattu suorituskykytulos.

Kolme ehdollista liikenneprofiilia

Seuraava laskelma perustuu 6.11.2026 tarkistettuihin, edellä mainittuihin julkaistuihin laitehintoihin. Oletuksena on 730 tunnin vertailukuukausi, yksi koko ajan käynnissä oleva Hugging Face -päätepiste ja saman GPU-luokan Replicate-julkinen malli, jonka laskutettava käsittelyaika vastaa aktiivisia tunteja. Summat ovat Yhdysvaltain dollareita ilman veroja, mahdollisia sopimusalennuksia tai muita palvelukuluja; ne eivät ole todellisten malliajojen testituloksia.

• Vähäinen käyttö, T4: Ehdolliset 73 aktiivista tuntia ovat 10 prosenttia kuukaudesta. Hugging Face maksaisi 730 × 0,50 = 365 dollaria ja Replicate 73 × 0,81 = 59,13 dollaria. Julkisen mallin ostaminen tarpeen mukaan säästäisi tässä esimerkissä 305,87 dollaria.
• Keskitasoinen käyttö, L40S: Ehdolliset 365 aktiivista tuntia täyttävät puolet kuukaudesta. Hugging Face maksaisi 730 × 1,80 = 1 314 dollaria ja Replicate 365 × 3,51 = 1 281,15 dollaria. Replicate olisi 32,85 dollaria halvempi, joten jo pieni muutos laskutettavassa ajoajassa voisi kääntää järjestyksen.
• Runsas käyttö, A100: Ehdolliset 511 aktiivista tuntia täyttävät 70 prosenttia kuukaudesta. Hugging Face maksaisi 730 × 2,50 = 1 825 dollaria ja Replicate 511 × 5,04 = 2 575,44 dollaria. Hugging Face olisi 750,44 dollaria halvempi näillä oletuksilla.

Esimerkin aktiiviset tunnit ovat yhden GPU:n laskutettavaa työaikaa, eivät pyyntöjen lukumäärä. Pitkät ja lyhyet pyynnöt voivat johtaa eri summaan samalla liikennemäärällä. Jos suuri joukko pyyntöjä saapuu samanaikaisesti, yksi jatkuva päätepiste voi muodostaa jonon; lisäreplikoiden kustannus on otettava mukaan ennen kuin suurta kuukausisäästöä pitää toteutuneena.

Yksityinen Replicate-malli ei noudata samaa rajaa

Replicaten laskutusohjeen mukaan julkisessa mallissa valmistelu ja tyhjäkäynti ovat maksuttomia, mutta useimmista yksityisistä malleista ja deployments-käyttöönottojen instansseista veloitetaan myös niiden valmistelu- ja odotusaika. Erikseen merkityt nopeasti käynnistyvät hienosäädetyt mallit ovat poikkeus. Julkisen mallin käyttöasterajoja ei siksi voi siirtää suoraan oman yksityisen mallin budjettiin.

Jos ehdollinen yksityinen L40S-instanssi olisi verkossa samat 730 tuntia kuin Hugging Facen päätepiste, Replicaten julkaistulla laitehinnalla lasku olisi 730 × 3,51 = 2 562,30 dollaria. Hugging Face maksaisi 1 314 dollaria samalla aikamäärällä. Ero syntyy silloin tuntihinnoista, ei aktiivisen ajan osuudesta: molemmissa vaihtoehdoissa myös odottava instanssi maksaa.

Replicaten yksityinen instanssi voi kuitenkin siirtyä pois käytöstä liikenteen hiljentyessä, jolloin laskutettavien tuntien määrä jää esimerkin jatkuvaa käyttöä pienemmäksi. Jokainen uusi käynnistys lisää valmisteluaikaa, ja palvelun jonotus tai kapasiteettitarve voi vaikuttaa kokemukseen erikseen. Oman mallin vertailussa tarvitaan siksi tieto siitä, kuinka kauan instanssi todella pysyy verkossa; pelkkä kuukauden kokonaispyyntömäärä ei riitä.

Skaalaus nollaan vaihtaa valmiustunnit odotukseen

Hugging Facen automaattisen skaalauksen ohje sallii päätepisteen skaalaamisen nollaan käyttämättömän jakson jälkeen sekä päivittäisen aikataulun. Nollasta palaava replika tarvitsee kylmäkäynnistyksen. Sen aikana palvelu palauttaa tavallisesti 503-virheen, ellei pyyntöä aseteta odottamaan replikan valmistumista; käynnistys voi mallista riippuen kestää minuutteja. Tämä muuttaa kustannusvertailun lisäksi käyttäjälle näkyvää vasteaikaa.

Jos L40S-päätepiste olisi ehdollisesti käynnissä kahdeksan tuntia päivässä 30 päivän ajan, käynnissäoloa kertyisi 240 tuntia ja lasku olisi vähintään 240 × 1,80 = 432 dollaria. Replicaten julkisen L40S-mallin aktiivinen ajo maksaisi saman verran noin 123,1 tunnissa. Todellinen Hugging Face -summa voi nousta yli 432 dollarin, jos aikataulun ulkopuolelle jää laskutettavaa käynnistymis- tai odotusaikaa. Päivittäin toistuva lyhyt käyttö voi näin säästää rahaa mutta tuoda kylmäkäynnistyksen juuri ensimmäiseen pyyntöön.

Kustannusraja riippuu myös siitä, mitä ostetaan

DigitalOceanin alustavertailussa Hugging Face yhdistetään vakaaseen kuormaan ja Replicaten käyttöpohjainen palvelu purskeiseen tai vaikeasti ennakoitavaan käyttöön. Tämän hintalaskelman perusteella ero on täsmällisempi: jatkuvan päätepisteen etu alkaa vasta, kun aktiivisia minuutteja kertyy riittävästi suhteessa kaikkiin varattuihin minuutteihin. Jos vasteaikavaatimus sulkee kylmäkäynnistyksen pois, yritys voi perustellusti maksaa valmiista kapasiteetista myös kustannusrajan alapuolella.

Valintaa varten ratkaisevat siis mallin todellinen käsittelyaika, instanssien käynnissäoloaika ja ruuhkien vaatima rinnakkaiskapasiteetti. Julkisen mallin sekuntihinta, yksityisen instanssin verkossaoloaika ja nollaan skaalautuvan päätepisteen käynnistysminuutit kuuluvat eri laskuihin. Hinnastot antavat niille kustannusrajat, mutta vasta saman mallin vertailukelpoinen ajo kertoisi, kumman palvelun vasteaika on omassa käytössä parempi.

Lue myös:

• Hugging Face -mallin latausmäärä voi johtaa harhaan – tarkista nämä tiedot
• n8n vai Make? Pitkä työnkulku voi kääntää halvemman tilauksen
• Matrix42 Neo tuo agentit IT-tukeen – mallin voi silti valita itse