
OpenRouter või otse API? Kiirem algus ei tähenda kiiremat vastust

Kui rakendus kasutab üht kindlat mudelit, on selle pakkuja otse API enamasti selgem lähtevalik: arve ja päringu teekond jäävad ühe teenuse kätte. OpenRouter lihtsustab eri mudelite proovimist ja lubab tõrke korral kasutada teist teenusepakkujat. Selle kaudu võib esimene token jõuda varem, kuid pikema vastuse valmimise aeg sõltub ka järgnevast väljastuskiirusest.
Seega ei otsusta ühenduse valikut üks kiirusnäitaja. Arendaja peab eristama aega esimese nähtava tekstini, kogu vastuse kestust, krediidi ostutasu ja seda, millisesse piirkonda päring tegelikult saadetakse. Kui töötluspiirkond on piiratud, määrab lubatud marsruutide hulk ka varuühenduse tegeliku kasu.
Esimese tokeni edumaa võib pika vastusega kaduda
Opperi GPT-4.1 mõõtmises saadeti kummalegi teele 200 päringut: OpenRouteri esimese tokeni keskmine aeg oli 0,640 sekundit ja OpenAI otseühendusel 0,712 sekundit, kuid väljastuskiirus oli vastavalt 73,2 ja 81,8 tokenit sekundis. Need on mõõdetud ühenduste tulemused, mitte lubatud kiirus igale mudelile või asukohale.
Nende keskmiste põhjal saab teha tingliku arvutuse: kui pärast esimest tokenit väljastatakse veel 250 tokenit püsiva mõõdetud kiirusega, kuluks OpenRouteri teel ligikaudu 4,06 ja otseühendusel 3,77 sekundit. Umbes 50 järgneva tokeni juures kaoks esimese tokeni edumaa. See on kahe eraldi keskmise põhjal arvutatud lihtsustus, mitte Opperi mõõdetud tervikvastuse aeg; tegelik kiirus muutub päringute vahel.
Voogvastusega kasutajaliideses on esimene nähtav sõna oluline, sest kasutaja näeb, et töö algas. Kokkuvõtte, koodifaili või mahuka analüüsi puhul on olulisem hetk, mil kogu vajalik väljund on käes. Sama teenuse kohta võivad need kaks mõõdikut anda vastupidise järjestuse, mistõttu peab võrdluses olema sama mudeliversioon, sarnane päring ja võrreldav väljundi pikkus.
Piirkond ja teenusepakkuja muudavad kiirusjärjestust
LatencyRadari kuue linna DeepSeeki mõõtmises oli otse API aeglaseima ja kiireima asukoha esimese tokeni aja vahe 39%, OpenRouteri mõõdetud marsruutidel 81–208%; võrdlus hõlmas aga otseühenduses ja ruuteri kaudu eri mudeliversioone. Singapurist ja Mumbaist oli otsetee kiirem, Montrealist võitis sageli mõni OpenRouteri marsruut. Seetõttu näitab tulemus asukoha ja marsruudi mõju, kuid sellest ei saa eraldada üksnes ruuteri lisatud viivitust.
Ka OpenRouteri sees pole üks mudelinimi tingimata üks server. Kui päringu täidab teine teenusepakkuja, võivad muutuda nii järjekord, ühenduse kaugus kui ka tokenite väljastuskiirus. Eestis asuva rakenduse jaoks ei saa teistes linnades saadud järjestust otse üle võtta; võrreldav mõõtmine algab rakenduse tegelikust käivituskohast ja salvestab ka vastuse andnud pakkuja.
Krediiditasu ja oma võtme hind
4. novembril 2026 kontrollitud OpenRouteri hinnakirja järgi lisandub Standard-paketis krediidi ostule 5,5% tasu, samal ajal kui BYOK-i ehk oma teenusepakkuja võtme puhul on kuus kuni 25 000 USA dollari väärtuses nimekirjahinnaga mudelikasutust OpenRouteri tasuta ja üle selle lisandub piiri ületavale osale 5%. BYOK-i korral arveldab mudelikasutuse eest teenusepakkuja ise. Krediiditasu ei lisata igale päringule eraldi; nurjunud varuühenduskatse mudelitokeneid ei arveldata.
OpenAI GPT-6 Luna tavahind on 0,10 USA dollarit miljoni sisendtokeni ja 0,50 dollarit miljoni väljundtokeni eest. Järgnev arvutus lähtub 4. novembril 2026 kontrollitud avalikest hindadest: üks tinglik tekstipäring kasutab 1000 sisend- ja 250 väljundtokenit, OpenRouteri teel vastab OpenAI pakkuja ning vahemälu ei kasutata. Periood on üks kuu; summad on USA dollarites, ilma maksude, erihindade ja tööriistakuludeta. Standard-variandis ostetakse täpselt vajaminev krediit.
- Väike maht: tinglikult 100 000 päringut kuus annab 100 miljonit sisend- ja 25 miljonit väljundtokenit. Otse API ja OpenRouteri BYOK maksavad kumbki 22,50 dollarit; Standard-krediit koos ostutasuga 23,74 dollarit.
- Keskmine maht: tinglikult miljon samasugust päringut kuus. Otse API ja BYOK maksavad kumbki 225 dollarit; Standard-krediit 237,38 dollarit.
- Suur maht: tinglikult kümme miljonit samasugust päringut kuus. Otse API ja BYOK maksavad kumbki 2250 dollarit; Standard-krediit 2373,75 dollarit. BYOK jääb ka siin tasuta kuupiiri sisse.
Piiri mõju tuleb nähtavale suuremal arvel: kui tinglik kuine mudelikasutus maksaks nimekirjahinna järgi 30 000 dollarit, oleks BYOK-i lisatasu 250 ja kogukulu 30 250 dollarit. Kui automaatne varuühendus valib teise pakkuja või mudeli, ei pruugi selle hind olla näites kasutatud OpenAI hind. Hinnavõrdlus on võrreldav ainult siis, kui mõlemal teel vastab sama hinnaga mudel.
Vahemälu ja varuühendus mõjutavad teineteist
Ülaltoodud summad eeldavad, et kogu sisend arveldatakse tavalise sisendina. Pika, korduva algusega päringutes võib vahemälust loetud osa maksta vähem; mõnel mudelil maksab vahemällu kirjutamine omakorda eraldi. Seetõttu ei saa päringute arvust üksi tuletada tegelikku kuuarvet, kui rakendus kasutab korduvaid juhiseid, tööriistade kirjeldusi või pikka ühist konteksti.
Varuühendus võib tõrke ajal päästa päringu, kuid uue teenusepakkuja juures võib eelmine vahemälu puududa. Selle mõju on eriti suur siis, kui suur osa sisendist on korduv ja väljund lühike. Kulude hindamiseks on vaja teada, kui palju tokeneid tegelikult loeti vahemälust, kui palju kirjutati sinna ning millise pakkuja kaudu päring valmis.
Euroopa marsruut ei taga automaatselt üksnes ELi töötlust
OpenRouteri piirkondliku marsruutimise tingimuste järgi saavad Business- ja Enterprise-kliendid kasutada Euroopa lõpp-punkti, mis töötleb päringu OpenRouteri poolel ELis ja suunab ühiskasutatava teenusepakkuja päringud Euroopasse, sealhulgas Ühendkuningriiki ja Šveitsi. Seega ei võrdu see üksnes ELi piires töötlemise nõudega. Konto-, arveldus- ja tegevusandmeid võidakse endiselt töödelda USAs; oma võtmega ühendus järgib selle teenusepakkuja valitud paigutust.
Lubatud pakkujate loend, andmete kogumise keeld ja säilitamiseta töötlemise nõue piiravad eri asju. Kui nõue välistab mõne pakkuja või riigi, tuleb see marsruut seadistuses välistada, isegi kui varuühenduse valik muutub väiksemaks. Piirkonda sobiva lõpp-punkti puudumisel annab Euroopa marsruut vea; otse API puhul sõltub sama küsimus valitud pakkuja konkreetsest lõpp-punktist ja lepingutingimustest.
Valik nelja töökoormuse jaoks
- Üks püsiv mudel: otse API hoiab arve ja teenusepakkuja selgelt ühe käes. OpenRouter on põhjendatud siis, kui sama mudeli jaoks on vaja mitut lubatud pakkujat või tulevane mudelivahetus on tõenäoline.
- Mitme mudeli katsetamine: OpenRouteri ühine liides vähendab eraldi ühenduste tööd. Katsetulemuses tuleb mudeli kõrval säilitada ka pakkuja, asukoht, esimese tokeni aeg ja kogu vastuse kestus.
- Suur käideldavuse nõue: automaatne varuühendus aitab ühe pakkuja tõrke vastu, kui sobiv teine marsruut on saadaval. Rakendus peab siiski oskama käsitleda ruuteri enda viga; kriitilisel töövool võib eraldi otseühendus olla mõistlik lisatee.
- ELi piires piiratud töötlus: lähtepunkt on lubatud riikide, pakkujate ja andmesäilituse täpne loend. OpenRouteri Euroopa marsruut vajab sellele lisapiiranguid; otseühendus sobib, kui konkreetne pakkuja pakub nõutud töötlemispiirkonda.
Loe ka:
Seotud artiklid


Vercel või Netlify: külmkäivitus võib vastuse kolmekordistada

Pinecone või Weaviate: 45-dollarine algus peidab eri arvestusühikud

Copilot Studio: 25 000 krediiti ei tähenda 25 000 vastust

OpenAI või Cohere embedding: 0,6 punkti ei otsusta Eesti RAG-i valikut

Merit Aktiva või SimplBooks: palgamoodul võib hinna ümber pöörata
Telli meie uudiskiri
Saa värskeimad Web3, AI ja krüptouudised otse oma postkasti.