OpenAI vai Anthropic kešatmiņa: īss TTL var apēst ietaupījumu

Gariem, atkārtotiem pieprasījumiem OpenAI un Anthropic kešatmiņas izmaksas nosaka ne tikai trāpījuma cena, bet arī laiks līdz nākamajam izsaukumam. OpenAI kešatmiņas dokumentācija GPT-5.6 un jaunākiem modeļiem paredz vismaz 30 minūšu derīgumu pēc pēdējā ieraksta vai trāpījuma; agrāko modeļu in_memory ieraksti parasti saglabājas 5–10 minūtes bez aktivitātes, ilgākais stundu. Anthropic kešatmiņas noteikumi paredz piecu minūšu noklusējuma termiņu un par papildu maksu — vienas stundas termiņu; trāpījums atjauno derīguma laiku.

Ja vienāds uzvednes sākums tiek izmantots bieži, abu pakalpojumu kešatmiņa var būtiski samazināt ievades izmaksas. Ja starp izsaukumiem ir gara pauze, atkārtots maksas ieraksts var samazināt ietaupījumu vai maksāt vairāk nekā parasta ievade. Tāpēc izšķirošs ir nemainīgā fragmenta garums, izvēlētā modeļa tarifs un faktiskie intervāli starp pieprasījumu sākumiem.

Cik maksā ieraksts un trāpījums

Turpmākie aprēķini ir nosacīts piemērs ar 10 000 tokenu nemainīgu uzvednes sākumu. Salīdzināti OpenAI gpt-6.1-sol un Anthropic Claude Sonnet 4.6 standarta API tarifi. Tie ir dažādi modeļi: cenu starpība pati par sevi neparāda, vai atbilžu kvalitāte konkrētam uzdevumam būs līdzvērtīga. Aprēķini aptver tikai norādītos ievades tokenus, nevis izvadi, rīku maksas vai citus tarifu režīmus.

OpenAI standarta īsā konteksta cenrādī gpt-6.1-sol miljons ievades tokenu maksā 2 ASV dolārus bez kešatmiņas, 2,50 dolārus par kešatmiņas ierakstu un 0,10 dolārus par trāpījumu. Anthropic cenrādī, kas stājās spēkā 2026. gada 27. maijā, Claude Sonnet 4.6 globālajā standarta tarifā attiecīgās cenas ir 3 dolāri par parastu ievadi, 3,75 dolāri par piecu minūšu ierakstu, 6 dolāri par stundas ierakstu un 0,30 dolāri par trāpījumu.

Pieņemtajiem 10 000 tokeniem pirmais OpenAI ieraksts maksā 0,025 dolārus, bet pilns trāpījums — 0,001 dolāru. Anthropic pirmais ieraksts maksā 0,0375 dolārus ar īso termiņu vai 0,060 dolārus ar stundas termiņu; pilns trāpījums maksā 0,003 dolārus. Ieraksta tarifs aizstāj parasto ievades tarifu attiecīgajiem tokeniem, nevis tiek tam pieskaitīts. Tas pats attiecas uz trāpījuma tarifu.

Nemainīgs sistēmas prompts: ierakstu atpelna atkārtojumi

Pieņemsim desmit pieprasījumus ar identisku 10 000 tokenu sākumu un divu minūšu intervālu starp to sākumiem. Pirmais pieprasījums izveido ierakstu, bet pārējie deviņi to izmanto atkārtoti. OpenAI rēķins par šo ievades daļu ir 0,034 dolāri pret 0,20 dolāriem bez kešatmiņas; Anthropic piecu minūšu variants maksā 0,0645 pret 0,30 dolāriem. Anthropic stundas variants maksātu 0,087 dolārus: šajā ritmā garākais termiņš nedod papildu trāpījumus, taču pirmais ieraksts ir dārgāks.

Šādam aprēķinam der kopīgas instrukcijas vai atsauces teksts, kas visos pieprasījumos paliek burtiski vienāds. Līdzīga nozīme vien trāpījumu nenodrošina: atkārtoties jāspēj tam pašam sākuma fragmentam līdz kešatmiņas robežai. Pieņēmums par deviņiem pilniem trāpījumiem ir būtisks, jo daļējs trāpījums samazinātu ietaupījumu. Reālajā lietojumā izmaksas nosaka uzskaitītie kešatmiņā nolasītie, ierakstītie un parastie ievades tokeni.

Mainīgi rīku rezultāti: maksā tikai par jauno daļu

Tagad katram no desmit pieprasījumiem pievienosim 2000 tokenu jaunu rīka rezultātu, saglabājot to pašu 10 000 tokenu sākumu un divu minūšu ritmu. Ja kešatmiņas robeža ir pirms mainīgajiem rezultātiem, par tiem katrā reizē maksā parasto ievades cenu. Kopā sanāk 0,074 dolāri OpenAI un 0,1245 dolāri Anthropic piecu minūšu variantā; bez kešatmiņas tie būtu attiecīgi 0,24 un 0,36 dolāri. Anthropic stundas variants maksātu 0,147 dolārus.

Robežas vieta maina rezultātu. Ja laika zīmogs vai rīka rezultāts nonāk pirms atkārtoti izmantojamā fragmenta, vēlākie pieprasījumi var zaudēt paredzēto trāpījumu. Stabilas instrukcijas un rīku definīcijas var palikt sākumā, bet jaunie rezultāti — aiz tiem. Šajā nosacītajā aprēķinā mainīgajai daļai netiek veidots jauns maksas kešatmiņas ieraksts; to katru reizi apstrādā par parasto tarifu.

Reti pieprasījumi: īsā termiņa cena kļūst redzama

Pieņemsim trīs identiskus pieprasījumus ar 40 minūšu intervālu. Ja Anthropic piecu minūšu ieraksts līdz nākamajam izsaukumam ir zudis, par trim jauniem ierakstiem jāmaksā 0,1125 dolāri, lai gan parasta ievade maksātu 0,09 dolārus. Stundas variants šajā ritmā dod vienu ierakstu un divus trāpījumus par 0,066 dolāriem. Starpību rada pieprasījumu laiks un ieraksta tarifs, nevis tokenu daudzuma maiņa.

OpenAI gpt-6.1-sol garantētais derīguma logs ir īsāks par pieņemto pauzi. Piesardzīgā aprēķinā trīs jauni ieraksti maksā 0,075 dolārus pret 0,06 dolāriem bez kešatmiņas; ieraksts gan var saglabāties ilgāk par garantēto laiku un dot trāpījumu. Agrāko OpenAI modeļu īso in_memory logu nevar attiecināt uz šo modeli. Retai slodzei svarīgāks par ļoti lētu trāpījumu ir jautājums, vai nākamais pieprasījums vispār pienāks laikā, lai to saņemtu.

Intensīva aģenta sesija: stundas termiņš neatmaksājas pats no sevis

Pieņemsim 20 izsaukumus ar vienas minūtes intervālu un to pašu 10 000 tokenu sākumu. Viens ieraksts un 19 trāpījumi maksā 0,044 dolārus OpenAI, salīdzinot ar 0,40 dolāriem par parastu ievadi. Anthropic piecu minūšu variantā tie maksā 0,0945 dolārus pret 0,60 dolāriem bez kešatmiņas, bet stundas variants — 0,117 dolārus. Tā kā trāpījumi atjauno īso termiņu, stundas ieraksta augstākā cena šajā nepārtrauktajā sesijā neko neiegūst.

Aģenta pieprasījumi praksē bieži aug: parādās sarunas vēsture, rīku rezultāti un reizēm jaunas instrukcijas. Tādēļ aprēķins raksturo atkārtoti izmantojamu sākumu, nevis visu aģenta rēķinu. Pārtraukums pēc intensīvas sesijas arī jāvērtē atsevišķi — iepriekšējie trāpījumi negarantē, ka nākamais izsaukums pēc garas pauzes atradīs ierakstu. Anthropic termiņš tiek skaitīts no pieprasījuma sākuma, tāpēc ilgstoša atbildes ģenerēšana samazina laiku, kas pēc atbildes paliek nākamajam trāpījumam.

Ātruma ieguvums ir atkarīgs no trāpījumu īpatsvara

Atkārtoti izmantojot saglabātu sākumu, modelim nav tas pilnībā jāapstrādā no jauna, tāpēc var sarukt laiks līdz pirmajam tokenam. Pētījumā par vairāk nekā 500 aģentu sesijām ar 10 000 tokenu sistēmas uzvednēm dažādas kešatmiņas stratēģijas samazināja API izmaksas par 41–80% un laiku līdz pirmajam tokenam par 13–31% triju pakalpojumu sniedzēju testētajās konfigurācijās. Tie ir pētījuma slodzes rezultāti, nevis izmērīts ātruma ieguvums iepriekš aprēķinātajiem nosacītajiem scenārijiem.

Izvēloties konfigurāciju, atdaliet pirmā ieraksta cenu no trāpījumu cenas un saskaitiet pieprasījumus, kas sākas derīguma logā. Mainīgajiem tokeniem pieskaitiet parasto ievades tarifu. Ja vienāds garais sākums atkārtojas pēc vairāk nekā piecu minūšu pauzēm, Anthropic stundas variants var atpelnīt dārgāko ierakstu; ciešā izsaukumu ritmā īsais variants parasti dod tos pašus trāpījumus lētāk. Abos gadījumos lēmumu nosaka faktiski nolasītie kešatmiņas tokeni un kopējais rēķins par izvēlēto modeli.

Lasiet arī:

• Claude kešatmiņa var sadārdzināt pirmo pieprasījumu — ietaupījums rodas vēlāk
• Anthropic IPO sola rekordu, bet 42 miljardu zaudējumi var aizvērt logu
• Metricool vai Buffer: kontu skaits apgriež cenas salīdzinājumu