OpenAI API თუ Claude API: იაფ token-ს latency და retry შეიძლება გადაასწროს

OpenAI API-სა და Claude API-ს შორის არჩევანს მხოლოდ ტოკენის ტარიფი ვერ წყვეტს. თუ ორივე მისაღები ხარისხის პასუხს იძლევა, შეადარეთ ერთი წარმატებული ოპერაციის სრული ხარჯი და მომხმარებლის ლოდინის დრო: output-ის მოცულობა, ქეშის შედეგი, batch და განმეორებითი ცდები იაფი ტოკენის უპირატესობას შეიძლება გადაასწროს.

ქვემოთ ტოკენური ხარჯი სამი პირობითი დატვირთვისთვისაა დათვლილი, ხოლო გამოქვეყნებული latency-გაზომვა ცალკეა განხილული. მაგალითებში GPT-6.1 Sol და Claude Sonnet 5.5 ერთნაირი რაოდენობის input- და output-ტოკენებითაა შედარებული. რეალურ დავალებაზე მათი პასუხის სიგრძე და დათვლილი ტოკენები შეიძლება განსხვავდებოდეს, ამიტომ თანაბარი სატარიფო განაკვეთი თანაბარ საბოლოო ანგარიშს არ ნიშნავს.

რას ცვლის input-ის, output-ისა და ქეშის ტარიფი

OpenAI-ის ტარიფებში GPT-6.1 Sol-ის მოკლე კონტექსტის სტანდარტული განაკვეთი მილიონ input-ტოკენზე 2 დოლარია, cached input-ზე — 0,10 დოლარი, cache write-ზე — 2,50 დოლარი, output-ზე კი — 10 დოლარი. Batch რეჟიმში შესაბამისი განაკვეთებია 1, 0,05, 1,25 და 5 დოლარი. გრძელი კონტექსტისთვის ცხრილში უფრო მაღალი ფასებია; რეგიონული დამუშავების მხარდაჭერილ კონფიგურაციას დამატებით 10% ემატება.

Anthropic-ის ტარიფებით Claude Sonnet 5.5-ის მილიონი input-ტოკენი 2 დოლარი ღირს, output — 10 დოლარი, ხუთწუთიანი cache write — 2,50 დოლარი, ერთსაათიანი write — 4 დოლარი, cache read კი — 0,10 დოლარი. Batch input-სა და output-ს ანახევრებს. Claude API-ში ნაგულისხმევი გლობალური მარშრუტის ნაცვლად მხოლოდ აშშ-ში დამუშავების მითითება შესაბამის ტოკენურ განაკვეთებს 1,1-ჯერ ზრდის.

ამრიგად, ამ ორი მოდელის მოკლე კონტექსტის საბაზო ტოკენური ფასები ერთმანეთს ემთხვევა, მაგრამ მათი კონფიგურაციები ავტომატურად იდენტური არ არის. განსაკუთრებით მნიშვნელოვანია ქეშის მოქმედების დრო: ხუთწუთიანი ჩაწერის ფასით დათვლილი მაგალითი ერთსაათიან ჩაწერაზე უცვლელად არ გადაიტანება. აქ მოცემული თანხები მხოლოდ API-ის ტოკენურ საფასურს მოიცავს; დამატებითი ინსტრუმენტები და საკუთარი ინფრასტრუქტურა ცალკე ხარჯია.

სამი დატვირთვა ერთი და იმავე ანგარიშით

პირველი პირობითი დატვირთვა პასუხებით მდიდარი ინტერაქტიული სერვისია: 0,2 მილიონი input-ტოკენი და 1 მილიონი output-ტოკენი, ქეშისა და batch-ის გარეშე. ორივე მოდელისთვის ტოკენური ხარჯია 0,2 × 2 + 1 × 10 = 10,40 დოლარი. თანხის უდიდესი ნაწილი პასუხზე მოდის. თუ ერთმა მოდელმა იმავე დავალებას უფრო გრძელი პასუხი გასცა, input-ის ტარიფის მცირე უპირატესობა საბოლოო ხარჯში შეიძლება გაქრეს.

მეორე პირობითი დატვირთვა განმეორებადი კონტექსტის დამუშავებაა: 0,2 მილიონი ჩვეულებრივი input-ტოკენი, 0,1 მილიონი cache write, 0,7 მილიონი cache read და 0,2 მილიონი output. ხუთწუთიანი ჩაწერის დაშვებით ორივე მოდელის ანგარიშია 0,2 × 2 + 0,1 × 2,50 + 0,7 × 0,10 + 0,2 × 10 = 2,72 დოლარი. მთელი input-ის ჩვეულებრივი განაკვეთით დათვლა 4 დოლარს მოგვცემდა. სხვაობა მხოლოდ მაშინ მიიღება, თუ მითითებული cache hit-ები მართლაც მოხდა; Claude-ის ერთსაათიანი ჩაწერის არჩევისას ამ მაგალითის write-ნაწილი გაიზრდებოდა.

მესამე პირობითი დატვირთვა გადავადებადი მასობრივი ამოცანაა: 2 მილიონი input-ტოკენი და 0,1 მილიონი output-ტოკენი batch რეჟიმში, ქეშის გარეშე. ორივე მოდელისთვის გამოდის 2 × 1 + 0,1 × 5 = 2,50 დოლარი, სტანდარტული რეჟიმის 5 დოლარის ნაცვლად. ასეთი ეკონომია შესაფერისია სამუშაოსთვის, რომლის შედეგსაც მომხმარებელი დაუყოვნებლივ არ ელოდება. ინტერაქტიული პასუხის მოთხოვნისას batch-ის დაბალი განაკვეთი ჩვეულებრივი მოთხოვნის ლოდინის დროს ვერ შეცვლის.

ეს სამი ანგარიში ფასების განსხვავებულ მამოძრავებელს აჩენს: პირველში output ჭარბობს, მეორეში ქეშის რეალური გამოყენება წყვეტს შედეგს, მესამეში კი გადავადების შესაძლებლობა. შედარებამდე ერთნაირი ტოკენების დაშვება გამოთვლას გამჭვირვალეს ხდის, მაგრამ production-ანგარიშში თითოეული მოდელის მიერ ფაქტობრივად დარიცხული input, cache write, cache read და output უნდა მოხვდეს.

გამოქვეყნებული latency და საკუთარი p95

მესამე მხარის გაზომვა აჩვენებს, რატომ არის პასუხის დრო ფასისგან დამოუკიდებელი საზომი. Edgee-ის 2026 წლის 5–6 აგვისტოს ტესტში პირდაპირი OpenAI API-ით GPT-5.4-ის პირველი ტექსტის მიღების მედიანური დრო 774 მილიწამი და p90 — 1 226 მილიწამი იყო; პირდაპირი Anthropic API-ით Claude Sonnet 4.6-ის შესაბამისი მაჩვენებლები 1 114 და 2 031 მილიწამი იყო. Edgee თვითონაც მონაწილეობდა ტესტში, ხოლო პირდაპირი API-ები შედარების საყრდენად გამოიყენა.

ტესტი მოკლე, ერთნაირ სტრიმინგ-მოთხოვნებს სხვადასხვა ღრუბლოვანი რეგიონიდან აგზავნიდა. პირველი ტექსტის მიღების დრო მთლიანი პასუხის დასრულების დრო არ არის: გრძელი გენერაცია, ინსტრუმენტის გამოძახება და ქსელი ოპერაციის ხანგრძლივობას დამატებით ცვლის. გამოქვეყნებული p90 არც საქართველოდან გაზომილი p95-ია და არც ზემოთ ფასით შედარებული GPT-6.1 Sol-ისა და Claude Sonnet 5.5-ის შედეგი.

ინტერაქტიული სერვისისთვის ცალკე უნდა გამოჩნდეს სრული ოპერაციის p50 და p95, რადგან საშუალო დრო ნელ მოთხოვნებს ფარავს. სამართლიანი შედარებისთვის ორივე API-ს მსგავსი მოთხოვნები, პასუხის მოცულობა, დატვირთვა და კლიენტის ქსელი სჭირდება. ამ სვეტში უნდა მოხვდეს მომხმარებლის მიერ განცდილი დრო, მათ შორის განმეორებითი ცდის ლოდინიც; ტოკენების ფასი ამას ვერ ასახავს.

Retry როდის ზრდის დროს და როდის — საფასურს

OpenAI-ის rate limit-ის წესები დროებითი 429 პასუხისთვის, როცა ის არსებობს, Retry-After-ის გათვალისწინებას და განმეორებითი ცდების რაოდენობისა და საერთო დროის შეზღუდვას აღწერს. თუ ეს მითითება არ მოვიდა, დოკუმენტაცია მზარდ დაყოვნებასა და მცირე შემთხვევით შუალედს ურჩევს კლიენტს; წარუმატებელი მოთხოვნებიც წუთობრივ ლიმიტში ითვლება. ამიტომ სწრაფი, შეუზღუდავი გამეორება ლოდინს ამატებს და ლიმიტიდან გამოსვლას ართულებს.

Anthropic-ის rate limit-ის აღწერაში Messages API-ის ზღვარი წუთში მოთხოვნებით, input-ტოკენებითა და output-ტოკენებით იზომება; ლიმიტის გადაჭარბების 429 პასუხს retry-after ახლავს. მოდელების უმეტესობისთვის ქეშიდან წაკითხული ტოკენები input-ის წუთობრივ ლიმიტში არ შედის. ამგვარად, წარმატებული cache hit შეიძლება ერთდროულად ამცირებდეს ტოკენურ საფასურს და დატვირთული სერვისის ლიმიტზე ზეწოლას.

ყოველი retry დამატებით დასრულებულ გენერაციას არ ნიშნავს: ლიმიტით უარყოფილი ცდა და ხელახლა მიღებული სრული პასუხი სხვადასხვა შედეგია. ხარჯს ზრდის ის გამეორებები, რომლებმაც დარიცხული ტოკენები მოიხმარა; დროს კი ლოდინი და განმეორებითი მოთხოვნაც ზრდის. პირობითად, თუ იაფი ვარიანტის საბაზო ხარჯია 9 დოლარი, მეორისა — 10 დოლარი, ხოლო იაფ ვარიანტში დასრულებული გამეორებები დარიცხულ ტოკენებს კიდევ 20%-ით ზრდის, მისი ანგარიში 10,80 დოლარი გახდება. ეს არ არის რომელიმე API-ის გაზომილი retry-მაჩვენებელი — მხოლოდ მაგალითია იმისა, როგორ შეიძლება საწყისი ფასობრივი უპირატესობა გაქრეს.

რომელი არჩევანია გამართლებული ქართული სერვისისთვის

არჩევანის ერთეული ერთი მილიონი ტოკენი კი არა, მისაღები ხარისხის ერთი წარმატებული ოპერაციაა. ამ ერთეულზე შეიკრიბება დარიცხული input, output და ქეშის ოპერაციები, დასრულებული განმეორებითი ცდები და, საჭიროების შემთხვევაში, რეგიონული დამუშავების დანამატი. გადავადებად სამუშაოს batch-ის ანგარიში ეკუთვნის; მომხმარებლის წინაშე მიმდინარე მოთხოვნას — სრული პასუხის დრო და მისი ნელი შემთხვევები.

საქართველოში მომხმარებლის ყოფნა თავისთავად არც OpenAI-ის რეგიონული დამუშავების რეჟიმს რთავს და არც Claude-ის მხოლოდ აშშ-ში დამუშავების პარამეტრს. ეს პირობები ფასში მაშინ უნდა მოხვდეს, როცა მომსახურების არჩეული კონფიგურაცია მათ ნამდვილად იყენებს. თანაბარი საბაზო ტარიფის შემთხვევაშიც არჩევანი შეიძლება შეცვალოს პასუხის სიგრძემ, ქეშის რეალურმა შედეგმა და იმან, რამდენ ხანს ელოდება მომხმარებელი ნელ მოთხოვნას.

ასევე წაიკითხეთ:

• LLM API-ის დაბალი ფასი შეიძლება მოჩვენებითი იყოს — გადამწყვეტია პასუხის სიგრძე
• Zendesk თუ Freshdesk: იაფ ადგილს AI-ის დარიცხვა შეიძლება გადაასწროს
• Claude Code თუ Gemini CLI: უფასო არჩევანსაც სჭირდება მკაცრი კონტროლი