Claude API թե OpenAI API․ էժան token-ը դեռ էժան task չէ

|Հեղինակ: QUASA-ի խմբագրական թիմ|5 րոպե ընթերցանություն
Claude API թե OpenAI API․ էժան token-ը դեռ էժան task չէ

Claude API-ի և OpenAI API-ի միջև ընտրելիս համեմատության միավորը դարձրեք ընդունելի արդյունքով ավարտված առաջադրանքը։ Միայն մուտքային և ելքային տոքենների սակագինը չի ցույց տալիս, թե որքան կարժենան սխալ արդյունքից հետո նոր փորձը, երկար պատասխանը կամ գործիքների հերթական կանչերը։ Նույն աշխատանքը կարող է տարբեր թվով տոքեններ և տարբեր ժամանակ պահանջել։

Հաշվարկի համար հարմար զույգ են Claude Sonnet 5.5-ը և GPT-6.1 Sol-ը. նրանց սովորական կարճ համատեքստի տոքենային սակագները համընկնում են։ Սա թույլ է տալիս առանձնացնել բուն աշխատանքի ազդեցությունը. եթե երկու մոդելն էլ օգտագործեն նույն ծավալի մուտք, քեշ և ելք, տոքենային վճարը հավասար կլինի, իսկ ընտրությունը կորոշեն արդյունքի որակը, գործիքների օգտագործումը և սպասման ժամանակը։

Սակագնից մինչև ամբողջական վճար

Claude Platform-ի պաշտոնական գնացուցակով Sonnet 5.5-ի մեկ միլիոն նոր մուտքային տոքենն արժե $2, ելքայինը՝ $10, հինգ րոպեանոց քեշի գրառումը՝ $2.50, իսկ քեշից ընթերցումը՝ $0.10. վեբ որոնումը հավելյալ $10 է հազար կանչի համար, և միայն ԱՄՆ-ում կատարվող ինֆերենցիայի դեպքում տոքենային սակագները բազմապատկվում են 1.1-ով։ OpenAI API-ի գնացուցակում GPT-6.1 Sol-ի կարճ համատեքստի նույն չորս սակագները համապատասխանաբար $2, $10, $2.50 և $0.10 են, վեբ որոնումը՝ $10 հազար կանչի համար. file search-ի կանչերն ու պահեստավորումը, ինչպես նաև hosted container-ը, առանձին վճար ունեն։

Այդ թվերից առաջադրանքի գինը ստանալու համար պետք է գումարել նոր մուտքը, քեշի գրառումը, քեշից հաջող ընթերցումը, ամբողջ ելքը և վճարովի գործիքները։ Գործիքի վերադարձած բովանդակությունը նույնպես կարող է հայտնվել հաջորդ հարցման մուտքում. որոնման կանչի վճարը դրա տոքենային ծախսը չի փոխարինում։ Գործիքի նկարագրությունն ու կանչի տվյալները ևս զբաղեցնում են համատեքստ, ուստի գործակալային հոսքի մուտքը միայն օգտատիրոջ սկզբնական հարցումը չէ։

Երբ քեշը փոխում է հաշվարկը

Քեշից ցածր գնով ընթերցում ստանալու համար հաջորդ հարցումը պետք է վերօգտագործի համապատասխան նախածանցը, քանի դեռ գրառումը հասանելի է։ Կրկնվող հրահանգը կամ փաստաթուղթը կարող է այդպիսի նախածանց դառնալ, բայց հարցման փոփոխվող մասը ինքնաբերաբար չի դառնում քեշի հաջող ընթերցում։ Այդ պատճառով պլանավորված քեշի բաժինը և օգտագործման հաշվետվության փաստացի քեշային տոքենները տարբեր մեծություններ են։

OpenAI-ի քեշավորման ուղեցույցով GPT-5.6-ից սկսած քեշավորվող նախածանցի նվազագույն երկարությունը 1024 տեսանելի մուտքային տոքեն է, իսկ գրառումից կամ վերջին վերօգտագործումից հետո այն առնվազն 30 րոպե հասանելի է մնում։ Հաստատուն գործիքների սահմանումներն ու ելքի ձևաչափը կարևոր են. դրանց փոփոխությունը կարող է խախտել նախածանցի համընկնումը։ Երկու մատակարարների նույն անվանական քեշային սակագինը, հետևաբար, դեռ չի նշանակում նույն քեշային արդյունքը կոնկրետ հոսքում։

Երեք պայմանական առաջադրանքի հաշվարկ

Ստորև բերվածները պայմանական աշխատանքային բեռներ են, ոչ թե API-ներով կատարված փորձերի արդյունքներ։ Հաշվարկները կիրառում են վերևում նշված սովորական սակագները և ենթադրում են, որ GPT-6.1 Sol-ի յուրաքանչյուր հարցումը մնում է կարճ համատեքստի գնային խմբում։ Քեշի գրառումն ու դրան հաջորդող ընթերցումը տեղի են ունենում տարբեր կանչերում։

  • Տվյալների արտահանում։ Մեկ փորձն ունի 6000 նոր մուտքային և 300 ելքային տոքեն՝ առանց քեշի կամ վճարովի գործիքի։ Հաշվարկը՝ 6000 × $2 / 1 000 000 + 300 × $10 / 1 000 000 = $0.015 յուրաքանչյուր մոդելի համար։ Սա մեկ փորձի, ոչ թե պարտադիր ընդունված արդյունքի գինն է. սխալ դաշտերով պատասխանը ուղղելու կամ նորից ստանալու ծախսը գումարվում է դրան։
  • Երկար կոդի ստեղծում։ Ենթադրենք՝ աշխատանքի մի քանի կանչերը միասին օգտագործում են 10 000 նոր մուտքային տոքեն, 10 000 տոքենի մեկ քեշի գրառում և նույն ծավալի մեկ հաջող ընթերցում, իսկ ընդհանուր ելքը 6000 տոքեն է։ Արժեքը՝ $0.020 + $0.025 + $0.001 + $0.060 = $0.106 յուրաքանչյուր մոդելի համար։ Եթե ստուգումից հետո կոդը վերաշարադրվում է, պետք է ավելացնել նաև ուղղման հարցման մուտքն ու նոր ելքը։
  • Գործիք օգտագործող գործակալ։ Ենթադրենք՝ ամբողջ հոսքի 30 000 նոր մուտքային տոքենն արդեն ներառում է գործիքների սահմանումները և վերադարձած բովանդակությունը։ Դրան գումարվում են 20 000 տոքենի մեկ քեշի գրառում, նույն ծավալի մեկ ընթերցում, 5000 ելքային տոքեն և երկու վճարովի վեբ որոնում։ Արժեքը՝ $0.060 + $0.050 + $0.002 + $0.050 + $0.020 = $0.182 յուրաքանչյուր մոդելի համար։ Սեփական արտաքին API-ի վճարը կամ այլ վճարովի գործիքի օգտագործումն այս պայմանական գումարում ներառված չէ։

Երեք հաշվարկներում հավասար գումարը բխում է հավասար սակագներից և միտումնավոր հավասարեցված ծավալներից։ Իրական հարցումներում նույն տեքստը պարտադիր չէ, որ երկու մոդելի համար նույն թվով տոքեն դառնա։ Առավել զգալի տարբերություն կարող է առաջանալ, երբ մեկը պահանջում է հավելյալ գեներացում կամ գործիքային քայլ. այդ ծախսերը երևում են միայն ամբողջ հոսքը հաշվելիս։

Արագությունն ու որակը՝ նույն աշխատանքի համար

Առաջին տոքենին սպասումը, դրանից հետո ելքի արտադրության արագությունը և մինչև պատրաստ արդյունք անցնող ժամանակը տարբեր չափումներ են։ Երկար կոդի կամ մի քանի որոնումով գործակալի դեպքում արագ սկսվող պատասխանը կարող է երկար ավարտվել, իսկ կարճ extraction-ի համար առաջին պատասխանի ուշացումը կարող է գերակշռել։ Որակի ստուգման պայմանը նույնպես պետք է նույնը լինի. կարճ, բայց թերի պատասխանը լիարժեք պատասխանից էժան թվալու հիմք է տալիս։

Artificial Analysis-ի այս զույգի համեմատությունում GPT-6.1 Sol-ի High և Claude Sonnet 5.5-ի High կազմաձևերի ցուցադրված մուտքային ու ելքային գները հավասար են, սակայն թեստաշարի մեկ առաջադրանքի միջին հաշվարկային արժեքները համապատասխանաբար $0.32 և $0.88 են, իսկ միջին ելքը՝ 13 հազար և 37 հազար տոքեն։ Նույն համեմատությունում առանձին են չափվում ելքի արագությունը, առաջին տոքենին սպասումը և որակը։ Այդ առաջադրանքային արժեքը թեստաշարի կշռված միջինն է, ոչ թե ձեր արտադրանքի մեկ հաջող ավարտի կանխատեսումը։

Ինչն է որոշում ընտրությունը

Հայաստանում ԱԲ արտադրանք կառուցող թիմի համար օգտակար չափումը մեկ ընդունված արդյունքի արժեքն է՝ դրա ստացման ժամանակի հետ միասին։ Նույն extraction-ները, երկար կոդավորման առաջադրանքները և գործակալային հոսքերը երկու API-ներով գնահատելիս պետք է գրանցել բոլոր փորձերի տոքենները, քեշի փաստացի ընթերցումները, գործիքային կանչերը, տևողությունը և ընդունման արդյունքը։ Երկու մոդելի համար նույն ստուգման չափանիշը պահելը թույլ է տալիս գինը կապել ստացված աշխատանքի հետ։

Ընդհանուր վճարը բաժանվում է ընդունված արդյունքների թվին. այդպես ձախողված փորձերը չեն անհետանում հաշվարկից։ Պայմանական օրինակով՝ եթե տվյալների արտահանման 100 հավասարարժեք փորձից ընդունվում է 80-ը, և յուրաքանչյուր փորձն արժե $0.015, ապա մեկ ընդունված արդյունքի արժեքը $1.50 / 80 = $0.01875 է։ Նույն տրամաբանությունը գործում է կոդի վերաշարադրման և գործակալի կրկնվող շրջափուլերի համար։ Եթե թեկնածուներից մեկը նույն որակին հասնում է ավելի քիչ ելքով, գործիքներով կամ կրկնափորձերով, համընկնող տոքենային սակագները այլևս չեն նշանակում համընկնող աշխատանքային ծախս։

Կարդացեք նաև:

Կիսվել:

Բաժանորդագրվեք մեր տեղեկագրին

Ստացեք Web3-ի, ԱԲ-ի և կրիպտոյի վերջին լուրերն անմիջապես ձեր էլ. փոստին։

0