Anyscale – Առևտրային հարթակ Ray կլաստերների, ուսուցման և մոդելների սպասարկման համար | Quasa.io

#Quasa #QUA #Anyscale

Anyscale-ը Ray-ի ստեղծողների առևտրային հարթակն է՝ բաշխված տվյալների մշակման, ուսուցման, խմբաքանակային ինֆերենսի և մոդելների սպասարկման համար CPU/GPU/TPU կլաստերներում։ Պաշտոնական մոդելը հիմնված է օգտագործման ծավալով հաշվարկվող Anyscale Credits-ի վրա․ SaaS-ի մեկ օգտատեղի համար հրապարակված հաստատուն սակագին չկա։ Hosted՝ Anyscale-ի կողմից կառավարվող վիրտուալ մեքենաներ, քարտով վճարում, աջակցություն աշխատանքային ժամերին։ BYOC՝ ձեր VPC-ն և ամրագրված GPU-ները, հաշիվ՝ ամպային ծառայությունների առևտրային հարթակից, 24×7 SLA-ներ։ Hosted-ի հրապարակված օրինակներ՝ միայն CPU-ով՝ մոտ AC $0.0135/hr-ից, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96․ H/B դասի համար պետք է կապ հաստատել ընկերության հետ։ Kubernetes-ի/մեքենաների խմբերի սակագները տարբերվում են (H100՝ ~AC $7.16/hr հարթակի վճար՝ գումարած ձեր ամպային ծառայությունների հաշիվը)։ Մեկնարկային ձևանմուշները գործարկվում են մի քանի դոլարի վարկային միջոցներով։ Բաց կոդով Ray-ը շարունակում է անվճար լինել ինքնուրույն գործարկման համար։ Սա մեկ սեղմումով աշխատող LLM API չէ և սովորական ամպային ենթակառուցվածքից ավելի էժան չէ, եթե կլաստերները պարապ են մնում։ Սկսեք Hosted-ից։ Անցեք BYOC-ի, երբ ռեսուրսների ամրագրումն ու տվյալների տեղակայման վայրը կարևոր են դառնում։

ՀԻՄՆԱԿԱՆ ԱՌԱՎԵԼՈՒԹՅՈՒՆՆԵՐ
• Ստեղծված է Ray-ի հեղինակների կողմից
• Նույն Python API-ները՝ նոթբուքից մինչև 64+ GPU
• Hosted կամ ձեր ամպային միջավայրը
• GPU-ների միավորում տարբեր ամպային միջավայրերից
• Առաջադրանքների և Serve-ի աշխատանքի դիտարկելիություն  

ԻԴԵԱԼԱԿԱՆ Է
Այն թիմերի համար, որոնք արդեն կոդ են գրում Ray-ով և կարիք ունեն արտադրական կլաստերների, այլ ոչ թե նոթբուքի հերթական ծրագրային պատյանի։

ՈՒՇԱԳՐԱՎ ԿԵՏԵՐ
• Ըստ հայտարարված տվյալների՝ Ray-ն ունի 500M+ ներբեռնում
• Վճարեք միայն աշխատանքի ժամերի համար
• vLLM / Train / Data՝ մեկ հարթակում
• BYOC-ի վճարումների հաշվարկ՝ ամպային ծառայությունների առևտրային հարթակի միջոցով
• Ձևանմուշներ՝ մի քանի դոլարից սկսած  

ՀՆԱՐԱՎՈՐ ՍԱՀՄԱՆԱՓԱԿՈՒՄՆԵՐ
• Հարթակի վճարն ավելանում է ամպային GPU-ների արժեքին
• Hosted-ի հասանելի տարածաշրջանները սահմանափակ են
• H100+-ի համար անհրաժեշտ է քննարկում վաճառքի բաժնի հետ
• Պարապ կլաստերները շարունակում են ծախս առաջացնել, եթե դրանք միացված եք թողնում
• Սեփականատիրության մասին լուրերը (Nscale-ի գործարքը) առանձին են բուն արտադրանքից  

ԸՆԴՀԱՆՈՒՐ ԳՆԱՀԱՏԱԿԱՆ
4.4/5 աստղ։ Օգտագործեք Hosted-ի վարկային միջոցները՝ առաջադրանքի կատարումը փորձարկելու համար։ Գնեք BYOC, երբ արդեն վճարում եք GPU-ների համար և ցանկանում եք Ray-ի գործառնական կառավարում՝ պահպանելով ձեր VPC-ն։ Ստացեք նաև 1 QUA պարգև՝ կարծիք թողնելով Quasa.io-ում։

ՍԿՍԵՔ ԱՅՍՏԵՂԻՑ․ https://quasa.io/projects/anyscale