Anyscale – komercinė platforma Ray klasteriams, mokymui ir modelių teikimui | Quasa.io

#Quasa #QUA #Anyscale

Anyscale – tai Ray kūrėjų komercinė platforma paskirstytajam duomenų apdorojimui, mokymui, paketiniam prognozių generavimui ir modelių teikimui CPU/GPU/TPU klasteriuose. Oficialus kainodaros modelis pagrįstas naudojimu ir Anyscale Credits – viešai skelbiamos fiksuotos SaaS kainos už naudotoją nėra. Hosted: Anyscale valdomos virtualiosios mašinos, atsiskaitymas kortele, pagalba darbo valandomis. BYOC: jūsų VPC ir rezervuoti GPU, sąskaita per prekyvietę, 24×7 SLA. Skelbiami Hosted kainų pavyzdžiai: vien CPU – nuo maždaug AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; dėl H/B klasės reikia susisiekti. Kubernetes ir mašinų telkinių tarifai skiriasi (H100 ~AC $7.16/hr platformos mokestis ir jūsų debesijos sąskaita). Pradinius šablonus galima paleisti už kelis dolerius kredito. Atvirojo kodo Ray ir toliau galima nemokamai paleisti savo infrastruktūroje. Tai nėra vienu spustelėjimu veikianti LLM API, o jei klasteriai stovi be darbo, ji nėra pigesnė už tiesiogiai naudojamą debesijos infrastruktūrą. Pradėkite nuo Hosted. Pereikite prie BYOC, kai svarbūs tampa rezervuoti ištekliai ir duomenų laikymo vieta.

PAGRINDINĖS STIPRYBĖS
• Sukūrė Ray autoriai
• Tos pačios Python API – nuo nešiojamojo kompiuterio iki 64+ GPU
• Hosted arba jūsų debesija
• GPU telkimas keliose debesijos platformose
• Užduočių ir Serve stebėsena  

IDEALIAI TINKA
Komandoms, kurios jau kuria naudodamos Ray ir kurioms reikia produkcinių klasterių, o ne dar vieno papildomo sluoksnio aplink interaktyviąsias užrašines.

SVARBIAUSI AKCENTAI
• Teigiama, kad Ray atsisiųsta 500M+ kartų
• Mokėkite tik už veikimo valandas
• vLLM / Train / Data vienoje platformoje
• BYOC atsiskaitymas per prekyvietę
• Šablonai nuo kelių dolerių  

Į KĄ VERTA ATSIŽVELGTI
• Platformos mokestis pridedamas prie debesijos GPU kainos
• Hosted regionų pasirinkimas ribotas
• Dėl H100+ reikia tartis su pardavimo komanda
• Be darbo stovintys klasteriai vis tiek kainuoja, jei paliekate juos įjungtus
• Naujienos apie nuosavybės pokyčius (Nscale sandorį) yra atskiras nuo produkto klausimas  

BENDRAS ĮVERTINIMAS
4.4/5 žvaigždučių. Naudokite Hosted kreditus, kad patikrintumėte, ar užduotis veikia taip, kaip reikia. Įsigykite BYOC, kai jau mokate už GPU ir jums reikia Ray eksploatavimo paslaugų neprarandant savo VPC kontrolės. Taip pat gaukite 1 QUA atlygį, parašę atsiliepimą Quasa.io!

PRADĖKITE: https://quasa.io/projects/anyscale