Anyscale – Komercialna platforma za gruče Ray, učenje in streženje modelov | Quasa.io

#Quasa #QUA #Anyscale

Anyscale je komercialna platforma ustvarjalcev Ray: porazdeljena obdelava podatkov, učenje, paketno sklepanje in streženje modelov v gručah CPU/GPU/TPU. Uradni model temelji na porabi kreditov Anyscale Credits — javno objavljene pavšalne cene SaaS na uporabnika ni. Hosted: virtualni stroji, ki jih upravlja Anyscale, plačevanje s kartico, podpora med delovnim časom. BYOC: vaš VPC in rezervirani GPU-ji, račun prek tržnice, pogodbe SLA 24×7. Objavljeni primeri za Hosted: samo CPU od približno AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; za razred H/B je potreben neposreden stik. Cene za Kubernetes/skupine strojev se razlikujejo (H100 ~AC $7.16/hr pristojbine za platformo poleg vašega računa za oblak). Začetne predloge lahko zaženete že z nekaj dolarji kredita. Odprtokodni Ray ostaja brezplačen za samostojno izvajanje. To ni LLM API na en klik in ni cenejši od neposredne uporabe oblaka, če gruče mirujejo. Začnite s Hosted. Preidite na BYOC, ko postanejo pomembne rezervacije in lokacija hrambe podatkov.

GLAVNE PREDNOSTI
• Razvili so ga avtorji Ray
• Isti Python API-ji od prenosnika do 64+ GPU-jev
• Hosted ali vaš oblak
• Združevanje GPU-jev iz več oblakov
• Opazljivost opravil in Serve  

IDEALNO ZA
Ekipe, ki že razvijajo z Ray in potrebujejo produkcijske gruče, ne še enega ovoja za zvezke.

POUDARKI
• Ray po navedbah beleži 500M+ prenosov
• Plačate samo ure delovanja
• vLLM / Train / Data na eni platformi
• Obračunavanje prek tržnice pri BYOC
• Predloge že za nekaj dolarjev  

MOREBITNI POMISLEKI
• Pristojbina za platformo se prišteje stroškom GPU-jev v oblaku
• Regije za Hosted so omejene
• Za H100+ je potreben pogovor s prodajo
• Mirujoče gruče še vedno povzročajo stroške, če jih pustite zagnane
• Novice o lastništvu (posel z Nscale) so ločene od izdelka  

SKUPNA OCENA
4.4/5 zvezdic. S krediti Hosted preverite izvedljivost opravila. Kupite BYOC, ko že plačujete za GPU-je in potrebujete upravljanje Ray, ne da bi se odpovedali svojemu VPC. Tudi z oceno na Quasa.io si prislužite nagrado 1 QUA!

ZAČNITE: https://quasa.io/projects/anyscale