Anyscale – Kommersiell plattform for Ray-klynger, trening og modellservering | Quasa.io

#Quasa #QUA #Anyscale

Anyscale er den kommersielle plattformen fra skaperne av Ray: distribuerte data, trening, batchinferens og modellservering på CPU/GPU/TPU-klynger. Den offisielle prismodellen er bruksbaserte Anyscale Credits – ingen offentlig fastpris per SaaS-bruker. Hosted: VM-er administrert av Anyscale, kortbetaling, brukerstøtte i kontortiden. BYOC: din VPC og reserverte GPU-er, faktura via markedsplassen, SLA-er med 24×7-dekning. Publiserte Hosted-eksempler: kun CPU fra omtrent AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B-klassen krever at du tar kontakt. Prisene for Kubernetes/maskinpooler er forskjellige (H100 ~AC $7.16/hr i plattformavgift pluss skyregningen din). Startmaler kan kjøres for noen få dollar i kreditt. Ray med åpen kildekode er fortsatt gratis å drifte selv. Dette er ikke et LLM API med ett klikk og er ikke billigere enn direkte bruk av skytjenester hvis klyngene står inaktive. Start med Hosted. Gå over til BYOC når reservasjoner og datalagringssted er viktig.

VIKTIGSTE STYRKER
• Bygget av utviklerne bak Ray
• Samme Python API-er fra bærbar PC til 64+ GPU-er
• Hosted eller din egen sky
• Samling av GPU-ressurser på tvers av skyer
• Innsyn i jobber og Serve  

IDEELT FOR
Team som allerede skriver Ray-kode og trenger produksjonsklynger, og ikke enda et innpakningslag rundt en notatbok.

HØYDEPUNKTER
• Ray oppgis å ha 500M+ nedlastinger
• Betal bare for driftstimer
• vLLM / Train / Data på én plattform
• Fakturering via markedsplassen for BYOC
• Maler fra noen få dollar  

MULIGE FORBEHOLD
• Plattformavgiften kommer i tillegg til GPU-ene i skyen
• Hosted har et begrenset antall regioner
• H100+ krever en samtale med salgsavdelingen
• Inaktive klynger koster fortsatt hvis du lar dem være i gang
• Nyheter om eierskap (Nscale-avtalen) er atskilt fra produktet  

SAMLET VURDERING
4.4/5 stjerner. Bruk Hosted-kreditter til å teste at jobben fungerer. Kjøp BYOC når du allerede betaler for GPU-er og trenger Ray-drift uten å gi fra deg VPC-en. Få også 1 QUA i belønning ved å skrive en anmeldelse på Quasa.io!

KOM I GANG: https://quasa.io/projects/anyscale