Anyscale – Kommersiell plattform för Ray-kluster, träning och modellservering | Quasa.io

#Quasa #QUA #Anyscale

Anyscale är den kommersiella plattformen från skaparna av Ray: distribuerad datahantering, träning, batchinferens och modellservering på CPU/GPU/TPU-kluster. Den officiella prismodellen bygger på användningsbaserade Anyscale Credits—ingen offentligt angiven fast SaaS-avgift per användare. Hosted: virtuella maskiner som hanteras av Anyscale, kortbetalning och support under kontorstid. BYOC: din VPC och reserverade GPU:er, fakturering via marknadsplatsen och SLA:er som gäller 24×7. Publicerade prisexempel för Hosted: enbart CPU från cirka AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; för H/B-klassen behöver du kontakta företaget. Priserna för Kubernetes/maskinpooler skiljer sig (H100 ~AC $7.16/hr i plattformsavgift plus din molnräkning). Startmallar kan köras med krediter för några få dollar. Ray med öppen källkod är fortfarande gratis att köra själv. Det är inget LLM-API som fungerar med ett klick och är inte billigare än att köpa molnresurser direkt om klustren står inaktiva. Börja med Hosted. Gå över till BYOC när reservationer och var data lagras blir viktiga.

FRÄMSTA STYRKOR
• Byggt av skaparna av Ray
• Samma Python-API:er från bärbar dator till 64+ GPU:er
• Hosted eller ditt eget moln
• Gemensamma GPU-pooler över flera moln
• Observerbarhet för jobb och Serve  

PASSAR FÖR
Team som redan skriver kod med Ray och behöver produktionskluster, inte ännu ett gränssnitt ovanpå notebooks.

HÖJDPUNKTER
• Ray uppges ha 500M+ nedladdningar
• Betala endast för drifttimmar
• vLLM / Train / Data på en plattform
• Fakturering via marknadsplatsen för BYOC
• Mallar från några få dollar  

SAKER ATT TÄNKA PÅ
• Plattformsavgiften tillkommer utöver kostnaden för GPU:er i molnet
• Hosted är tillgängligt i ett begränsat antal regioner
• H100+ kräver kontakt med säljteamet
• Inaktiva kluster kostar fortfarande om du låter dem vara igång
• Nyheter om ägarförhållanden (Nscale-affären) är separata från produkten  

SAMLAT OMDÖME
4.4/5 stjärnor. Använd Hosted-krediter för att verifiera att jobbet fungerar. Köp BYOC när du redan betalar för GPU:er och behöver Ray-drift utan att ge upp din VPC. Få också en belöning på 1 QUA genom att skriva en recension på Quasa.io!

KOM IGÅNG: https://quasa.io/projects/anyscale