Anyscale – Kommerciel platform til Ray-klynger, træning og modeldrift | Quasa.io

#Quasa #QUA #Anyscale

Anyscale er den kommercielle platform fra skaberne af Ray: distribuerede data, træning, batchinferens og modeldrift på CPU/GPU/TPU-klynger. Den officielle model er forbrugsbaserede Anyscale Credits—ingen offentlig fast SaaS-pris pr. bruger. Hosted: VM'er administreret af Anyscale, kortbetaling og support i åbningstiden. BYOC: din VPC og reserverede GPU'er, fakturering via markedspladsen og 24×7 SLA'er. Offentliggjorte eksempler for Hosted: kun CPU fra omkring AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B-klassen kræver, at du kontakter dem. Priserne for Kubernetes/maskinpuljer er anderledes (H100 ~AC $7.16/hr i platformsgebyr plus din cloudregning). Startskabeloner kan sættes i gang med kreditter for få dollars. Open source-versionen af Ray er fortsat gratis at køre selv. Det er ikke en LLM API med ét klik og er ikke billigere end direkte brug af cloudressourcer, hvis klyngerne står uvirksomme. Start med Hosted. Skift til BYOC, når reservationer og dataenes geografiske placering er vigtige.

VIGTIGSTE STYRKER
• Bygget af udviklerne bag Ray
• Samme Python API'er fra bærbar computer til 64+ GPU'er
• Hosted eller din egen cloud
• Samling af GPU-ressourcer på tværs af cloudmiljøer
• Indblik i jobs og Serve  

IDEEL TIL
Teams, der allerede skriver kode med Ray og har brug for produktionsklynger, endnu et notebook-lag løser ikke deres behov.

HØJDEPUNKTER
• Ray hævdes at have 500M+ downloads
• Betal kun for driftstimer
• vLLM / Train / Data på én platform
• Fakturering via markedspladsen ved BYOC
• Skabeloner fra få dollars  

MULIGE FORBEHOLD
• Platformsgebyret kommer oven i prisen for GPU'er i clouden
• Hosted er kun tilgængelig i et begrænset antal regioner
• H100+ kræver en samtale med salgsafdelingen
• Uvirksomme klynger koster stadig, hvis du lader dem køre
• Nyheder om ejerforhold (Nscale-aftalen) er adskilt fra produktet  

SAMLET VURDERING
4.4/5 stjerner. Brug Hosted-kreditter til at afprøve jobbet. Køb BYOC, når du allerede betaler for GPU'er og har brug for Ray-drift uden at give afkald på din VPC. Få også 1 QUA i belønning ved at skrive en anmeldelse på Quasa.io!

KOM I GANG: https://quasa.io/projects/anyscale