Anyscale – Plataforma comercial per a clústers de Ray, entrenament i desplegament de models | Quasa.io

#Quasa #QUA #Anyscale

Anyscale és la plataforma comercial dels creadors de Ray: dades distribuïdes, entrenament, inferència per lots i desplegament de models en clústers de CPU/GPU/TPU. El model oficial es basa en Anyscale Credits segons l’ús, sense cap tarifa SaaS fixa pública per usuari. Hosted: màquines virtuals gestionades per Anyscale, facturació amb targeta i assistència en horari laboral. BYOC: la vostra VPC i les vostres GPU reservades, factura del marketplace i SLA 24×7. Exemples publicats de Hosted: només CPU des d’aproximadament AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; per a la classe H/B, cal contactar amb l’empresa. Les tarifes de Kubernetes i dels grups de màquines són diferents (H100 ~AC $7.16/hr de tarifa de plataforma més la vostra factura del núvol). Les plantilles inicials es poden posar en marxa amb uns quants dòlars de crèdit. Ray, de codi obert, continua sent gratuït si l’executeu pel vostre compte. No és una API de LLM que funcioni amb un sol clic ni és més barat que contractar directament recursos al núvol si els clústers estan inactius. Comenceu amb Hosted. Passeu a BYOC quan les reserves i la residència de les dades siguin importants.

PUNTS FORTS PRINCIPALS
• Creat pels autors de Ray
• Les mateixes API de Python, des d’un portàtil fins a 64+ GPU
• Hosted o el vostre núvol
• Agrupació de GPU de diversos núvols
• Observabilitat de les tasques i de Serve  

IDEAL PER A
Equips que ja programen amb Ray i necessiten clústers de producció, no una altra capa sobre un entorn de quaderns.

ASPECTES DESTACATS
• Ray afirma tenir 500M+ descàrregues
• Pagueu només les hores de funcionament
• vLLM / Train / Data en una sola plataforma
• Facturació a través del marketplace amb BYOC
• Plantilles a partir d’uns quants dòlars  

POSSIBLES ASPECTES A TENIR EN COMPTE
• La tarifa de la plataforma s’afegeix al cost de les GPU al núvol
• Les regions de Hosted són limitades
• Per a H100+, cal parlar amb l’equip comercial
• Els clústers inactius continuen generant costos si els deixeu en marxa
• Les notícies sobre la propietat (acord amb Nscale) són independents del producte  

VALORACIÓ GLOBAL
4.4/5 estrelles. Feu servir crèdits de Hosted per validar la tasca. Contracteu BYOC quan ja pagueu per GPU i necessiteu gestionar Ray sense renunciar a la VPC. Guanyeu també una recompensa d’1 QUA publicant una ressenya a Quasa.io!

COMENCEU: https://quasa.io/projects/anyscale