Anyscale – Plataforma comercial para clústeres Ray, adestramento e servizo de modelos | Quasa.io

#Quasa #QUA #Anyscale

Anyscale é a plataforma comercial dos creadores de Ray: datos distribuídos, adestramento, inferencia por lotes e servizo de modelos en clústeres CPU/GPU/TPU. O modelo oficial baséase no uso de Anyscale Credits, sen unha tarifa SaaS fixa pública por usuario. Hosted: máquinas virtuais xestionadas por Anyscale, facturación con tarxeta e asistencia en horario laboral. BYOC: a túa VPC e as túas GPU reservadas, factura a través do marketplace e SLA 24×7. Exemplos publicados de Hosted: só CPU desde aproximadamente AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; para as clases H/B cómpre contactar coa empresa. As tarifas de Kubernetes e dos grupos de máquinas son distintas (H100 ~AC $7.16/hr de tarifa da plataforma máis a túa factura da nube). Os modelos de configuración iniciais permiten comezar cuns poucos dólares de crédito. Ray, de código aberto, segue sendo gratuíto para executalo pola túa conta. Non é unha API de LLM cun só clic nin sae máis barato que usar directamente a nube se os clústeres permanecen inactivos. Comeza con Hosted. Pasa a BYOC cando as reservas e a localización dos datos sexan importantes.

PUNTOS FORTES PRINCIPAIS
• Creado polos autores de Ray
• As mesmas API de Python desde un portátil ata 64+ GPU
• Hosted ou a túa nube
• Agrupación de GPU de varias nubes
• Observabilidade das tarefas e de Serve  

IDEAL PARA
Equipos que xa programan con Ray e precisan clústeres de produción, non outra capa sobre cadernos interactivos.

ASPECTOS DESTACADOS
• Ray declara 500M+ descargas
• Paga só polas horas de execución
• vLLM / Train / Data nunha soa plataforma
• Facturación a través do marketplace en BYOC
• Modelos de configuración desde uns poucos dólares  

ASPECTOS QUE CÓMPRE TER EN CONTA
• A tarifa da plataforma súmase ao custo das GPU na nube
• As rexións de Hosted son limitadas
• Para H100+ cómpre falar co equipo comercial
• Os clústeres inactivos seguen xerando custos se os deixas en funcionamento
• As noticias sobre a propiedade (acordo con Nscale) son unha cuestión á parte do produto  

VALORACIÓN XERAL
4.4/5 estrelas. Usa créditos de Hosted para comprobar que a tarefa funciona. Contrata BYOC cando xa pagues por GPU e precises xestionar Ray sen renunciar á VPC. Gaña tamén unha recompensa de 1 QUA por publicar unha valoración en Quasa.io!

COMEZA AQUÍ: https://quasa.io/projects/anyscale