Anyscale – Plataforma comercial para clusters Ray, treinamento e serving | Quasa.io

#Quasa #QUA #Anyscale

Anyscale é a plataforma comercial dos criadores do Ray: dados distribuídos, treinamento, inferência em lote e serving em clusters de CPU/GPU/TPU. O modelo oficial é baseado em créditos do Anyscale (Anyscale Credits) conforme o uso — sem plano SaaS fixo público. Hosted: VMs gerenciadas pelo Anyscale, faturamento por cartão, suporte em horário comercial. BYOC: sua VPC e GPUs reservadas, fatura de marketplace, SLAs 24×7. Exemplos publicados de Hosted: apenas CPU a partir de ~$0.0135/h, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; a classe H/B é sob consulta. As taxas de Kubernetes/pools de máquinas diferem (taxa de plataforma H100 ~AC $7.16/h mais a sua fatura de nuvem). Modelos iniciais são lançados a partir de alguns dólares em crédito. O Ray de código aberto permanece gratuito para auto-execução. Não é uma API de LLM de um clique e não é mais barato que a nuvem pura se os clusters ficarem ociosos. Comece no Hosted. Mude para o BYOC quando reservas e residência de dados forem importantes.

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛S
• Criado pelos autores do Ray
• As mesmas APIs Python do laptop para mais de 64 GPUs
• Hosted ou na sua nuvem
• Agrupamento de GPUs multicloud
• Observabilidade em jobs e Serve  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
Equipes que já escrevem em Ray e precisam de clusters de produção, e não de outro wrapper de notebook.

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• Mais de 500M de downloads do Ray reivindicados
• Pague apenas pelas horas de execução
• vLLM / Train / Data em uma única plataforma
• Cobrança via marketplace no BYOC
• Modelos a partir de poucos dólares  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• A taxa de plataforma é somada às GPUs da nuvem
• As regiões do Hosted são limitadas
• H100+ requer contato com vendas
• Clusters ociosos ainda custam se você os deixar ligados
• Notícias de propriedade (acordo com a Nscale) são separadas do produto  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 estrelas. Use créditos do Hosted para comprovar o trabalho. Compre o BYOC quando você já paga por GPUs e precisa de operações Ray sem abrir mão da VPC. Ganhe também uma recompensa de 1 QUA avaliando no Quasa.io!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/anyscale