Anyscale – Plataforma comercial para clusters Ray, treino e disponibilização de modelos | Quasa.io

#Quasa #QUA #Anyscale

Anyscale é a plataforma comercial dos criadores de Ray: dados distribuídos, treino, inferência em lote e disponibilização de modelos em clusters CPU/GPU/TPU. O modelo oficial baseia-se em Anyscale Credits cobrados em função da utilização — sem uma tarifa fixa pública de SaaS por utilizador. Hosted: máquinas virtuais geridas pela Anyscale, faturação por cartão, apoio em horário comercial. BYOC: a sua VPC e GPUs reservadas, fatura através do marketplace, SLAs 24×7. Exemplos publicados para Hosted: apenas CPU a partir de cerca de AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; para a classe H/B, é necessário contactar a equipa comercial. As tarifas de Kubernetes/conjuntos de máquinas diferem (H100 ~AC $7.16/hr de taxa de plataforma, acrescida da sua fatura da cloud). Os modelos de arranque permitem começar com alguns dólares de crédito. Ray, de código aberto, continua a ser gratuito para execução por conta própria. Não é uma API de LLM de um só clique e não fica mais barato do que usar diretamente a cloud se os clusters ficarem inativos. Comece com Hosted. Passe para BYOC quando as reservas e a localização dos dados forem importantes.

PRINCIPAIS PONTOS FORTES
• Criado pelos autores de Ray
• As mesmas APIs Python, do portátil a 64+ GPUs
• Hosted ou a sua cloud
• Agregação de GPUs em várias clouds
• Observabilidade de tarefas e Serve  

IDEAL PARA
Equipas que já programam com Ray e precisam de clusters de produção, não de mais uma camada sobre notebooks.

DESTAQUES
• Ray afirma ter 500M+ transferências
• Pague apenas pelas horas de execução
• vLLM / Train / Data numa única plataforma
• Faturação através do marketplace no BYOC
• Modelos a partir de alguns dólares  

POSSÍVEIS ASPETOS A CONSIDERAR
• A taxa de plataforma acresce ao custo das GPUs na cloud
• As regiões de Hosted são limitadas
• H100+ exige uma conversa com a equipa comercial
• Os clusters inativos continuam a ter custos se os deixar ligados
• As notícias sobre a propriedade da empresa (acordo com a Nscale) são uma questão distinta do produto  

VEREDITO GLOBAL
4.4/5 estrelas. Use créditos Hosted para validar a tarefa. Adquira BYOC quando já estiver a pagar por GPUs e precisar de operações Ray sem abdicar da VPC. Ganhe também uma recompensa de 1 QUA ao publicar uma avaliação em Quasa.io!

COMECE AQUI: https://quasa.io/projects/anyscale