Anyscale – Piattaforma commerciale per cluster Ray, addestramento e serving | Quasa.io

#Quasa #QUA #Anyscale

Anyscale è la piattaforma commerciale dei creatori di Ray: dati distribuiti, addestramento, inferenza batch e serving su cluster CPU/GPU/TPU. Il modello ufficiale si basa sugli Anyscale Credits a consumo, senza una tariffa SaaS fissa per postazione pubblicamente disponibile. Hosted: VM gestite da Anyscale, fatturazione su carta, assistenza in orario lavorativo. BYOC: il tuo VPC e GPU riservate, fattura tramite marketplace, SLA 24×7. Esempi pubblicati per Hosted: solo CPU da circa AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; per la classe H/B occorre contattare l'azienda. Le tariffe per Kubernetes/pool di macchine sono diverse (H100 ~AC $7.16/hr di costo della piattaforma, più la tua fattura cloud). I modelli iniziali si avviano con pochi dollari di credito. Ray open source rimane gratuito se gestito autonomamente. Non è un'API LLM utilizzabile con un clic e non è più economico del solo cloud se i cluster restano inattivi. Inizia con Hosted. Passa a BYOC quando le prenotazioni e la residenza dei dati diventano importanti.

PUNTI DI FORZA PRINCIPALI
• Sviluppato dagli autori di Ray
• Le stesse API Python dal portatile a 64+ GPU
• Hosted o il tuo cloud
• Pooling di GPU su più cloud
• Osservabilità dei job e di Serve  

IDEALE PER
Team che scrivono già codice Ray e hanno bisogno di cluster di produzione, non di un'altra interfaccia per notebook.

ASPETTI DI RILIEVO
• Ray dichiara 500M+ download
• Paghi solo le ore di esecuzione
• vLLM / Train / Data su un'unica piattaforma
• Fatturazione tramite marketplace su BYOC
• Modelli a partire da pochi dollari  

POTENZIALI ASPETTI DA CONSIDERARE
• Il costo della piattaforma si aggiunge a quello delle GPU cloud
• Le regioni disponibili per Hosted sono limitate
• Per H100+ occorre parlare con il reparto vendite
• I cluster inattivi continuano a generare costi se li lasci attivi
• Le notizie sulla proprietà (accordo con Nscale) sono separate dal prodotto  

VALUTAZIONE COMPLESSIVA
4.4/5 stelle. Usa i crediti Hosted per verificare il funzionamento del job. Acquista BYOC quando paghi già per le GPU e hai bisogno della gestione operativa di Ray senza rinunciare al VPC. Ottieni anche una ricompensa di 1 QUA lasciando una recensione su Quasa.io!

INIZIA: https://quasa.io/projects/anyscale