Anyscale – Komercijalna platforma za klastere Ray, treniranje i posluživanje | Quasa.io

#Quasa #QUA #Anyscale

Anyscale je komercijalna platforma autora sustava Ray: distribuirani podaci, treniranje, skupno zaključivanje i posluživanje na CPU/GPU/TPU klasterima. Službeni model temelji se na potrošnji kredita Anyscale Credits — nema javno objavljene paušalne SaaS cijene po korisniku. Hosted: virtualni strojevi kojima upravlja Anyscale, plaćanje karticom, podrška tijekom radnog vremena. BYOC: vaš VPC i rezervirani GPU-ovi, račun putem tržišta usluga, SLA-ovi 24×7. Objavljeni primjeri za Hosted: samo CPU od približno AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; za klasu H/B potrebno je kontaktirati prodaju. Cijene za Kubernetes i skupove strojeva razlikuju se (H100 ~AC $7.16/hr naknade za platformu uz vaš račun za oblak). Početni predlošci pokreću se uz nekoliko dolara kredita. Ray otvorenog koda ostaje besplatan za samostalno pokretanje. To nije LLM API koji se pokreće jednim klikom niti je jeftiniji od izravnog korištenja oblaka ako klasteri miruju. Počnite s opcijom Hosted. Prijeđite na BYOC kada rezervacije i lokacija pohrane podataka postanu važne.

GLAVNE PREDNOSTI
• Razvili su je autori sustava Ray
• Isti Python API-ji od prijenosnog računala do 64+ GPU-ova
• Hosted ili vaš oblak
• Objedinjavanje GPU-ova iz više oblaka
• Uvid u rad zadataka i komponente Serve  

IDEALNO ZA
Timove koji već pišu kod za Ray i trebaju produkcijske klastere, a ne još jedan omotač za bilježnice.

IZDVOJENO
• Prema navodima, Ray ima 500M+ preuzimanja
• Plaćate samo sate rada
• vLLM / Train / Data na jednoj platformi
• Naplata putem tržišta usluga za BYOC
• Predlošci već od nekoliko dolara  

NA ŠTO TREBA OBRATITI POZORNOST
• Naknada za platformu dodaje se trošku GPU-ova u oblaku
• Dostupnost opcije Hosted ograničena je na određene regije
• Za H100+ potreban je razgovor s prodajom
• Klasteri koji miruju i dalje stvaraju troškove ako ih ostavite uključenima
• Vijesti o vlasništvu (dogovor s tvrtkom Nscale) odvojene su od samog proizvoda  

UKUPNA OCJENA
4.4/5 zvjezdica. Upotrijebite kredite za Hosted kako biste provjerili izvedivost zadatka. Odaberite BYOC kada već plaćate GPU-ove i trebate upravljanje sustavom Ray uz zadržavanje vlastitog VPC-a. Osvojite i nagradu od 1 QUA pisanjem recenzije na Quasa.io!

ZAPOČNITE: https://quasa.io/projects/anyscale