Anyscale – Ray klusterretarako, entrenamendurako eta ereduak zerbitzatzeko plataforma komertziala | Quasa.io

#Quasa #QUA #Anyscale

Anyscale Rayren sortzaileen plataforma komertziala da: datu banatuak, entrenamendua, lotekako inferentzia eta ereduak zerbitzatzea CPU/GPU/TPU klusterretan. Eredu ofiziala erabileraren araberako Anyscale Credits da; ez dago erabiltzaile bakoitzeko SaaS tarifa finko publikorik. Hosted: Anyscalek kudeatutako VMak, txartel bidezko fakturazioa eta laguntza bulego-orduetan. BYOC: zure VPCa eta erreserbatutako GPUak, marketplace bidezko faktura eta 24×7 SLAk. Hosted aukerarako argitaratutako adibideak: CPU hutsekoak, gutxi gorabehera AC $0.0135/hr-tik aurrera, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B klasekoetarako, haiekin harremanetan jarri behar da. Kubernetes eta makina multzoen tarifak desberdinak dira (H100: ~AC $7.16/hr plataformaren kuota gehi zure hodeiko faktura). Hasierako txantiloiak kreditu-dolar gutxi batzuekin abiaraz daitezke. Kode irekiko Rayk doakoa izaten jarraitzen du norberaren azpiegituran exekutatzeko. Ez da klik bakarreko LLM API bat, eta ez da hodeia zuzenean erabiltzea baino merkeagoa klusterrak geldirik badaude. Hasi Hosted aukerarekin. Aldatu BYOC aukerara erreserbak eta datuen kokapena garrantzitsuak direnean.

INDARGUNE NAGUSIAK
• Rayren egileek sortua
• Python API berberak, ordenagailu eramangarritik 64+ GPUtara
• Hosted edo zure hodeia
• Hainbat hodeitako GPUak bateratzea
• Atazen eta Serve-ren behagarritasuna  

APROPOSA HAUENTZAT
Dagoeneko Ray kodea idazten duten eta ekoizpeneko klusterrak behar dituzten taldeentzat, koadernoak biltzeko beste geruza bat behar izan gabe.

ALDERDI AIPAGARRIAK
• Rayk 500M+ deskarga dituela diote
• Ordaindu soilik martxan emandako orduak
• vLLM / Train / Data plataforma bakarrean
• Marketplace bidezko fakturazioa BYOC aukeran
• Txantiloiak dolar gutxi batzuetatik aurrera  

KONTUAN HARTU BEHARREKO ALDERDIAK
• Plataformaren kuota hodeiko GPUen kostuari gehitzen zaio
• Hosted erabilgarri dagoen eskualdeak mugatuak dira
• H100+ erabiltzeko, salmenta-taldearekin hitz egin behar da
• Geldirik dauden klusterrek kostuak sortzen jarraitzen dute piztuta uzten badituzu
• Jabetzari buruzko albisteak (Nscalerekin egindako akordioa) produktuaz aparteko kontua dira  

BALORAZIO OROKORRA
4.4/5 izar. Erabili Hosted kredituak ataza probatzeko. Kontratatu BYOC dagoeneko GPUengatik ordaintzen baduzu eta Rayren kudeaketa behar baduzu VPCari uko egin gabe. Irabazi 1 QUA-ko saria Quasa.io-n iritzia emanda ere!

HASI: https://quasa.io/projects/anyscale