Anyscale – Platformë komerciale për klasterë Ray, trajnim dhe shërbim modelesh | Quasa.io

#Quasa #QUA #Anyscale

Anyscale është platforma komerciale nga krijuesit e Ray: të dhëna të shpërndara, trajnim, inferencë në grupe dhe shërbim modelesh në klasterë CPU/GPU/TPU. Modeli zyrtar bazohet në Anyscale Credits sipas përdorimit—pa tarifë fikse publike SaaS për përdorues. Hosted: makina virtuale të menaxhuara nga Anyscale, faturim me kartë, mbështetje gjatë orarit të punës. BYOC: VPC-ja juaj dhe GPU të rezervuara, faturë nga marketplace, SLA 24×7. Shembuj të publikuar për Hosted: vetëm CPU nga rreth AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; për klasën H/B duhet të kontaktoni kompaninë. Tarifat për Kubernetes/grupet e makinave ndryshojnë (H100 ~AC $7.16/hr tarifë platforme plus faturën tuaj të shërbimeve në re). Shabllonet fillestare nisen me kredi prej pak dollarësh. Ray me kod të hapur mbetet falas për ta ekzekutuar vetë. Nuk është një API për LLM me një klikim dhe nuk është më i lirë se përdorimi i drejtpërdrejtë i shërbimeve në re nëse klasterët qëndrojnë pa punuar. Filloni me Hosted. Kaloni te BYOC kur rezervimet dhe vendndodhja e ruajtjes së të dhënave kanë rëndësi.

PIKAT KRYESORE TË FORTA
• Ndërtuar nga krijuesit e Ray
• Të njëjtat API Python nga laptopi deri te 64+ GPU
• Hosted ose reja juaj
• Bashkim i burimeve GPU nga disa re
• Monitorim i detajuar i detyrave dhe Serve  

IDEALE PËR
Ekipe që tashmë shkruajnë kod me Ray dhe kanë nevojë për klasterë për mjedise prodhimi, përtej një ndërfaqeje tjetër për notebook.

VEÇORITË KRYESORE
• Pretendohen 500M+ shkarkime të Ray
• Paguani vetëm për orët e funksionimit
• vLLM / Train / Data në një platformë
• Faturim përmes marketplace në BYOC
• Shabllone duke filluar nga pak dollarë  

ASPEKTE PËR T'U MARRË PARASYSH
• Tarifa e platformës i shtohet kostos së GPU-ve në re
• Rajonet e Hosted janë të kufizuara
• H100+ kërkon bisedë me ekipin e shitjeve
• Klasterët pa punë vazhdojnë të kushtojnë nëse i lini të ndezur
• Lajmet për pronësinë (marrëveshja me Nscale) janë të ndara nga produkti  

VLERËSIMI I PËRGJITHSHËM
4.4/5 yje. Përdorni kreditet Hosted për të vërtetuar funksionimin e detyrës. Blini BYOC kur tashmë paguani për GPU dhe keni nevojë për menaxhimin operacional të Ray pa hequr dorë nga VPC-ja. Fitoni edhe një shpërblim prej 1 QUA duke shkruar një vlerësim në Quasa.io!

FILLONI: https://quasa.io/projects/anyscale