Anyscale – Kommerziell Plattform fir Ray-Clusteren, Training a Serving | Quasa.io

#Quasa #QUA #Anyscale

Anyscale ass déi kommerziell Plattform vun de Leit, déi Ray entwéckelt hunn: verdeelt Donnéeën, Training, Batch-Inferenz a Serving op CPU/GPU/TPU-Clusteren. Den offizielle Modell baséiert op verbrauchsbaséierten Anyscale Credits — et gëtt keen ëffentlech ugebuedene SaaS-Pauschaltarif pro Benotzer. Hosted: VMen, déi vun Anyscale geréiert ginn, Bezuelung mat Kaart, Ënnerstëtzung wärend de Geschäftszäiten. BYOC: Är VPC a reservéiert GPUs, Rechnung iwwer de Marketplace, 24×7 SLAs. Verëffentlecht Beispiller fir Hosted: nëmme CPU vun ongeféier AC $0.0135/hr un, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; fir d'H/B-Klass musst Dir Kontakt ophuelen. D'Tariffer fir Kubernetes a Maschinnepoole sinn anescht (H100 ~AC $7.16/hr Plattformkäschten zousätzlech zu Ärer Cloud-Rechnung). Startvirlage loosse sech mat e puer Dollar u Guthaben starten. Den Open-Source Ray bleift gratis, wann Dir e selwer bedreift. Et ass keng LLM API, déi mat engem Klick prett ass, an et ass net méi bëlleg wéi d'Cloud eleng, wann d'Clusteren onbenotzt lafen. Fänkt mat Hosted un. Wiesselt op BYOC, wann d'Reservatiounen an de Späicheruert vun den Donnéeë wichteg sinn.

𝗛𝗔𝗔𝗣𝗧𝗦𝗧Ä𝗘𝗥𝗞𝗧𝗘𝗡
• Vun den Auteure vu Ray entwéckelt
• Déiselwecht Python APIs vum Laptop bis zu 64+ GPUs
• Hosted oder Är eege Cloud
• GPU-Pooling iwwer verschidde Clouden
• Iwwerwaachung vun Jobs a Serve  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗜𝗥
Ekippen, déi scho mat Ray programméieren a Clustere fir de Produktivbetrib brauchen, keng weider Hüll ronderëm en Notebook.

𝗛É𝗜𝗖𝗛𝗣𝗨𝗡𝗞𝗧𝗘𝗡
• No eegenen Aussoe 500M+ Downloads vu Ray
• Bezuelt nëmmen d'Stonnen, an deenen d'Clustere lafen
• vLLM / Train / Data op enger Plattform
• Ofrechnung iwwer de Marketplace bei BYOC
• Virlage vun e puer Dollar un  

𝗠É𝗜𝗚𝗟𝗘𝗖𝗛 𝗔𝗦𝗣𝗘𝗞𝗧𝗘𝗥 𝗙𝗜𝗥 𝗗'𝗢𝗙𝗪𝗘𝗜𝗘𝗡
• D'Plattformkäschte kommen zu de Käschte fir d'Cloud-GPUs dobäi
• Hosted ass nëmmen a begrenzte Regioune verfügbar
• Fir H100+ ass e Gespréich mam Verkaf néideg
• Onbenotzt Clustere kaschte weider, wann Dir se lafe loosst
• Neiegkeeten iwwer d'Eegentumsverhältnisser (Nscale-Deal) si vum Produkt getrennt ze betruechten  

𝗚𝗘𝗦𝗔𝗠𝗧𝗨𝗥𝗧𝗘𝗘𝗟
4.4/5 Stären. Benotzt Hosted-Guthaben, fir ze weisen, datt den Job funktionéiert. Kaaft BYOC, wann Dir scho fir GPUs bezuelt an de Betrib vu Ray braucht, ouni Är VPC opzeginn. Verdéngt och 1 QUA als Belounung, andeems Dir eng Bewäertung op Quasa.io schreift!

𝗟𝗔𝗦𝗟𝗘𝗘Ë𝗡: https://quasa.io/projects/anyscale