Anyscale – Ray क्लस्टर, प्रशिक्षण और सर्विंग के लिए कमर्शियल प्लेटफॉर्म | Quasa.io

#Quasa #QUA #Anyscale

Anyscale Ray के निर्माताओं का कमर्शियल प्लेटफॉर्म है: CPU/GPU/TPU क्लस्टर पर वितरित डेटा, प्रशिक्षण, बैच अनुमान और सर्विंग। आधिकारिक मॉडल उपयोग-आधारित Anyscale Credits है—कोई सार्वजनिक फ्लैट SaaS सीट नहीं। Hosted: Anyscale-प्रबंधित VMs, कार्ड बिलिंग, व्यावसायिक-घंटे समर्थन। BYOC: आपका VPC और आरक्षित GPU, मार्केटप्लेस चालान, 24×7 SLAs। प्रकाशित Hosted उदाहरण: केवल CPU लगभग AC $0.0135/hr से, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B-क्लास संपर्क-us है। Kubernetes/मशीन-पूल दरें अलग हैं (H100 ~AC $7.16/hr प्लेटफॉर्म शुल्क और आपका क्लाउड बिल)। शुरुआती टेम्पलेट कुछ डॉलर के क्रेडिट से लॉन्च होते हैं। ओपन-सोर्स Ray स्व-संचालन के लिए स्वतंत्र रहता है। यह एक-क्लिक LLM API नहीं है और यदि क्लस्टर निष्क्रिय रहते हैं तो यह कच्चे क्लाउड से सस्ता नहीं है। Hosted से शुरू करें। जब आरक्षण और डेटा निवास मायने रखते हैं तो BYOC पर जाएं।

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛𝗦
• Ray लेखकों द्वारा निर्मित
• लैपटॉप से 64+ GPU तक समान Python API
• Hosted या आपका क्लाउड
• बहु-क्लाउड GPU पूलिंग
• जॉब्स और सर्व पर ऑब्जर्वेबिलिटी  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
ऐसी टीमें जो पहले से Ray लिख रही हैं जिन्हें उत्पादन क्लस्टर की आवश्यकता है, न कि एक और नोटबुक रैपर।

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• 500M+ Ray डाउनलोड का दावा
• केवल चलने के घंटों के लिए भुगतान करें
• एक प्लेटफॉर्म पर vLLM / Train / Data
• BYOC पर मार्केटप्लेस बिलिंग
• कुछ डॉलर से टेम्पलेट्स  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• प्लेटफॉर्म शुल्क क्लाउड GPU के ऊपर बैठता है
• Hosted क्षेत्र सीमित हैं
• H100+ एक बिक्री वार्ता है
• यदि आप उन्हें छोड़ देते हैं तो निष्क्रिय क्लस्टर अभी भी खर्च करते हैं
• स्वामित्व समाचार (Nscale सौदा) उत्पाद से अलग है  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 स्टार। काम साबित करने के लिए Hosted क्रेडिट का उपयोग करें। जब आप पहले से ही GPU के लिए भुगतान करते हैं और VPC छोड़े बिना Ray संचालन की आवश्यकता होती है तो BYOC खरीदें। Quasa.io पर समीक्षा करके 1 QUA पुरस्कार भी अर्जित करें!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/anyscale