Anyscale – Ray klasterləri, təlim və modellərin istifadəyə verilməsi üçün kommersiya platforması | Quasa.io
#Quasa #QUA #Anyscale
Anyscale Ray yaradıcılarının kommersiya platformasıdır: CPU/GPU/TPU klasterlərində paylanmış verilənlər, təlim, toplu nəticə çıxarma və modellərin istifadəyə verilməsi. Rəsmi model istifadəyə əsaslanan Anyscale Credits-dir — istifadəçi yeri üçün açıq elan edilmiş sabit SaaS tarifi yoxdur. Hosted: Anyscale tərəfindən idarə olunan virtual maşınlar, kartla ödəniş, iş saatlarında dəstək. BYOC: sizin VPC-niz və rezerv edilmiş qrafik prosessorlarınız, onlayn bazar vasitəsilə hesab-faktura, 24×7 SLA-lar. Dərc edilmiş Hosted nümunələri: yalnız CPU ilə təxminən AC $0.0135/hr-dan başlayır, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B sinfi üçün bizimlə əlaqə saxlamaq lazımdır. Kubernetes/maşın hovuzu tarifləri fərqlənir (H100 üçün ~AC $7.16/hr platforma haqqı və əlavə olaraq bulud xidmətinizin hesabı). Başlanğıc şablonlarını bir neçə dollarlıq kreditlə işə salmaq olar. Açıq mənbəli Ray-i özünüz işə salmaq pulsuz olaraq qalır. Bu, bir kliklə işləyən LLM API deyil və klasterlər boşdayanma vəziyyətində qaldıqda birbaşa bulud resurslarından ucuz başa gəlmir. Hosted ilə başlayın. Rezervasiyalar və verilənlərin saxlandığı ölkə əhəmiyyət daşıdıqda BYOC-a keçin.
ƏSAS ÜSTÜNLÜKLƏR
• Ray müəllifləri tərəfindən hazırlanıb
• Noutbukdan 64+ qrafik prosessora qədər eyni Python API-ləri
• Hosted və ya öz buludunuz
• Bir neçə bulud üzrə qrafik prosessorların vahid hovuzda birləşdirilməsi
• Tapşırıqlar və Serve üzrə müşahidə imkanı
KİMLƏR ÜÇÜN İDEALDIR
Artıq Ray ilə kod yazan və daha bir notebook örtüyünə deyil, istehsalat mühiti üçün klasterlərə ehtiyacı olan komandalar.
ÖNƏ ÇIXAN MƏQAMLAR
• Ray üçün 500M+ yükləmə olduğu bildirilir
• Yalnız işləmə saatları üçün ödəniş edin
• vLLM / Train / Data vahid platformada
• BYOC-da onlayn bazar vasitəsilə hesablaşma
• Bir neçə dollardan başlayan şablonlar
NƏZƏRƏ ALINMALI MƏQAMLAR
• Platforma haqqı buluddakı qrafik prosessorların xərcinə əlavə olunur
• Hosted regionları məhduddur
• H100+ üçün satış komandası ilə danışmaq lazımdır
• Klasterləri işlək saxlasanız, boşdayanma vəziyyətində də xərc yaranır
• Sahibliklə bağlı xəbərlər (Nscale sövdələşməsi) məhsuldan ayrı məsələdir
ÜMUMİ QİYMƏTLƏNDİRMƏ
4.4/5 ulduz. Tapşırığın işlədiyini yoxlamaq üçün Hosted kreditlərindən istifadə edin. Artıq qrafik prosessorlar üçün ödəniş edirsinizsə və VPC-dən imtina etmədən Ray-in idarə olunmasına ehtiyacınız varsa, BYOC alın. Quasa.io-da rəy yazaraq həm də 1 QUA mükafat qazanın!
BAŞLAYIN: https://quasa.io/projects/anyscale























