Anyscale – Ray Küümeleri, Eğitim ve Sunum İçin Ticari Platform | Quasa.io

#Quasa #QUA #Anyscale

Anyscale, Ray'in yaratıcılarının ticari platformudur: CPU/GPU/TPU küplerinde dağıtık veri, eğitim, toplu çıkarım (batch inference) ve sunum (serving). Resmi model, kullanım tabanlı Anyscale Kredileridir — halka açık sabit bir SaaS aboneliği yoktur. Hosted: Anyscale tarafından yönetilen sanal makineler (VM), kartla faturalandırma, mesai saatleri desteği. BYOC: Sizin VPC'niz ve ayrılmış GPU'larınız, pazar yeri faturası, 7/24 SLA'ler. Yayınlanan Hosted örnekleri: Yalnızca CPU yaklaşık AC $0.0135/saat, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B sınıfı için iletişime geçilmelidir. Kubernetes/makine havuzu oranları farklıdır (H100 ~AC $7.16/saat platform ücreti artı bulut faturanız). Başlangıç şablonları birkaç dolarlık krediyle başlar. Açık kaynaklı Ray, kendi kendine çalıştırmak için ücretsiz kalmaya devam eder. Tek tıklamayla çalışan bir LLM API'si değildir ve kümeler boşta kalırsa saf buluttan daha ucuz değildir. Hosted ile başlayın. Rezervasyonlar ve veri yerleşimi önemli olduğunda BYOC'ye geçin.

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛𝗦
• Ray yazarları tarafından oluşturulmuştur
• Dizüstü bilgisayardan 64+ GPU'ya kadar aynı Python API'leri
• Hosted veya kendi bulutunuz
• Çoklu bulut GPU havuzlama
• İşler ve Serve üzerinde izlenebilirlik  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
Başka bir not defteri sarmalayıcısına değil, üretim kümelerine ihtiyaç duyan ve halihazırda Ray kodu yazan ekipler.

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• 500M+ Ray indirme iddiası
• Yalnızca çalışma saatleri için ödeme yapın
• Tek platformda vLLM / Train / Data
• BYOC üzerinde pazar yeri faturalandırması
• Birkaç dolardan başlayan şablonlar  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• Platform ücreti bulut GPU'larının üzerine eklenir
• Hosted bölgeleri sınırlıdır
• H100+ bir satış görüşmesidir
• Boşta kalan kümeler açık bırakılırsa maliyet yaratmaya devam eder
• Sahiplik haberi (Nscale anlaşması) üründen bağımsızdır  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 yıldız. İşi kanıtlamak için Hosted kredilerini kullanın. Halihazırda GPU için ödeme yapıyor ve VPC'nizden vazgeçmeden Ray operasyonlarına ihtiyaç duyuyorsanız BYOC satın alın. Quasa.io'da inceleme yaparak 1 QUA ödül de kazanın!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/anyscale