Anyscale – Търговска платформа за Ray клъстери, обучение и обслужване на заявки | Quasa.io

#Quasa #QUA #Anyscale

Anyscale е търговската платформа от създателите на Ray: разпределена обработка на данни, обучение, пакетно изпълнение на модели и обслужване на заявки върху CPU/GPU/TPU клъстери. Официалният модел е базиран на потреблението чрез Anyscale Credits — няма публично обявена фиксирана SaaS цена на потребител. Hosted: виртуални машини, управлявани от Anyscale, плащане с карта, поддръжка в работно време. BYOC: вашата VPC и резервирани GPUs, фактура от маркетплейса, 24×7 SLAs. Публикувани примери за Hosted: само CPU от около AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; за клас H/B се свържете с екипа. Тарифите за Kubernetes/пулове от машини се различават (H100 ~AC $7.16/hr такса за платформата плюс сметката ви за облачни услуги). Началните шаблони се стартират с кредит на стойност няколко долара. Ray с отворен код остава безплатен за самостоятелно използване. Това не е LLM API с едно щракване и не е по-евтино от директното използване на облачни ресурси, ако клъстерите бездействат. Започнете с Hosted. Преминете към BYOC, когато резервираните ресурси и местоположението на данните са от значение.

ОСНОВНИ ПРЕДИМСТВА
• Създадена от авторите на Ray
• Едни и същи Python APIs от лаптоп до 64+ GPUs
• Hosted или вашият облак
• Обединяване на GPU ресурси от множество облаци
• Наблюдаемост на задачите и Serve  

ИДЕАЛНА ЗА
Екипи, които вече пишат код с Ray и се нуждаят от клъстери за продукционна среда, а не от поредната обвивка за интерактивни бележници.

АКЦЕНТИ
• Заявени 500M+ изтегляния на Ray
• Плащате само за часовете на работа
• vLLM / Train / Data на една платформа
• Фактуриране през маркетплейс при BYOC
• Шаблони от няколко долара  

ВЪЗМОЖНИ ОГРАНИЧЕНИЯ
• Таксата за платформата се добавя към разходите за облачните GPUs
• Регионите за Hosted са ограничени
• За H100+ е необходим разговор с търговския екип
• Бездействащите клъстери продължават да струват пари, ако ги оставите включени
• Новините за собствеността (сделката с Nscale) са отделен въпрос от продукта  

ОБЩА ОЦЕНКА
4.4/5 звезди. Използвайте кредити за Hosted, за да проверите изпълнението на задачата. Купете BYOC, когато вече плащате за GPUs и се нуждаете от управление на Ray, без да се отказвате от VPC. Спечелете и награда от 1 QUA, като напишете отзив в Quasa.io!

ЗАПОЧНЕТЕ: https://quasa.io/projects/anyscale