Anyscale – Комерцијална платформа за кластери Ray, тренирање и опслужување | Quasa.io

#Quasa #QUA #Anyscale

Anyscale е комерцијалната платформа од создавачите на Ray: дистрибуирани податоци, тренирање, групно извршување инференција и опслужување на кластери CPU/GPU/TPU. Официјалниот модел се заснова на Anyscale Credits според користењето — нема јавно објавена фиксна SaaS тарифа по корисник. Hosted: виртуелни машини управувани од Anyscale, наплата со картичка, поддршка во работно време. BYOC: ваш VPC и резервирани GPU, фактура преку пазарот, SLA со покриеност 24×7. Објавени примери за Hosted: само со CPU од околу AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; за класата H/B треба да контактирате со компанијата. Тарифите за Kubernetes/групи машини се разликуваат (H100 ~AC $7.16/hr надоместок за платформата плус вашата сметка за облакот). Почетните шаблони се стартуваат со кредит од неколку долари. Ray со отворен код останува бесплатен за самостојно извршување. Ова не е LLM API што се користи со еден клик и не е поевтино од директно користење облачна инфраструктура ако кластерите мируваат. Започнете со Hosted. Преминете на BYOC кога резервациите и локацијата на чување на податоците ќе станат важни.

ГЛАВНИ ПРЕДНОСТИ
• Создадена од авторите на Ray
• Истите Python API од лаптоп до 64+ GPUs
• Hosted или вашиот облак
• Здружување GPU од повеќе облаци
• Следење на задачите и Serve  

ИДЕАЛНА ЗА
Тимови што веќе пишуваат код со Ray и на кои им требаат кластери за продукциска работа, а не уште една обвивка за интерактивни тетратки.

ИЗДВОЕНО
• Се наведува дека Ray има 500M+ преземања
• Плаќате само за часовите на работа
• vLLM / Train / Data на една платформа
• Наплата преку пазарот за BYOC
• Шаблони од неколку долари  

МОЖНИ ОГРАНИЧУВАЊА
• Надоместокот за платформата се додава на трошокот за GPU во облакот
• Регионите за Hosted се ограничени
• За H100+ е потребен разговор со продажниот тим
• Кластерите што мируваат и понатаму создаваат трошоци ако ги оставите вклучени
• Вестите за сопственоста (договорот со Nscale) се одвоени од производот  

ОПШТА ОЦЕНА
4.4/5 ѕвезди. Користете кредити за Hosted за да проверите дали задачата се извршува успешно. Купете BYOC кога веќе плаќате за GPU и ви треба оперативно управување со Ray без да се откажете од VPC. Заработете и награда од 1 QUA со објавување рецензија на Quasa.io!

ЗАПОЧНЕТЕ: https://quasa.io/projects/anyscale