Anyscale – Комерцијална платформа за кластере Ray, обуку и опслуживање | Quasa.io

#Quasa #QUA #Anyscale

Anyscale је комерцијална платформа коју су развили творци Ray: дистрибуирани подаци, обука, пакетно закључивање и опслуживање на кластерима CPU/GPU/TPU. Званични модел наплате заснива се на коришћењу Anyscale Credits — нема јавно објављене фиксне SaaS цене по корисничком месту. Hosted: виртуелне машине којима управља Anyscale, плаћање картицом, подршка током радног времена. BYOC: ваш VPC и резервисани GPU ресурси, фактура преко тржишта, 24×7 SLA гаранције. Објављени примери за Hosted: само CPU од око AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; за класу H/B потребно је контактирати продају. Цене за Kubernetes/групе машина се разликују (H100 ~AC $7.16/hr накнаде за платформу плус ваш рачун за облак). Почетни шаблони могу се покренути уз неколико долара кредита. Ray отвореног кода остаје бесплатан за самостално покретање. Ово није LLM API који се покреће једним кликом и није јефтиније од директног коришћења облака ако кластери стоје неискоришћени. Почните са Hosted. Пређите на BYOC када резервације ресурса и локација чувања података постану важни.

ГЛАВНЕ ПРЕДНОСТИ
• Развили су га аутори Ray
• Исти Python API интерфејси од лаптопа до 64+ GPU ресурса
• Hosted или ваш облак
• Обједињавање GPU ресурса из више облака
• Праћење задатака и Serve  

ИДЕАЛНО ЗА
Тимове који већ пишу код за Ray и којима су потребни продукциони кластери, а не још један интерфејс око програмске бележнице.

ИЗДВАЈАМО
• Према наводима, Ray има 500M+ преузимања
• Плаћате само сате рада
• vLLM / Train / Data на једној платформи
• Наплата преко тржишта за BYOC
• Шаблони од неколико долара  

МОГУЋА ОГРАНИЧЕЊА
• Накнада за платформу додаје се на цену GPU ресурса у облаку
• Избор региона за Hosted је ограничен
• За H100+ потребан је разговор са продајом
• Неактивни кластери и даље стварају трошкове ако их оставите укључене
• Вести о власништву (договор са Nscale) одвојене су од самог производа  

УКУПНА ОЦЕНА
4.4/5 звездица. Користите Hosted кредите да проверите извршавање задатка. Купите BYOC када већ плаћате GPU ресурсе и потребно вам је управљање Ray окружењем без одрицања од свог VPC. Освојите и награду од QUA тако што ћете оставити рецензију на Quasa.io!

ПОЧНИТЕ: https://quasa.io/projects/anyscale