Anyscale – Камерцыйная платформа для кластараў Ray, навучання і абслугоўвання мадэляў | Quasa.io

#Quasa #QUA #Anyscale

Anyscale — камерцыйная платформа ад стваральнікаў Ray: размеркаваная апрацоўка даных, навучанне, пакетны інферэнс і абслугоўванне мадэляў на кластарах CPU/GPU/TPU. Афіцыйная мадэль прадугледжвае аплату паводле выкарыстання ў Anyscale Credits — публічнага фіксаванага тарыфу SaaS за карыстальніцкае месца няма. Hosted: віртуальныя машыны пад кіраваннем Anyscale, аплата карткай, падтрымка ў працоўны час. BYOC: ваша VPC і зарэзерваваныя GPU, рахунак праз маркетплэйс, SLA 24×7. Апублікаваныя прыклады для Hosted: толькі CPU — прыкладна ад AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; для класа H/B трэба звяртацца па цану. Тарыфы для Kubernetes і пулаў машын адрозніваюцца (H100 — плата за платформу ~AC $7.16/hr плюс ваш рахунак за воблачныя рэсурсы). Стартавыя шаблоны можна запусціць, маючы некалькі долараў крэдыту. Ray з адкрытым зыходным кодам застаецца бясплатным для самастойнага запуску. Гэта не LLM API з запускам у адзін клік, і платформа не таннейшая за непасрэднае выкарыстанне воблачных рэсурсаў, калі кластары прастойваюць. Пачніце з Hosted. Пераходзьце на BYOC, калі важныя рэзерваванне рэсурсаў і месцазнаходжанне даных.

АСНОЎНЫЯ ПЕРАВАГІ
• Створана аўтарамі Ray
• Тыя ж Python API — ад ноўтбука да 64+ GPUs
• Hosted або ваша воблака
• Аб'яднанне GPU з некалькіх воблакаў у агульны пул
• Назіральнасць за заданнямі і Serve  

ІДЭАЛЬНА ПАДЫХОДЗІЦЬ ДЛЯ
Каманд, якія ўжо пішуць код з выкарыстаннем Ray і якім патрэбныя кластары для прамысловай эксплуатацыі, а не чарговая абалонка для нататнікаў.

КЛЮЧАВЫЯ АСАБЛІВАСЦІ
• Заяўлена пра 500M+ спамповак Ray
• Аплата толькі за гадзіны працы
• vLLM / Train / Data на адной платформе
• Аплата праз маркетплэйс для BYOC
• Шаблоны ад некалькіх долараў  

ШТО ВАРТА ЎЛІЧЫЦЬ
• Плата за платформу дадаецца да кошту воблачных GPU
• Колькасць рэгіёнаў Hosted абмежаваная
• Для H100+ трэба звяртацца ў аддзел продажаў
• Кластары, якія прастойваюць, усё роўна каштуюць грошай, калі пакінуць іх уключанымі
• Навіны пра змену ўласніка (здзелка з Nscale) — асобнае ад прадукту пытанне  

АГУЛЬНАЯ АЦЭНКА
4.4/5 зоркі. Выкарыстоўвайце крэдыты Hosted, каб праверыць выкананне задання на практыцы. Набывайце BYOC, калі вы ўжо плаціце за GPU і вам патрэбнае аперацыйнае кіраванне Ray без адмовы ад VPC. Таксама атрымайце ўзнагароду 1 QUA за водгук на Quasa.io!

ПАЧАЦЬ: https://quasa.io/projects/anyscale