Anyscale – Kereskedelmi platform Ray-klaszterekhez, tanításhoz és modellkiszolgáláshoz | Quasa.io

#Quasa #QUA #Anyscale

Az Anyscale a Ray alkotóinak kereskedelmi platformja: elosztott adatfeldolgozás, tanítás, kötegelt inferencia és modellkiszolgálás CPU/GPU/TPU-klasztereken. A hivatalos díjazási modell használatalapú Anyscale Credits-elszámolásra épül — nincs nyilvánosan meghirdetett, felhasználónkénti átalánydíjas SaaS-csomag. Hosted: az Anyscale által kezelt virtuális gépek, bankkártyás számlázás, támogatás munkaidőben. BYOC: saját VPC és lefoglalt GPU-k, piactéri számla, 24×7 SLA-k. Közzétett Hosted-példák: kizárólag CPU-val körülbelül AC $0.0135/hr díjtól, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; a H/B-kategóriához kapcsolatfelvétel szükséges. A Kubernetes-/gépkészlet-díjak eltérnek (H100 ~AC $7.16/hr platformdíj, plusz a saját felhőszámla). A kezdősablonok néhány dollárnyi kreditből elindíthatók. A nyílt forráskódú Ray továbbra is ingyenesen futtatható saját környezetben. Ez nem egy kattintással használható LLM API, és nem olcsóbb a közvetlenül igénybe vett felhőnél, ha a klaszterek tétlenül állnak. Kezdjen a Hosted megoldással. Váltson BYOC-ra, amikor a kapacitásfoglalások és az adatok tárolási helye fontossá válnak.

FŐ ERŐSSÉGEK
• A Ray szerzői készítették
• Ugyanazok a Python API-k laptoptól 64+ GPU-ig
• Hosted vagy saját felhő
• GPU-k közös készletbe szervezése több felhőből
• Feladatok és a Serve működésének megfigyelhetősége  

IDEÁLIS VÁLASZTÁS
Olyan csapatoknak, amelyek már Ray-alapú kódot írnak, és éles üzemi klaszterekre van szükségük, nem egy újabb notebook-burkolórétegre.

KIEMELT JELLEMZŐK
• Állításuk szerint a Ray letöltéseinek száma 500M+
• Csak a futási órákért kell fizetni
• vLLM / Train / Data egyetlen platformon
• Piactéri számlázás BYOC esetén
• Sablonok néhány dollártól  

LEHETSÉGES MEGFONTOLANDÓ SZEMPONTOK
• A platformdíj a felhőben igénybe vett GPU-k költségén felül fizetendő
• A Hosted korlátozott számú régióban érhető el
• A H100+ igénybevételéhez az értékesítéssel kell egyeztetni
• A tétlen klaszterek is pénzbe kerülnek, ha bekapcsolva hagyja őket
• A tulajdonosi változásokról szóló hírek (Nscale-ügylet) különállnak a terméktől  

ÖSSZESÍTETT ÉRTÉKELÉS
4.4/5 csillag. Hosted-kreditekkel ellenőrizze, hogy a feladat megfelelően fut-e. Akkor válassza a BYOC-ot, ha már fizet GPU-kért, és Ray-üzemeltetésre van szüksége a VPC feladása nélkül. Szerezzen 1 QUA jutalmat azzal is, hogy értékelést ír a Quasa.io oldalon!

KEZDÉS: https://quasa.io/projects/anyscale