Anyscale – Pjattaforma Kummerċjali għal Raggruppamenti ta’ Ray, Taħriġ u Għoti ta’ Servizz | Quasa.io

#Quasa #QUA #Anyscale

Anyscale hija l-pjattaforma kummerċjali mill-ħallieqa ta’ Ray: data distribwita, taħriġ, inferenza bil-lott u għoti ta’ servizz fuq raggruppamenti ta’ CPU/GPU/TPU. Il-mudell uffiċjali huwa bbażat fuq l-użu ta’ Anyscale Credits—mingħajr tariffa fissa pubblika għal kull utent ta’ SaaS. Hosted: VMs immaniġġjati minn Anyscale, ħlas bil-kard, appoġġ matul il-ħinijiet tax-xogħol. BYOC: il-VPC tiegħek u GPUs riżervati, fattura mis-suq diġitali, SLAs 24×7. Eżempji ppubblikati għal Hosted: CPU biss minn madwar AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; għall-klassi H/B trid tikkuntattjahom. Ir-rati għal Kubernetes u gruppi ta’ magni jvarjaw (H100 ~AC $7.16/hr bħala tariffa tal-pjattaforma flimkien mal-kont tas-servizzi tiegħek fil-cloud). Il-mudelli tal-bidu jistgħu jitħaddmu bi ftit dollari ta’ kreditu. Ray b’sors miftuħ jibqa’ bla ħlas jekk tħaddmu int stess. Mhijiex API għal LLM li taħdem bi klikk waħda u mhijiex irħas mill-użu dirett tal-cloud jekk ir-raggruppamenti jibqgħu wieqfa. Ibda b’Hosted. Aqleb għal BYOC meta r-riżervazzjonijiet u fejn tinżamm id-data jkunu importanti.

PUNTI EWLENIN TA’ SAĦĦA
• Mibnija mill-awturi ta’ Ray
• L-istess APIs ta’ Python minn kompjuter portabbli sa 64+ GPUs
• Hosted jew il-cloud tiegħek
• Ġbir ta’ GPUs minn diversi clouds f’riżerva komuni
• Viżibbiltà fuq il-kompiti u Serve  

IDEALI GĦAL
Timijiet li diġà jiktbu kodiċi b’Ray u jeħtieġu raggruppamenti għall-produzzjoni, mhux saff ieħor madwar ambjent ta’ noti interattivi.

PUNTI EWLENIN
• Jingħad li Ray għandu 500M+ tniżżil
• Ħallas biss għas-sigħat ta’ tħaddim
• vLLM / Train / Data fuq pjattaforma waħda
• Ħlas permezz tas-suq diġitali fuq BYOC
• Mudelli minn ftit dollari  

ASPETTI LI JISTA’ JKUN HEMM BŻONN TQIS
• It-tariffa tal-pjattaforma tiżdied mal-ispiża tal-GPUs fil-cloud
• Ir-reġjuni ta’ Hosted huma limitati
• Għal H100+ trid titkellem mat-tim tal-bejgħ
• Ir-raggruppamenti wieqfa xorta jiswew il-flus jekk tħallihom mixgħula
• L-aħbarijiet dwar is-sjieda (il-ftehim ma’ Nscale) huma separati mill-prodott  

VERDETT ĠENERALI
4.4/5 stilel. Uża l-krediti ta’ Hosted biex tivverifika li l-kompitu jaħdem. Ixtri BYOC meta diġà tkun tħallas għall-GPUs u jkollok bżonn il-ġestjoni operattiva ta’ Ray mingħajr ma ċċedi l-VPC. Ikseb ukoll premju ta’ 1 QUA billi tikteb reċensjoni fuq Quasa.io!

IBDA: https://quasa.io/projects/anyscale