Anyscale – Jukwaa la Kibiashara la Makundi ya Kompyuta ya Ray, Mafunzo na Utoaji wa Huduma za Modeli | Quasa.io

#Quasa #QUA #Anyscale

Anyscale ni jukwaa la kibiashara kutoka kwa waundaji wa Ray: uchakataji wa data uliosambazwa, mafunzo, utabiri wa modeli kwa mafungu, na utoaji wa huduma za modeli kwenye makundi ya kompyuta za CPU/GPU/TPU. Mfumo rasmi wa malipo unatumia Anyscale Credits kulingana na matumizi—hakuna bei moja ya SaaS kwa kila mtumiaji iliyowekwa hadharani. Hosted: VM zinazosimamiwa na Anyscale, malipo kwa kadi, usaidizi wakati wa saa za kazi. BYOC: VPC yako na GPU zilizohifadhiwa, ankara kupitia soko la huduma, SLA za 24×7. Mifano iliyochapishwa ya Hosted: CPU pekee kuanzia takribani AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; kwa aina za H/B, wasiliana nasi. Viwango vya Kubernetes/makundi ya mashine vinatofautiana (H100 ~AC $7.16/hr kama ada ya jukwaa pamoja na bili yako ya wingu). Violezo vya kuanzia huanzishwa kwa salio la dola chache. Ray ya msimbo huria bado ni bure kuiendesha mwenyewe. Si API ya LLM ya kubofya mara moja, wala si nafuu kuliko kutumia wingu moja kwa moja ikiwa makundi ya kompyuta hayafanyi kazi. Anza na Hosted. Hamia BYOC wakati uhifadhi wa rasilimali na eneo la kuhifadhi data vinapokuwa muhimu.

NGUVU KUU
• Imejengwa na waundaji wa Ray
• API zilezile za Python kutoka kwenye kompyuta mpakato hadi GPU 64+
• Hosted au wingu lako
• Kuunganisha rasilimali za GPU kutoka kwa watoa huduma mbalimbali za wingu
• Ufuatiliaji wa kazi na Serve  

INAFAA ZAIDI KWA
Timu ambazo tayari zinaandika programu kwa Ray na zinahitaji makundi ya kompyuta kwa matumizi halisi, si kiolesura kingine kinachofunika notebook.

MAMBO MUHIMU
• Inadaiwa Ray imepakuliwa mara 500M+
• Lipia saa za uendeshaji pekee
• vLLM / Train / Data kwenye jukwaa moja
• Malipo kupitia soko la huduma kwenye BYOC
• Violezo kuanzia dola chache  

MAMBO YA KUZINGATIA
• Ada ya jukwaa huongezwa juu ya gharama za GPU za wingu
• Maeneo ya Hosted ni machache
• H100+ inahitaji mazungumzo na timu ya mauzo
• Makundi ya kompyuta yasiyofanya kazi bado yanagharimu ukiyaacha yakiendelea kuwashwa
• Habari za umiliki (makubaliano ya Nscale) ni suala tofauti na bidhaa  

TATHMINI YA JUMLA
Nyota 4.4/5. Tumia salio la Hosted kuthibitisha kuwa kazi inatekelezeka. Nunua BYOC ikiwa tayari unalipia GPU na unahitaji usimamizi wa Ray bila kuachia udhibiti wa VPC. Jipatie pia zawadi ya 1 QUA kwa kuandika tathmini kwenye Quasa.io!

ANZA: https://quasa.io/projects/anyscale