Anyscale – Ray кластер, сургалт болон загвар ажиллуулах арилжааны платформ | Quasa.io

#Quasa #QUA #Anyscale

Anyscale нь Ray-ийг бүтээгчдийн хөгжүүлсэн арилжааны платформ бөгөөд CPU/GPU/TPU кластер дээр тархмал өгөгдөл боловсруулах, загвар сургах, багцаар таамаглал гаргах, загварыг хүсэлтэд үйлчлүүлэх зориулалттай. Албан ёсны төлбөрийн загвар нь хэрэглээнд суурилсан Anyscale Credits бөгөөд нийтэд зарласан, хэрэглэгчийн суудал тутмын тогтмол SaaS төлбөр байхгүй. Hosted: Anyscale-ийн удирддаг VM-үүд, картаар төлбөр төлөх, ажлын цагаар дэмжлэг авах. BYOC: таны VPC болон урьдчилан нөөцөлсөн GPU-үүд, маркетплейсээр нэхэмжлэх авах, 24×7 SLA-ууд. Нийтэлсэн Hosted үнийн жишээнүүд: зөвхөн CPU ашиглахад ойролцоогоор AC $0.0135/hr-аас, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B ангиллын үнийг холбогдож лавлана. Kubernetes болон машины нөөцийн бүлгийн тариф өөр байдаг (H100 платформын хураамж ~AC $7.16/hr бөгөөд дээр нь таны үүлэн үйлчилгээний төлбөр нэмэгдэнэ). Эхлэх загваруудыг хэдхэн долларын кредитээр ажиллуулж эхлэх боломжтой. Нээлттэй эхтэй Ray-ийг өөрөө ажиллуулахад үнэ төлбөргүй хэвээр. Энэ нь нэг товшилтоор ашиглах LLM API биш бөгөөд кластерууд сул зогсож байвал үүлэн дэд бүтцийг шууд ашигласнаас хямд биш. Hosted-оос эхэл. Нөөцийг урьдчилан захиалах болон өгөгдөл хадгалах байршил чухал болох үед BYOC руу шилж.

ҮНДСЭН ДАВУУ ТАЛУУД
• Ray-ийн зохиогчдын бүтээсэн
• Зөөврийн компьютероос 64+ GPU хүртэл ижил Python API-уудыг ашиглана
• Hosted эсвэл таны үүлэн орчин
• Олон үүлэн орчны GPU нөөцийг нэгтгэн ашиглах
• Даалгаврууд болон Serve-ийн ажиллагааг ажиглан хянах боломж  

ХЭНД ТОХИРОМЖТОЙ ВЭ
Ray ашиглан код бичиж байгаа бөгөөд notebook-ийн бас нэгэн бүрхүүл бус, бодит ашиглалтын кластер хэрэгтэй багуудад.

ОНЦЛОХ ЗҮЙЛС
• Ray-ийг 500M+ удаа татаж авсан гэж мэдэгдсэн
• Зөвхөн ажилласан цагийн төлбөр төлнө
• vLLM / Train / Data нэг платформ дээр
• BYOC-ийн төлбөрийг маркетплейсээр тооцно
• Хэдхэн доллараас эхлэх бэлэн загварууд  

АНХААРАХ БОЛОМЖИТ АСУУДЛУУД
• Үүлэн GPU-ийн төлбөр дээр платформын хураамж нэмэгдэнэ
• Hosted ашиглах боломжтой бүс нутгууд хязгаарлагдмал
• H100+ ашиглахын тулд борлуулалтын багтай ярилцах шаардлагатай
• Кластеруудыг асаалттай орхивол сул зогсож байсан ч төлбөр гарна
• Өмчлөлтэй холбоотой мэдээ (Nscale-ийн хэлцэл) нь бүтээгдэхүүнээс тусдаа асуудал  

ЕРӨНХИЙ ҮНЭЛГЭЭ
4.4/5 од. Hosted кредит ашиглан ажлаа туршиж, үр дүнг нь баталгаажуул. GPU-ийн төлбөр аль хэдийн төлдөг бөгөөд VPC-ээ өөртөө хадгалан Ray-ийн ашиглалт, удирдлагын үйлчилгээ авах шаардлагатай бол BYOC худалдаж ав. Мөн Quasa.io дээр сэтгэгдэл бичиж 1 QUA урамшуулал аваарай!

ЭХЛЭХ: https://quasa.io/projects/anyscale