Anyscale – კომერციული პლატფორმა Ray კლასტერებისთვის, მოდელების წვრთნისა და სერვისად გაშვებისთვის | Quasa.io

#Quasa #QUA #Anyscale

Anyscale არის Ray-ის შემქმნელების კომერციული პლატფორმა: განაწილებული მონაცემები, მოდელების წვრთნა, პაკეტური ინფერენსი და სერვისად გაშვება CPU/GPU/TPU კლასტერებზე. ოფიციალური მოდელი მოხმარებაზე დაფუძნებული Anyscale Credits-ია — SaaS-ის ერთ მომხმარებელზე ფიქსირებული ტარიფი საჯაროდ ხელმისაწვდომი არ არის. Hosted: Anyscale-ის მიერ მართული ვირტუალური მანქანები, ბარათით გადახდა, მხარდაჭერა სამუშაო საათებში. BYOC: თქვენი VPC და დაჯავშნილი GPU-ები, მარკეტპლეისის ინვოისი, 24×7 SLA-ები. Hosted-ის გამოქვეყნებული ფასების მაგალითები: მხოლოდ CPU დაახლოებით AC $0.0135/hr-დან, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B კლასის ფასისთვის საჭიროა კომპანიასთან დაკავშირება. Kubernetes-ისა და მანქანების პულების ტარიფები განსხვავდება (H100-ის პლატფორმის საფასურია ~AC $7.16/hr, რასაც ემატება თქვენი ღრუბლოვანი მომსახურების გადასახადი). საწყისი შაბლონების გაშვება რამდენიმე დოლარის კრედიტით არის შესაძლებელი. ღია კოდის მქონე Ray-ის დამოუკიდებლად გაშვება კვლავ უფასოა. ეს არ არის ერთი დაწკაპუნებით გამოსაყენებელი LLM API და უშუალოდ ღრუბლოვანი რესურსების გამოყენებაზე იაფი არ გამოდის, თუ კლასტერები უქმად დგას. დაიწყეთ Hosted-ით. გადადით BYOC-ზე, როცა რესურსების დაჯავშნასა და მონაცემების განთავსების ადგილს მნიშვნელობა ექნება.

ძირითადი ძლიერი მხარეები
• შექმნილია Ray-ის ავტორების მიერ
• იგივე Python API-ები ლეპტოპიდან 64+ GPU-მდე
• Hosted ან თქვენი ღრუბლოვანი გარემო
• GPU-ების გაერთიანება რამდენიმე ღრუბლოვანი გარემოდან
• დავალებებისა და Serve-ის მონიტორინგი  

იდეალურია
გუნდებისთვის, რომლებიც უკვე წერენ კოდს Ray-ზე და სჭირდებათ საწარმოო კლასტერები და არა ნოუთბუქის კიდევ ერთი გარსი.

გამორჩეული მახასიათებლები
• განცხადების თანახმად, Ray-ს 500M+ ჩამოტვირთვა აქვს
• გადაიხადეთ მხოლოდ მუშაობის საათებისთვის
• vLLM / Train / Data ერთ პლატფორმაზე
• BYOC-ის საფასურის გადახდა მარკეტპლეისის მეშვეობით
• შაბლონები რამდენიმე დოლარიდან  

გასათვალისწინებელი საკითხები
• პლატფორმის საფასური ემატება ღრუბლოვანი GPU-ების ღირებულებას
• Hosted-ის რეგიონების არჩევანი შეზღუდულია
• H100+-ისთვის საჭიროა გაყიდვების გუნდთან საუბარი
• უქმად მდგომი კლასტერებიც ხარჯს წარმოშობს, თუ ჩართულს დატოვებთ
• მფლობელობის შესახებ სიახლეები (Nscale-ის გარიგება) პროდუქტისგან განცალკევებული საკითხია  

საერთო შეფასება
4.4/5 ვარსკვლავი. გამოიყენეთ Hosted-ის კრედიტები დავალების შესრულების შესამოწმებლად. შეიძინეთ BYOC, როცა უკვე იხდით GPU-ებისთვის და გჭირდებათ Ray-ის ოპერაციული მართვა VPC-ზე კონტროლის დათმობის გარეშე. ასევე მიიღეთ 1 QUA ჯილდო Quasa.io-ზე მიმოხილვის დაწერით!

დაიწყეთ: https://quasa.io/projects/anyscale