Anyscale – Εμπορική πλατφόρμα για συστοιχίες Ray, εκπαίδευση και διάθεση μοντέλων | Quasa.io

#Quasa #QUA #Anyscale

Το Anyscale είναι η εμπορική πλατφόρμα από τους δημιουργούς του Ray: κατανεμημένη επεξεργασία δεδομένων, εκπαίδευση, μαζική εξαγωγή προβλέψεων και διάθεση μοντέλων σε συστοιχίες CPU/GPU/TPU. Το επίσημο μοντέλο χρέωσης βασίζεται στη χρήση μέσω Anyscale Credits—δεν υπάρχει δημόσια διαθέσιμη σταθερή τιμή SaaS ανά θέση χρήστη. Hosted: VM υπό τη διαχείριση του Anyscale, χρέωση κάρτας, υποστήριξη κατά τις εργάσιμες ώρες. BYOC: το δικό σας VPC και δεσμευμένες GPU, τιμολόγιο μέσω marketplace, SLA 24×7. Δημοσιευμένα παραδείγματα για το Hosted: μόνο CPU από περίπου AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96· για την κατηγορία H/B απαιτείται επικοινωνία. Οι τιμές για Kubernetes/ομάδες μηχανημάτων διαφέρουν (H100 ~AC $7.16/hr ως χρέωση πλατφόρμας, επιπλέον του λογαριασμού σας στο cloud). Τα αρχικά πρότυπα μπορούν να εκτελεστούν με πίστωση λίγων δολαρίων. Το Ray ανοιχτού κώδικα παραμένει δωρεάν για εκτέλεση στη δική σας υποδομή. Δεν είναι ένα LLM API με ένα κλικ και δεν είναι φθηνότερο από την απευθείας χρήση υποδομής cloud αν οι συστοιχίες παραμένουν αδρανείς. Ξεκινήστε με το Hosted. Μεταβείτε στο BYOC όταν έχουν σημασία οι δεσμεύσεις πόρων και η τοποθεσία αποθήκευσης των δεδομένων.

ΚΥΡΙΑ ΠΛΕΟΝΕΚΤΗΜΑΤΑ
• Δημιουργήθηκε από τους δημιουργούς του Ray
• Τα ίδια Python API από φορητό υπολογιστή έως 64+ GPU
• Hosted ή το δικό σας cloud
• Συγκέντρωση πόρων GPU από πολλαπλά cloud
• Παρατηρησιμότητα για εργασίες και Serve  

ΙΔΑΝΙΚΟ ΓΙΑ
Ομάδες που γράφουν ήδη κώδικα Ray και χρειάζονται συστοιχίες παραγωγής, όχι άλλο ένα περίβλημα για notebook.

ΣΗΜΑΝΤΙΚΑ ΣΤΟΙΧΕΙΑ
• Αναφέρονται 500M+ λήψεις του Ray
• Πληρώνετε μόνο για τις ώρες λειτουργίας
• vLLM / Train / Data σε μία πλατφόρμα
• Χρέωση μέσω marketplace στο BYOC
• Πρότυπα από λίγα δολάρια  

ΠΙΘΑΝΑ ΣΗΜΕΙΑ ΠΡΟΣΟΧΗΣ
• Η χρέωση της πλατφόρμας προστίθεται στο κόστος των GPU στο cloud
• Οι διαθέσιμες περιοχές του Hosted είναι περιορισμένες
• Για H100+ απαιτείται επικοινωνία με το τμήμα πωλήσεων
• Οι αδρανείς συστοιχίες εξακολουθούν να κοστίζουν αν τις αφήσετε σε λειτουργία
• Οι ειδήσεις για το ιδιοκτησιακό καθεστώς (συμφωνία με τη Nscale) είναι ξεχωριστό ζήτημα από το προϊόν  

ΣΥΝΟΛΙΚΗ ΑΞΙΟΛΟΓΗΣΗ
4.4/5 αστέρια. Χρησιμοποιήστε πιστώσεις Hosted για να επαληθεύσετε ότι η εργασία εκτελείται όπως χρειάζεται. Αγοράστε το BYOC όταν πληρώνετε ήδη για GPU και χρειάζεστε διαχείριση του Ray χωρίς να παραχωρήσετε τον έλεγχο του VPC. Κερδίστε επίσης ανταμοιβή 1 QUA γράφοντας μια αξιολόγηση στο Quasa.io!

ΞΕΚΙΝΗΣΤΕ: https://quasa.io/projects/anyscale