Anyscale – Commercieel platform voor Ray-clusters, training en modelbediening | Quasa.io

#Quasa #QUA #Anyscale

Anyscale is het commerciële platform van de makers van Ray: gedistribueerde dataverwerking, training, batchinferentie en modelbediening op CPU/GPU/TPU-clusters. Het officiële model is gebaseerd op gebruik via Anyscale Credits—er is geen openbaar vast SaaS-tarief per gebruiker. Hosted: door Anyscale beheerde VM's, betaling met betaalkaart, ondersteuning tijdens kantooruren. BYOC: je eigen VPC en gereserveerde GPU's, facturering via de marketplace, 24×7 SLA's. Gepubliceerde voorbeelden voor Hosted: alleen CPU vanaf ongeveer AC $0.0135/hr, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; voor de H/B-klasse moet je contact opnemen. De tarieven voor Kubernetes/machinepools verschillen (H100 ~AC $7.16/hr aan platformkosten plus je cloudrekening). Met startsjablonen kun je aan de slag met een paar dollar aan tegoed. Het opensourceplatform Ray blijft gratis om zelf te draaien. Het is geen LLM API die je met één klik gebruikt en ook niet goedkoper dan rechtstreeks cloudgebruik als clusters niets doen. Begin met Hosted. Stap over op BYOC wanneer reserveringen en de locatie van je gegevens belangrijk worden.

𝐁𝗘𝗟𝗔𝗡𝗚𝗥𝗜𝗝𝗞𝗦𝗧𝗘 𝗦𝗧𝗘𝗥𝗞𝗘 𝗣𝗨𝗡𝗧𝗘𝗡
• Gebouwd door de makers van Ray
• Dezelfde Python API's van laptop tot 64+ GPU's
• Hosted of je eigen cloud
• GPU-pooling over meerdere clouds
• Inzicht in taken en Serve  

𝗜𝗗𝗘𝗔𝗔𝗟 𝗩𝗢𝗢𝗥
Teams die al met Ray programmeren en productieclusters nodig hebben, geen extra schil rond notebooks.

𝗛𝗢𝗢𝗚𝗧𝗘𝗣𝗨𝗡𝗧𝗘𝗡
• Naar eigen zeggen 500M+ downloads van Ray
• Betaal alleen voor de uren dat de clusters draaien
• vLLM / Train / Data op één platform
• Facturering via de marketplace bij BYOC
• Sjablonen vanaf een paar dollar  

𝗠𝗢𝗚𝗘𝗟𝗜𝗝𝗞𝗘 𝗔𝗔𝗡𝗗𝗔𝗖𝗛𝗧𝗦𝗣𝗨𝗡𝗧𝗘𝗡
• Platformkosten komen boven op de kosten van cloud-GPU's
• Het aantal regio's voor Hosted is beperkt
• Voor H100+ moet je met de verkoopafdeling spreken
• Inactieve clusters blijven geld kosten als je ze laat draaien
• Nieuws over eigendom (Nscale-deal) staat los van het product  

𝗘𝗜𝗡𝗗𝗢𝗢𝗥𝗗𝗘𝗘𝗟
4.4/5 sterren. Gebruik Hosted-tegoed om te toetsen of de taak goed werkt. Kies BYOC wanneer je al voor GPU's betaalt en Ray wilt laten beheren zonder je VPC op te geven. Verdien ook een beloning van 1 QUA door een beoordeling op Quasa.io te plaatsen!

𝗔𝗔𝗡 𝗗𝗘 𝗦𝗟𝗔𝗚: https://quasa.io/projects/anyscale