Anyscale – Ray 클러스터, 학습 및 서빙을 위한 상용 플랫폼 | Quasa.io

#Quasa #QUA #Anyscale

Anyscale은 Ray 개발진이 만든 상용 플랫폼으로, CPU/GPU/TPU 클러스터에서 분산 데이터 처리, 학습, 배치 추론 및 서빙을 제공합니다. 공식 과금 모델은 사용량 기반 Anyscale Credits이며, 공개된 정액제 SaaS 사용자당 요금은 없습니다. Hosted: Anyscale이 관리하는 VM, 카드 결제, 업무 시간 내 지원을 제공합니다. BYOC: 자체 VPC와 예약 GPU, 마켓플레이스 청구서, 24×7 SLA를 제공합니다. 공개된 Hosted 요금 예시: CPU 전용은 약 AC $0.0135/hr부터, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96이며, H/B급은 별도 문의가 필요합니다. Kubernetes/머신 풀 요금은 다릅니다(H100은 플랫폼 요금 ~AC $7.16/hr에 자체 클라우드 요금이 추가됩니다). 시작용 템플릿은 몇 달러의 크레딧으로 실행할 수 있습니다. 오픈 소스 Ray는 직접 운영할 경우 계속 무료입니다. 클릭 한 번으로 이용하는 LLM API는 아니며, 클러스터를 유휴 상태로 두면 클라우드를 직접 이용하는 것보다 저렴하지도 않습니다. Hosted로 시작하세요. 예약과 데이터 상주 위치가 중요해지면 BYOC로 전환하세요.

핵심 강점
• Ray 개발진이 구축
• 노트북부터 64+ GPU까지 동일한 Python API 사용
• Hosted 또는 자체 클라우드에서 이용
• 멀티 클라우드 GPU 풀링
• 작업 및 Serve에 대한 관측 기능  

추천 대상
이미 Ray로 코드를 작성하고 있으며, 또 다른 노트북 래퍼가 아닌 프로덕션 클러스터가 필요한 팀.

주요 특징
• Ray 다운로드 수 500M+ 달성 주장
• 실행 시간에 대해서만 과금
• 하나의 플랫폼에서 vLLM / Train / Data 이용
• BYOC에서 마켓플레이스 결제 지원
• 몇 달러부터 이용할 수 있는 템플릿  

고려할 사항
• 클라우드 GPU 요금에 플랫폼 요금이 추가됨
• Hosted 제공 리전이 제한적임
• H100+는 영업팀과 상담 필요
• 클러스터를 켜 둔 채로 두면 유휴 상태에서도 비용 발생
• 소유권 관련 소식(Nscale 거래)은 제품과 별개의 사안  

종합 평가
별점 4.4/5. Hosted 크레딧으로 작업의 실효성을 검증하세요. 이미 GPU 비용을 지불하고 있으며 VPC를 유지하면서 Ray 운영 기능이 필요하다면 BYOC를 구매하세요. Quasa.io에 리뷰를 작성하고 1 QUA 보상도 받으세요!

시작하기: https://quasa.io/projects/anyscale