Anyscale – Rayクラスター、トレーニング、サービング向けの商用プラットフォーム | Quasa.io

#Quasa #QUA #Anyscale

Anyscaleは、Rayの開発者が提供する商用プラットフォームです。CPU/GPU/TPUクラスター上で、分散データ処理、トレーニング、バッチ推論、サービングを実行できます。公式の料金体系はAnyscale Creditsによる従量課金で、SaaSのユーザー単位の定額料金は公開されていません。Hosted：Anyscaleが管理するVM、カード決済、営業時間内のサポート。BYOC：自社のVPCと予約済みGPU、マーケットプレイス経由の請求、24×7のSLA。公開されているHostedの料金例：CPUのみで約AC $0.0135/hrから、T4 ~$0.57、L4 ~$0.95、A10G ~$1.36、A100 ~$4.96。H/Bクラスは要問い合わせです。Kubernetesおよびマシンプールの料金は異なります（H100はプラットフォーム料金が約AC $7.16/hrで、別途クラウド利用料がかかります）。スターターテンプレートは数ドル分のクレジットから起動できます。オープンソースのRayは、引き続き無料で自社運用できます。ワンクリックで使えるLLM APIではなく、クラスターがアイドル状態の場合はクラウドを直接利用するより安くはなりません。まずはHostedから始めましょう。予約契約やデータレジデンシーが重要になったら、BYOCへ移行しましょう。

主な強み
• Rayの開発者が構築
• ノートパソコンから64+ GPUsまで、同じPython APIsを使用可能
• Hostedまたは自社のクラウドを選択可能
• 複数のクラウドにまたがるGPUプーリング
• ジョブとServeの可観測性  

こんなチームに最適
すでにRayを使ってコードを書いており、ノートブックのラッパーをもう一つ増やすのではなく、本番環境のクラスターを必要としているチーム。

注目ポイント
• Rayのダウンロード数は500M+と公表
• 稼働時間のみの従量課金
• vLLM / Train / Dataを一つのプラットフォームで利用可能
• BYOCではマーケットプレイス経由の請求に対応
• 数ドルから使えるテンプレート  

検討すべき点
• クラウドGPUの利用料に加えてプラットフォーム料金が発生
• Hostedで利用できるリージョンは限定的
• H100+は営業担当者への相談が必要
• クラスターを起動したままにすると、アイドル状態でも費用が発生
• 所有権に関するニュース（Nscaleとの取引）は製品とは別の話  

総合評価
星4.4/5。Hostedのクレジットでジョブを検証しましょう。すでにGPUの利用料を支払っており、VPCを維持しながらRayを運用したい場合は、BYOCを契約しましょう。Quasa.ioでレビューを投稿して、1 QUAの報酬も獲得しましょう！

利用を始める： https://quasa.io/projects/anyscale