Anyscale: Коммерческая платформа для кластеров Ray, обучения и инференса | Quasa.io

#Quasa #QUA #Anyscale

Anyscale — это коммерческая платформа от создателей Ray: распределенные данные, обучение, пакетный инференс и развертывание моделей на кластерах CPU/GPU/TPU. Официальная модель основана на кредитах Anyscale (Anyscale Credits) с оплатой по мере использования — публичных фиксированных тарифов по подписке нет. Hosted-версия: управляемые Anyscale виртуальные машины, оплата картой, поддержка в рабочие часы. BYOC (ваше облако): ваш VPC и зарезервированные GPU, выставление счетов через маркетплейс, круглосуточная поддержка (24×7). Примеры цен Hosted: только CPU от ~$0.0135/час, T4 — ~$0.57, L4 — ~$0.95, A10G — ~$1.36, A100 — ~$4.96; классы H/B предоставляются по запросу. Тарифы Kubernetes/пулов машин отличаются (платформенный сбор для H100 составляет ~AC $7.16/час плюс ваш счет за облако). Стартовые шаблоны запускаются всего с нескольких кредитов. Открытая версия Ray (OSS) остается бесплатной для самостоятельного запуска. Это не API для языковых моделей в один клик и не дешевле чистого облака, если кластеры простаивают. Начинайте с Hosted. Переходите на BYOC, когда важны резервирование и локализация данных.

𝐂𝗢𝗥𝗘 𝗦𝗧𝗥𝗘𝗡𝗚𝗧𝗛𝗦
• Создано авторами Ray
• Те же Python API от ноутбука до 64+ GPU
• Размещение в облаке Anyscale или вашем собственном
• Многооблачное объединение GPU в пулы
• Мониторинг задач и службы Serve  

𝗜𝗗𝗘𝗔𝗟 𝗙𝗢𝗥
Команды, которые уже пишут код на Ray и нуждаются в производственных кластерах, а не в очередном блокноте-обертке.

𝗛𝗜𝗚𝗛𝗟𝗜𝗚𝗛𝗧𝗦
• Заявлено более 500 млн скачиваний Ray
• Оплата только за часы работы
• vLLM / Train / Data на единой платформе
• Биллинг через маркетплейс в режиме BYOC
• Шаблоны стоимостью от нескольких долларов  

𝗣𝗢𝗧𝗘𝗡𝗧𝗜𝗔𝗟 𝗖𝗢𝗡𝗦𝗜𝗗𝗘𝗥𝗔𝗧𝗜𝗢𝗡𝗦
• Платформенный сбор добавляется поверх стоимости облачных GPU
• Ограниченный выбор регионов Hosted
• Устройства H100+ требуют связи с отделом продаж
• Простаивающие кластеры продолжают расходовать средства, если их не выключить
• Новости о собственности (сделка с Nscale) отделены от самого продукта  

𝗢𝗩𝗘𝗥𝗔𝗟𝗟 𝗩𝗘𝗥𝗗𝗜𝗖𝗧
4.4/5 звезд. Используйте кредиты Hosted для проверки задач. Покупайте BYOC, когда вы уже оплачиваете GPU и вам нужны операции Ray без потери контроля над VPC. Получите награду в 1 QUA за отзыв на Quasa.io!

𝗚𝗘𝗧 𝗦𝗧𝗔𝗥𝗧𝗘𝗗: https://quasa.io/projects/anyscale