Anyscale

Anyscale упрощает инфраструктурные задачи, возникающие при создании и обучении систем ИИ в большом масштабе. Платформа построена на Ray — открытом фреймворке распределённых вычислений — и предоставляет управляемую оркестрацию для разработчиков фундаментальных моделей и компаний, работающих с ИИ.

Основные возможности

• Конвейеры подготовки мультимодальных данных для обработки видео, изображений, текста и аудио
• Распределённое обучение моделей с ускорением на GPU и эластичным масштабированием
• Пакетное создание эмбеддингов и оптимизация инференса
• Запуск рабочих нагрузок в нескольких облаках, включая AWS, GCP и Azure
• Расширенные средства наблюдаемости и мониторинга производительности
• Точная настройка распределения CPU, GPU, TPU и специализированных ускорителей

Anyscale предназначена для исследовательских команд и ML-инженеров, которые создают фундаментальные модели и должны эффективно обрабатывать огромные наборы данных и координировать сложные процессы обучения. Новым пользователям доступен бесплатный тариф с кредитом на $100, а платные планы для производственных нагрузок рассчитываются на основе потребления вычислительных ресурсов.