Dot Loom

Dot Loom — это среда оркестрации с открытым исходным кодом, которая оптимизирует логический вывод ИИ, адаптивно распределяя запросы между несколькими моделями. Вместо фиксированной стоимости каждого запроса она изменяет глубину вычислений в зависимости от сложности задачи, используя обученные политики принятия решений.

Основные возможности

• Адаптивные политики выполнения с масштабированием от 1 до 4 вызовов моделей: конвейеры Lean, Balanced, Strict или Fixed
• Независимая от поставщиков архитектура с поддержкой OpenAI, Claude, Dot API, Ollama и пользовательских конечных точек
• Встроенное управление бюджетом с жёсткими лимитами на вызовы, кредиты и задержку
• Отслеживание затрат и наблюдаемость с подробными отчётами о выполнении и количеством токенов
• Обученная управляющая модель Ministral для интеллектуального распределения запросов

Dot Loom предназначен для разработчиков и команд ИИ, создающих системы логического вывода с контролем затрат, и сокращает число ненужных вызовов API без снижения качества. Среда находится на альфа-стадии и подходит для экспериментов, демонстраций и производственных архитектур, которым нужен динамический выбор моделей. Её адаптивный подход полезен всем, кто использует несколько моделей или оптимизирует расходы на LLM.