Dot Loom

Dot Loom é um runtime de orquestração de código aberto que otimiza a inferência de IA ao encaminhar solicitações de forma adaptativa entre vários modelos. Em vez de manter um custo fixo por solicitação, ele ajusta a profundidade computacional conforme a dificuldade da tarefa, usando políticas de decisão treinadas.

Destaques

• Políticas de execução adaptativas que variam de 1 a 4 chamadas de modelo, com pipelines Lean, Balanced, Strict ou Fixed
• Arquitetura independente de provedor, compatível com OpenAI, Claude, Dot API, Ollama e endpoints personalizados
• Controles de orçamento integrados, com limites rígidos de chamadas, créditos e latência
• Monitoramento de custos e observabilidade com registros detalhados de execução e contagem de tokens
• Modelo orquestrador Ministral treinado para tomar decisões inteligentes de encaminhamento

Desenvolvido para equipes de IA e desenvolvedores que criam sistemas de inferência atentos a custos, Dot Loom reduz chamadas desnecessárias de API sem comprometer a qualidade. O runtime está em fase alfa e é adequado para experimentos, demonstrações e arquiteturas de produção que precisam selecionar modelos dinamicamente. Sua abordagem adaptativa beneficia quem opera vários modelos ou busca otimizar os custos de LLMs.