Dot Loom

Dot Loom es un entorno de ejecución de orquestación de código abierto que optimiza la inferencia de IA distribuyendo las solicitudes de forma adaptativa entre varios modelos. En lugar de asignar un coste fijo a cada solicitud, ajusta la profundidad de cálculo según la dificultad de la tarea mediante políticas de decisión entrenadas.

Aspectos destacados

• Políticas de ejecución adaptativas que abarcan entre 1 y 4 llamadas a modelos mediante procesos Lean, Balanced, Strict o Fixed
• Arquitectura independiente del proveedor compatible con OpenAI, Claude, Dot API, Ollama y endpoints personalizados
• Controles de presupuesto integrados con límites estrictos de llamadas, créditos y latencia
• Seguimiento de costes y observabilidad con registros detallados de ejecución y recuentos de tokens
• Modelo director Ministral entrenado para tomar decisiones inteligentes de enrutamiento

Dot Loom está pensado para desarrolladores y equipos de IA que crean sistemas de inferencia atentos a los costes. Reduce las llamadas innecesarias a las API sin sacrificar la calidad. El entorno se encuentra en fase alfa y resulta adecuado para experimentos, demostraciones y arquitecturas de producción que necesitan seleccionar modelos dinámicamente. Su enfoque adaptativo beneficia a quienes trabajan con varios modelos u optimizan los costes de los LLM.