Vicuna

Vicuna lleva capacidades competitivas de los grandes modelos de lenguaje al ecosistema abierto sin dependencia de un proveedor. Creado mediante el ajuste de Llama 2 con conversaciones de usuarios reales, demuestra que los modelos de código abierto pueden alcanzar una alta calidad sin dejar de ser completamente transparentes y modificables.

Aspectos destacados

• Varios tamaños de modelo (7B, 13B y 33B) para adaptarse a tu hardware
• Ventanas de contexto ampliadas, con versiones de 4K y 16K tokens
• Ejecución local en GPU de consumo, CPU y Apple Silicon
• El framework FastChat ofrece interfaz web, CLI y una API compatible con OpenAI
• Compatibilidad con cuantización para despliegues con menor consumo de memoria

Vicuna es adecuado para investigadores que estudian las capacidades de los LLM, desarrolladores que crean aplicaciones sin depender de la nube y equipos que necesitan una IA conversacional personalizable. Es completamente gratuito bajo licencias de código abierto, lo que elimina los costes por consulta y permite conservar la propiedad del modelo y la privacidad de los datos.