SambaNova

SambaNova se spécialise dans l’accélération de l’inférence des modèles d’IA, dans le cloud comme sur site. La plateforme associe du matériel propriétaire, notamment des processeurs RDU, à une orchestration logicielle intelligente afin de servir rapidement et efficacement de grands modèles de langage.

Points forts

• API compatibles avec OpenAI pour une intégration simple aux applications d’IA existantes
• Plateforme cloud SambaCloud avec formule gratuite en accès anticipé et tarification à l’usage
• Systèmes SambaRack sur site pour les entreprises nécessitant une infrastructure dédiée
• Prise en charge de plusieurs modèles pour exécuter simultanément plusieurs LLM sur une seule infrastructure
• Fonctions de flux de travail agentiques pour les tâches de raisonnement IA complexes en plusieurs étapes

SambaNova s’adresse aux équipes de machine learning, aux chercheurs en IA et aux entreprises qui privilégient une inférence à faible latence et économe en énergie. La solution est disponible à l’usage dans le cloud ou sous forme de déploiement dédié sur site avec une licence personnalisée.