BestLLMfor

BestLLMfor aide à faire tourner des modèles de langage sur son propre matériel. Son configurateur prend en compte votre GPU ou puce Apple Silicon, votre RAM, votre système d’exploitation et l’usage prévu, puis propose les modèles à poids ouverts compatibles, avec leurs besoins en mémoire et leur vitesse estimée. L’analyse du matériel s’exécute dans votre navigateur à votre demande ; le site recommande de vérifier manuellement la quantité de mémoire détectée.

Points clés

• Un configurateur qui associe les modèles à un GPU ou une puce Apple, une quantité de RAM, un système et un usage : conversation, code, RAG, vision, audio ou agents
• Un catalogue indiquant le nombre de paramètres, la VRAM nécessaire avec une quantification Q4, la longueur de contexte et le débit estimé en jetons par seconde
• Des classements par usage : code, RAG, machines sans GPU ou modèles autorisant un usage commercial
• Des guides d’installation pour Ollama et LM Studio, ainsi que des conseils matériels selon le budget
• Un fil d’actualité sur les sorties de modèles à poids ouverts
• Des kits payants par configuration : assistant de code local, RAG local, agents locaux, Mac, génération d’images et autres, à 24 $ chacun ou 49 $ pour l’ensemble

À savoir

• Le configurateur, le catalogue et les guides ne nécessitent aucun compte
• Les chiffres de vitesse et de mémoire sont des estimations ; testez sur votre machine avant d’acheter du matériel
• La même équipe publie une édition française, QuelLLM, et une édition italienne, QualeLLM

Pour choisir un modèle à exécuter localement ou une machine capable de le faire tourner. Les outils principaux sont gratuits et les kits s’achètent en une seule fois.