BestLLMfor

BestLLMfor helpt je taalmodellen op je eigen hardware te draaien. Je voert je GPU of Apple Silicon-chip, werkgeheugen, besturingssysteem en gebruiksdoel in, waarna de configurator passende modellen met open gewichten toont, inclusief hun geheugenbehoefte en verwachte snelheid. De hardwarescan draait op jouw verzoek in je browser; de site raadt aan de gevonden hoeveelheid geheugen zelf te controleren.

Belangrijkste functies

• Een configurator die modellen koppelt aan je GPU of Apple-chip, werkgeheugen, besturingssysteem en gebruiksdoel, zoals chat, programmeren, RAG, beeld, audio of agents
• Een modelcatalogus met het aantal parameters, de benodigde VRAM bij Q4-kwantisatie, de contextlengte en het geschatte aantal tokens per seconde
• Ranglijsten per toepassing, bijvoorbeeld programmeren, RAG, computers zonder GPU of modellen met een licentie voor commercieel gebruik
• Installatiehandleidingen voor Ollama en LM Studio, plus hardwareadvies per budget
• Een nieuwsoverzicht met nieuwe modellen met open gewichten
• Betaalde pakketten per opstelling, waaronder een lokale programmeerassistent, lokale RAG, lokale agents, Mac en beeldgeneratie, voor $24 per stuk of $49 voor alles

Goed om te weten

• Voor de configurator, catalogus en handleidingen heb je geen account nodig
• Snelheid en geheugenbehoefte zijn schattingen; test op je eigen computer voordat je hardware koopt
• Hetzelfde team publiceert een Franse editie (QuelLLM) en een Italiaanse (QualeLLM)

Voor wie een model zoekt om lokaal te draaien, of een computer om dat op te doen. De basisfuncties zijn gratis en de pakketten koop je eenmalig.