BestLLMfor

BestLLMfor hilft dir, Sprachmodelle auf deiner eigenen Hardware zu betreiben. Der Konfigurator berücksichtigt deine GPU oder deinen Apple-Silicon-Chip, den Arbeitsspeicher, das Betriebssystem und den Einsatzzweck. Er zeigt passende Modelle mit offenen Gewichten, ihren Speicherbedarf und die erwartete Geschwindigkeit. Die Hardware-Erkennung läuft auf Wunsch im Browser; die Website empfiehlt, die Speicherangabe von Hand zu überprüfen.

Funktionen

• Konfigurator zur Modellauswahl anhand von GPU oder Apple-Chip, Arbeitsspeicher, Betriebssystem und Einsatzzwecken wie Chat, Programmierung, RAG, Bildverarbeitung, Audio oder Agenten
• Modellkatalog mit Parameterzahl, VRAM-Bedarf bei Q4-Quantisierung, Kontextlänge und geschätzten Tokens pro Sekunde
• Ranglisten nach Einsatzzweck, etwa Programmierung, RAG, Rechner ohne GPU oder Modelle mit Lizenz für die kommerzielle Nutzung
• Installationsanleitungen für Ollama und LM Studio sowie Hardware-Empfehlungen nach Budget
• Nachrichten zu neuen Modellen mit offenen Gewichten
• Kostenpflichtige Pakete für bestimmte Konfigurationen, etwa lokale Programmierassistenten, lokales RAG, lokale Agenten, Mac oder Bilderzeugung: jeweils 24 US-Dollar oder zusammen 49 US-Dollar

Gut zu wissen

• Konfigurator, Katalog und Anleitungen erfordern kein Konto
• Geschwindigkeits- und Speicherangaben sind Schätzwerte; teste auf deinem eigenen Rechner, bevor du Hardware kaufst
• Dasselbe Team veröffentlicht eine französische Ausgabe namens QuelLLM und eine italienische namens QualeLLM

Für alle, die ein Modell für den lokalen Betrieb oder einen passenden Rechner suchen. Die grundlegenden Werkzeuge sind kostenlos, die Pakete werden einmalig bezahlt.