BestLLMfor

BestLLMfor помогает запускать языковые модели на собственном компьютере. Конфигуратор учитывает видеокарту или чип Apple Silicon, объём оперативной памяти, операционную систему и задачу, затем предлагает подходящие модели с открытыми весами, указывая требования к памяти и ожидаемую скорость. Проверка оборудования запускается в браузере по вашему запросу; сайт рекомендует вручную проверить определённый объём памяти.

Основные возможности

• Подбор моделей по видеокарте или чипу Apple, оперативной памяти, ОС и задаче: общение, программирование, RAG, работа с изображениями, аудио или агентами
• Каталог моделей с числом параметров, объёмом видеопамяти при квантовании Q4, длиной контекста и оценкой скорости в токенах в секунду
• Рейтинги по назначению: например, для программирования, RAG, компьютеров без видеокарты или коммерческого использования
• Руководства по установке Ollama и LM Studio и рекомендации по оборудованию для разных бюджетов
• Лента новостей о выпуске моделей с открытыми весами
• Платные комплекты материалов для конкретных задач и конфигураций: локальный помощник для программирования, локальные RAG и агенты, Mac, генерация изображений и другие — $24 за один или $49 за все

Что стоит знать

• Для конфигуратора, каталога и руководств учётная запись не нужна
• Скорость и расход памяти указаны приблизительно; перед покупкой оборудования проверьте модель на своём компьютере
• Та же команда выпускает французскую версию QuelLLM и итальянскую QualeLLM

Для тех, кто выбирает модель для локального запуска или компьютер под неё. Основные инструменты бесплатны, комплекты материалов оплачиваются один раз.