Paritok 4B

Paritok оптимизирует использование LLM разработчиками ПО: он перехватывает запросы от агентов программирования к API LLM и сжимает входной контекст перед отправкой провайдеру. Такой подход на уровне промежуточного ПО сокращает количество токенов примерно на 74% при типичных нагрузках и до 95% в длительных сессиях.

Ключевые особенности

• Обеспечивает сжатие токенов на 74–95%, сохраняя 86,5% качества решения задач в SWE-bench Verified
• Обучен на 45 000 реальных последовательностях работы агентов программирования для понимания процессов разработчиков
• Сжимает данные без необратимых потерь и включает инструмент `expand_context` для восстановления контекста при необходимости
• Учитывает структуру кода и фильтрует более 70 схем инструментов с помощью семантических эмбеддингов
• Самостоятельно развёртываемый LoRA-адаптер на 4 млрд параметров под лицензией Apache 2.0

Подходит разработчикам, использующим агенты программирования вроде Claude Code, Cursor или OpenHands и желающим снизить расходы на API и задержки. Paritok можно бесплатно запускать на собственном GPU с 24 ГБ памяти или использовать размещённый сервис с оплатой за каждый запрос. Подписка не требуется.