Paritok 4B

Paritok ottimizza l'uso degli LLM nello sviluppo software intercettando le richieste inviate dagli agenti di programmazione alle API LLM e comprimendo il contesto di input prima dell'inoltro. Questo approccio middleware riduce i token di circa il 74% nei carichi di lavoro tipici, con un risparmio fino al 95% nelle sessioni prolungate.

Funzionalità principali

• Compressione dei token del 74-95%, mantenendo una qualità di risoluzione dell'86,5% su SWE-bench Verified
• Addestrato su 45.000 traiettorie reali di agenti di programmazione per comprendere i flussi di lavoro degli sviluppatori
• Compressione non distruttiva con lo strumento integrato `expand_context` per recuperare il contesto quando necessario
• Progettazione sensibile al codice che filtra oltre 70 schemi di strumenti tramite embedding semantici
• Adattatore LoRA 4B eseguibile in proprio con licenza Apache 2.0

È pensato per gli sviluppatori che utilizzano agenti di programmazione come Claude Code, Cursor o OpenHands e vogliono ridurre i costi delle API e la latenza. Paritok può essere eseguito gratuitamente su una GPU da 24 GB oppure usato tramite il servizio in hosting opzionale con tariffazione per richiesta. Non richiede alcun abbonamento.