TurboFieldfare
Draai Gemma 4 26B op je Mac met slechts 2 GB RAM
TurboFieldfare brengt geavanceerde taalmodellen naar standaard-Macs met Apple Silicon via een slimme strategie voor geheugengebruik. In plaats van volledige modellen in het RAM te laden, bewaart de engine alleen essentiële onderdelen in het geheugen — een kern van 1,35 GB plus KV-cache — en streamt hij de expertgewichten wanneer nodig vanaf de SSD.
Hoogtepunten
- Draai Gemma 4 26B op Macs met minstens 8 GB RAM, waarvan slechts 2 GB actief wordt gebruikt
- Meerdere interfaces: een native app, CLI-tool en OpenAI-compatibele server
- Geoptimaliseerde Metal-kernels voor prestaties op Apple Silicon
- Behaalt afhankelijk van de hardware 5 tot 35 tokens per seconde
- Open source onder Apache 2.0, met volledige technische documentatie
De documentatie bevat uitgebreide benchmarks en uitleg over het systeemontwerp. Geschikt voor ontwikkelaars, onderzoekers en liefhebbers die lokaal met grote taalmodellen willen experimenteren zonder afhankelijk te zijn van cloud-API's. Volledig gratis te gebruiken en aan te passen.
Vergelijkbare tools
Alternatieven bekijken →Gemini CLI
FreemiumAI-agent in je terminal voor codeanalyse en automatisering
Cline
GratisAI-codeeragent in VS Code voor bestanden en commando's
Continue
GratisOpen-source AI-codeassistent voor VS Code en JetBrains
Reacties(0)
Log in om te reageren