TurboFieldfare

شغّل Gemma 4 26B على Mac بذاكرة RAM سعتها 2GB فقط

يتيح TurboFieldfare تشغيل نماذج لغوية متطورة على أجهزة Mac العادية المزودة بشرائح Apple Silicon، وذلك باستخدام استراتيجية ذكية لتحسين استهلاك الذاكرة. فبدلًا من تحميل النماذج كاملة في ذاكرة RAM، يحتفظ بالمكوّنات الأساسية فقط في الذاكرة، بواقع 1.35 جيجابايت للنواة بالإضافة إلى ذاكرة KV المؤقتة، ويجلب أوزان الخبراء من وحدة SSD عند الحاجة.

أبرز الميزات

تشغيل Gemma 4 26B على أجهزة Mac المزودة بذاكرة RAM سعتها 8 جيجابايت أو أكثر، مع استخدام 2 جيجابايت فقط بصورة نشطة
واجهات متعددة تشمل تطبيقًا أصليًا وأداة CLI وخادمًا متوافقًا مع OpenAI
أنوية Metal محسّنة لأداء شرائح Apple Silicon
يحقق سرعة تتراوح بين 5 و35 رمزًا في الثانية حسب مواصفات جهازك
مفتوح المصدر بترخيص Apache 2.0، مع توثيق تقني كامل

يتضمن توثيق المشروع اختبارات أداء مفصلة وشروحات لتصميم النظام. وهو مناسب للمطورين والباحثين والهواة الراغبين في تجربة النماذج اللغوية الكبيرة محليًا دون الاعتماد على واجهات API سحابية. ويمكن استخدامه وتعديله مجانًا بالكامل.