- Shiked
- 28 Eylül 2026 04:36 UTC
- Yazar
- Kamo
- Commit
- 8f24b41
Sahibi, k3m1'in üzerinde önemli ölçüde daha iyi çalışan yerel bir model istedi AVX2- Sadece Xeons (2026-09-27, SP01-LLM-grani4). granit4:tiny-h bir şeydir Hibrit Mamba-2/transformer MoE (7B toplam, ~1B aktif): birkaç kez qwen3:4b's CPU'da hızlı ve cevap hızı, yerel araç arama, ve hiçbir düşünme geçişi. - postStart granit4:tiny-h; CPU 8 -> 16 (LING ARG THREADS takip ediyor), 2 -> 4 talep; - OLLAMA CONTEXT LENGTH 8192 -> 16384 (ajan adımlar 3-5k jetleri çalıştırıyor); - OLLAMA FLASH ATTENTION=1. Memory 8Gi kalır.