- Diantar
- 28 September 2026 pukul 04.36 UTC
- Pengarang
- Kamo
- Kommit
- 8f24b41
Pemilik meminta model lokal yang berjalan secara substansial lebih baik pada k3m1 's AVX2- hanya Xeon (2026-09-27, penguasa SP01-LM-granite4). granite4: tiny-h adalah Hibrida Mamba-2 / transformer MoE (7B total, ~ 1B aktif): beberapa kali qwen3: 4b prompt dan kecepatan jawaban pada CPU, native tool calling, and no thinking pass. - postStart menarik granite4: tiny-h; - Batas CPU 8 - > 16 (LLAMA _ ARG _ THREADS mengikutinya), permintaan 2 - > 4; - OLLAMA _ CONTEXT _ LENGTH 8192 - > 16384 (langkah agen menjalankan 3- 5k token); - OLLAMA _ FLASH _ AttenSI = 1. Memori tetap 8Gi.