KamoCRM

Il contesto di un modello Ollama è la finestra che serve il server, non quella addestrata

FixAIService
Shipped
28 settembre 2026 alle ore 10:06 UTC
Author
Kamo
Commit
68050c5

OllamaDiscovery ha preso model info.*.context length da /api/show: la finestra il modello era TRAINED per. Il registro elencato granito4:tiny-h a 1 048 576 (e qwen3:4b a 262 144) mentre il kamo-llm serve 16 384 (OLLAMA CONTEXT LENGTH, klusterservices), così il router non ha mai escluso un prompt passato 16k e rifilatura punta a un milione di gettoni; Ollama taglia un tale prompt. La finestra viene ora da GET /api/ps, modello caricato contesto lunghezza. Un modello che il server non ha caricato viene segnalato senza una finestra e la sincronizzazione mantiene quella memorizzata. A 16 384 il reclamo automatizzato LONG CONTEXT va via, così il riga 1 048 576 non rispecchia più in max context length. SP99-T12.

All changes

Like what you see shipping?

All of it arrives in your workspace on its own. Start on the free plan and read this page again in a month.

Start Free ForeverView Pricing