KamoCRM

Contextul unui model Ollama este fereastra pe care serverul o servește, nu cea instruită

FixAIService
Shipped
28 septembrie 2026 la 10:06 UTC
Author
Kamo
Commit
68050c5

OllamaDiscovery a luat modelul info.*.context long from /api/show: fereastra modelului A fost antrenat pentru. Registrul a enumerat granitul4:tiny-h la 1 048 576 (și qwen3:4b la 262 144) în timp ce kamo-llm servește 16 384 (OLLAMA CONTEXT LENGTH, klusterservices), astfel încât router-ul nu a exclus niciodata un moment trecut de 16k si tunderea tintita la un milion de jetoane; Ollama taie o astfel de prompt. Fereastra vine acum de la GET /api/ps, modelul încărcat context lungime. Un model pe care serverul nu l-a încărcat este raportat fără fereastră, și un Sincronizarea o păstrează pe cea stocată. La 16 384 cererea automată LONG CONTEXT dispare, astfel încât rând 1 048 576 nu mai oglinzi înapoi în max context lungime. SP99-T12.

All changes

Like what you see shipping?

All of it arrives in your workspace on its own. Start on the free plan and read this page again in a month.

Start Free ForeverView Pricing