KamoCRM

O contexto de um modelo Ollama é a janela que o servidor serve, não a que é treinada

FixAIService
Enviado
28 de setembro de 2026 às 10:06 UTC
Autor
Kamo
Confirmação
68050c5

OllamaDiscovery tomou model info.*.context length de /api/show: a janela o modelo Foi FORMADO. O registro listou granito4:tiny-h em 1 048 576 (e qwen3:4b em 262 144) enquanto kamo-llm serve 16 384 (OLLAMA CONTEXT LENGTH, klusterservices), assim o roteador nunca excluiu um imediato passado 16k e aparamento destinado a um milhão de fichas; Ollama corta uma situação tão rápida. A janela agora vem de GET /api/ps, o modelo carregado contexto comprimento. Um modelo que o servidor não tenha carregado é reportado sem uma janela, e um A sincronização mantém a armazenada. Em 16 384 a reivindicação automatizada LONG CONTEXT vai embora, de modo que o linha 1 048 576 já não espelhos de volta para max context length. SP99-T12.

Todas as alterações

Como o que você vê o transporte?

Comece com o plano gratuito e leia esta página novamente daqui a um mês, para saber mais sobre o que está disponível para você.

Comece grátis para sempreVer preços