KamoCRM

Um modelo in-cluster recebe o tempo para ler seu prompt, dentro do orçamento da caminhada

FixAIService
Enviado
28 de setembro de 2026 às 10:06 UTC
Autor
Kamo
Confirmação
a1d2743

kamo-llm lê um prompt a cerca de 110 tokens por segundo no k3m1 antes de escrever uma palavra, então um prompt E2 passado ~6k tokens gastou 60 s inteiros por tentativa de E2 (e um fluxo seus 60 s primeiro evento ligado) antes que a resposta começou, e a caminhada seguiu em frente. Uma tentativa em um modelo IN CLUSTER agora também recebe o tempo de leitura do prompt em **************************** (50: metade da taxa medida, para o estimativa chars/4 em esquemas de ferramenta JSON e uma fila curta). Nenhuma tentativa passa pelo orçamento próprio do walk, maxAttempts x o limite per-attempt, assim que a regra dos ouvintes (master a secção 11 «Tempo-limites de série», SP04-F2: E10 3 x 120 s + 30 s) ainda se mantém; ParâmetroFallback retry, que costumava obter um limite completo fresco, é mantido para ele também. SP99-T12.

Todas as alterações

Como o que você vê o transporte?

Comece com o plano gratuito e leia esta página novamente daqui a um mês, para saber mais sobre o que está disponível para você.

Comece grátis para sempreVer preços