KamoCRM

Un modelo incluster consigue el tiempo para leer su impulso, dentro del presupuesto de la caminata

FixAIService
Enviado
28 de septiembre de 2026 a las 10:06 UTC
Autor
Kamo
Commit
a1d2743

kamo-llm lee un aviso a unos 110 fichas por segundo en k3m1 antes de escribir una palabra, así que un impulso E2 pasado ~6k tokens pasó la totalidad de E2 60 s por intento atado (y una corriente antes de que la respuesta comenzara, y la caminata siguió adelante. Un intento en un modelo IN CLUSTER ahora también consigue el tiempo de lectura del aviso ¿Qué? (50: la mitad de la tasa medida, para el chars/4 estimación sobre esquemas de herramientas JSON y una cola corta). Ningún intento pasa por encima de el presupuesto propio, maxAttempts x el límite per-attempt, por lo que la regla de los calladores (master sección 11 'tiempos de la academia', SP04-F2: E10 3 x 120 s + 30 s) todavía sostiene; ParameterRetryFallback, que solía conseguir un nuevo límite completo, se mantiene a él también. SP99-T12.

Todos los cambios

¿Te gusta lo que ves envío?

Comienza con el plan gratuito y vuelve a leer esta página dentro de un mes para ver cómo funcionan las funciones y los beneficios.

Comience gratis para siempreVer los precios