KamoCRM

Ein In-Cluster-Modell bekommt die Zeit, um seine Aufforderung zu lesen, innerhalb des Fuß-Budget

FixAIService
Verschickt
28. September 2026 um 10:06 UTC
Autor
Kamo
Commit
a1d2743

kamo-llm liest eine Eingabeaufforderung bei etwa 110 Token pro Sekunde auf k3m1, bevor sie ein Wort schreibt, so eine E2-Prompt Vergangenheit 6k Token ausgegeben E2 die ganzen 60 s pro Versuch gebunden (und ein Strom seine 60 s erste-Ereignation gebunden) bevor die Antwort begann, und der Weg ging weiter. Ein Versuch auf einem IN_CLUSTER-Modell bekommt jetzt auch die Lesezeit des Prompts unter ************ (50: die Hälfte der gemessenen Rate, für die chars/4 Schätzung auf JSON Werkzeug-Schemas und eine kurze Warteschlange). Kein Versuch läuft an der Walk's eigenes Budget, maxVersuche x die pro-Versuch gebunden, so dass die Caller-Regel (Hertor) Abschnitt 11 'Fassade Timeouts', SP04-F2: E10 3 x 120 s + 30 s) hält noch; die ParameterFallback Retry, die verwendet werden, um eine frische volle gebunden zu bekommen, wird auch zu ihm gehalten. SP99-T12.

Alle Änderungen anzeigen

Wie das, was Sie sehen Versand?

Beginnen Sie mit dem kostenlosen Plan und lesen Sie diese Seite in einem Monat erneut, um zu sehen, ob Sie die neuen Funktionen nutzen möchten.

Kostenlos für immer startenPreise anzeigen