Streamed Antworten wurden fallen gelassen, beharrlich leere Assistenten Nachrichten

FixAIService
Verschifft
18. Juli 2026 um 21:41 UTC
Autor
Kamo
Ausschuss
8a9a63b

Jeder erfolgreiche Chat-Abschluss kam als EMPTY Assistent Blase zurück. Die Assistenten-Reihen wurden mit content_len=0 und is_error=false gespeichert, also da war nichts zu debugg von - die Kunden waren treu etwas zu machen. Ursache: die Streaming-Adapter auf einem wörtlichen "Daten gefiltert: " Präfix ("filter(Zeienzeile.startsWith("data: ")) "). WebClient dekodiert Text/Ereignungs-Stream so Brocken kommen mit diesem Präfix ALREADY abgestreift an - jedes Token war Ausgefiltert, der Flux leer abgeschlossen, und doOnComplete persisted "". Nur es zeigte sich auf einer SUCCESSFUL Antwort, weshalb die HuggingFace org (die immer mit model_not_supported gescheitert und tauchte seinen Fehler auf) sah anders aus als - OpenAiCompatibleAdapter / HuggingFaceAdapter: SSE-Stücke mit OR ohne die "Daten: " vor dem Präfix, anstatt es zu verlangen. - ChatOrchestrationService: ein Stream, der mit null Tokens abschließt, ist ein Ausfall, nicht eine Antwort - Protokollierung des Providers/Modells und beharren Sie auf einen expliziten Fehler (is_error=true) so ist es sichtbar anstelle einer stillen Leerblase.

Alle Änderungen

Wie, was Sie sehen Versand?

Jedes dieser Updates landet automatisch in Ihrem Arbeitsbereich. Starten Sie frei und beobachten Sie es Woche für Woche wachsen.

Free Forever startenPreisgestaltung anzeigen