KamoCRM

Un flux de texte Hugging Face est mesuré comme le routeur l'a compté

FixAIService
Expédié
28 septembre 2026 à 10:06 UTC
Auteur
Kamo
Commite
c9be36f

HuggingFaceAdapter en streaming via le texte par défaut de l'interface : chaque morceau était lire pour son texte et rien d'autre, donc aucun usage n'a jamais atteint l'exécuteur ou membre chat et chaque réponse en flux a été mesurée comme une estimation chars/4. Le flux demande maintenant pour l'utilisation (stream options. include usage, dans les spécifications de clavardage du routeur) et lit chaque morceau pour son texte, find raison et utilisation. Un routeur qui refuse la demande est demandé à nouveau sans elle par le ParameterFallback de l'exécuteur; un flux sans utilisation Le morceau reste une estimation, signalé comme un seul. Une réponse de coupure se termine comme max tokens à la place de lire comme terminé. Le flux n'imprime plus le corps de la requête (l'invite) à C'est bon. SP99-T12.

Tous les changements

Comme ce que tu vois expédier ?

Tout cela arrive dans votre espace de travail par lui-même. Commencez sur le plan gratuit et relisez cette page dans un mois.

Commencez gratuitement pour toujoursPrix de visualisation