KamoCRM

Un flujo de texto Hugging Face se mide mientras el router lo cuenta

FixAIService
Enviado
28 de septiembre de 2026 a las 10:06 UTC
Autor
Kamo
Commit
c9be36f

HuggingFaceAdapter se transmitió a través de la interfaz de texto sólo por defecto: cada pedazo era leer por su texto y nada más, así que ningún uso llegó al ejecutante o miembro chat y cada respuesta streamed fue medido como una estimación chars/4. El arroyo ahora pide para el uso (stream options. include usage, in the router chat-completion spec) and lee cada pedazo para su texto, end reason y uso. Un router que rechaza la pregunta es preguntado de nuevo sin él por el parámetro del ejecutanteFallback; un flujo sin un uso El pedazo sigue siendo un estimado, marcado como uno. Una respuesta cortada ahora termina como max tokens en su lugar de lectura como terminada. El flujo ya no imprime el cuerpo de solicitud (el aviso) a Sedout. SP99-T12.

Todos los cambios

¿Te gusta lo que ves envío?

Comienza con el plan gratuito y vuelve a leer esta página dentro de un mes para ver cómo funcionan las funciones y los beneficios.

Comience gratis para siempreVer los precios