KamoCRM

Un flujo de texto Hugging Face se mide mientras el router lo cuenta

FixAIService
Se descapó
28 de septiembre de 2026 a las 10:06 UTC
Autor
Kamo
Compromit
c9be36f

HuggingFaceAdapter se transmitió a través de la interfaz de texto sólo por defecto: cada pedazo era leer por su texto y nada más, así que ningún uso llegó al ejecutante o miembro chat y cada respuesta streamed fue medido como una estimación chars/4. El arroyo ahora pide para el uso (stream options. include usage, in the router chat-completion spec) and lee cada pedazo para su texto, end reason y uso. Un router que rechaza la pregunta es preguntado de nuevo sin él por el parámetro del ejecutanteFallback; un flujo sin un uso El pedazo sigue siendo un estimado, marcado como uno. Una respuesta cortada ahora termina como max tokens en su lugar de lectura como terminada. El flujo ya no imprime el cuerpo de solicitud (el aviso) a Sedout. SP99-T12.

Todos los cambios

Como lo que ves enviaste?

Todo llega a su espacio de trabajo por sí solo. Comience en el plan gratuito y lea esta página de nuevo en un mes.

Arranzar gratis para siempreVer Precios