- Shipped
- 28 вересня 2026 р. о 10:06 UTC
- Author
- Kamo
- Commit
- c9be36f
HuggingFaceAdapter потоковий через текст інтерфейсу за замовчуванням: кожен штик був читати для свого тексту і нічого іншого, щоб не було використання, коли-небудь досягнуто виконавця або учасника чат і кожна потокова відповідь була додана як оцінка chars / 4. Потік тепер просить для використання (stream options. включає в себе usage, в чат-комплеції маршрутизатора) і читає кожен шматок для його тексту, end reason і використання. маршрутизатор, який відмовляється від запиту знову запитується без нього параметром executorFallback; потік без використання курка залишається кошторисом, закріплюється як одна. Відповідна відповідь тепер закінчується як max tokens замість прочитання як готове. Потік більше не друкує замовлення тіла (підказка) до стежка. СП99-Т12.