- Szycy
- 28 września 2026 10:06 UTC
- Autor
- Kamo
- Pochęt się
- c9be36f
HuggingFaceAdapter transmitowane przez podręczny interfejs - tylko domyślnie: każdy kawałek czytaj dla jego tekstu i nic więcej, więc nigdy nie został wykorzystany wykonawca lub członek chat i każda transmitowana odpowiedź była mierzona jako znaki / 4 szacunkowe. Strumień teraz pyta do wykorzystania (stream _ options. include _ use, in the router 's chat- completion spec) oraz odczytuje każdy fragment tekstu, mety _ reason i użycie. Ruter, który odmawia pytania jest ponownie proszony bez niego przez wykonawcę ParameterFallback; strumień bez użycia Chunk pozostaje oszacowaniem, oznaczonym jako jeden. Odpowiedź odcięcia kończy się teraz jako max _ tokens Czytanie jak skończone. Strumień nie drukuje już organu żądania (prompt) do Stdout. SP99- T12.