Lower embedding batch size to 8 to match model backend limit

FixRAGService
Shipped
30 марта 2026 г. в 22:47 UTC
Author
Kamo
Commit
6a60a97

The TEI backend forces max_batch_requests=8 regardless of client config. Batches of 32 were still failing with connection errors.

All changes

Как вы видите судоходство?

Каждое из этих обновлений автоматически попадает в ваше рабочее пространство. Начните бесплатно и смотрите, как он растет неделю за неделей.

Начните бесплатно навсегдаПосмотреть цены