Lower embedding batch size to 8 to match model backend limit

FixRAGService
Navios
30 de março de 2026 às 22:47 UTC
Autor
Kamo
Enviar
6a60a97

The TEI backend forces max_batch_requests=8 regardless of client config. Batches of 32 were still failing with connection errors.

Todas as alterações

Como o que vês no transporte?

Cada uma dessas atualizações pousa automaticamente em seu espaço de trabalho. Comece grátis e veja crescer semana após semana.

Começar Livre Para SempreVer Preços