Lower embedding batch size to 8 to match model backend limit

FixRAGService
Spegnimento
30 marzo 2026 alle ore 22:47 UTC
Autore
Kamo
Impegno
6a60a97

The TEI backend forces max_batch_requests=8 regardless of client config. Batches of 32 were still failing with connection errors.

Tutte le modifiche

Come quello che vedi la spedizione?

Ognuno di questi aggiornamenti atterra automaticamente nello spazio di lavoro. Inizia gratis e guardalo crescere settimana dopo settimana.

Inizia gratis per sempreVisualizza il prezzo