Lower embedding batch size to 8 to match model backend limit

FixRAGService
Expédié
30 mars 2026 à 22:47 UTC
Auteur
Kamo
Commite
6a60a97

The TEI backend forces max_batch_requests=8 regardless of client config. Batches of 32 were still failing with connection errors.

Tous les changements

Comme ce que tu vois expédier ?

Chacune de ces mises à jour atterrit automatiquement dans votre espace de travail. Commencez gratuitement et regardez-le grandir semaine après semaine.

Commencez gratuitement pour toujoursPrix de visualisation