Lower embedding batch size to 8 to match model backend limit

FixRAGService
সারি
৩০ মার্চ, ২০২৬ এ ১০:৪৭ PM UTC
লেখক
Kamo
মন্তব্য@ info: status
6a60a97

The TEI backend forces max_batch_requests=8 regardless of client config. Batches of 32 were still failing with connection errors.

সব পরিবর্তন

যেমন তুমি জাহাজ দেখেছ?

প্রত্যেকটা আপডেট স্বয়ংক্রিয়ভাবে আপনার কর্মক্ষেত্র স্বয়ংক্রিয়ভাবে. সপ্তাহের পর সপ্তাহের মধ্যে মুক্ত হয়ে তা দেখতে শুরু করুন।.

চিরকালের জন্য মুক্তকরণ আরম্ভ করা হবেপ্রদর্শন সংক্রান্ত পছন্দ