- भेजा गया
- 25 सितंबर 2026 को 10:25 am बजे UTC
- लेखक
- Kamo
- कमिट
- 5edb887
TEI 1.5 का ONNX बैकेंड प्रति भौतिक होस्ट कोर (24 k1m1) पर एक अनुमान थ्रेड शुरू होता है और कोई धागा सेटिंग पढ़ता है, इसलिए फली के 1-CPU कोटा के तहत सीएफएस थ्रॉटल पूल को फहराता है मध्य बैच: 8 का एक बैच 0.3 s से 5-11 s, /हेल्थ (जो बैच में प्रतीक्षा करता है) से चला गया। फ्लाइट) ने kubelet के 1-s टाइमआउट को हटा दिया और लाइवनेस ने मॉडल को एक बार फिर से इंडेक्स में दो बार मारा। आरएजी सर्विस ने एक ऐसी घटना को खारिज कर दिया, जिसके बारे में असफल रहा, इसलिए उन KB और नोट अपडेट खो गए थे, और 106 मदद केंद्र लेख कभी वेक्टर नहीं मिला। - छवि cpu-1.5 -> cpu-1.9.4: 1.6 से ONNX पूल को cgroup CPU सीमा से आकार दिया जाता है। समान मॉडल फाइलें; वेक्टर 1.5 के लिए बिट-identical हैं, इसलिए Qdrant के अंक मान्य हैं। SP01 के पुनर्गणक उसी टैग को चलाता है। --tokenization-workers 1, और OMP/MKL/RAYON NUM THREADS=1 (चित्र सेट RAYON to 8), इसलिए प्रत्येक पूल सीमा से मेल खाता है, भले ही टीईआई अपने मोमबत्ती बैकएंड पर वापस आ जाए। - जीवन और तत्परता टाइमआउटदूस 1 -> 10. ************* (python3 -m unittest find -s embedding-model/tests) प्रकटन पिन करें, और TEI ROOTFS/TEI MODEL DIR के साथ प्रकटन की छवि, args और env चलाता है। पांच RAGService आकार के ग्राहकों के साथ अपने CPU कोटा के तहत: cpu-1.5 35 धागे, 2.7 टुकड़े/s और असफल 102 की 121 जांच; cpu-1.9.4 रन 6 धागे, 8.1 चंक/s और विफल रहता है। KamoAI SP00 अंतिम समीक्षा I-1.