KamoCRM

Her TEI thread havuzunu 1-CPU limitine boyutlandırmak ve bir partiyi sonlandırdık

FixKlusterServices
Shipped
25 Eylül 2026 10:25 UTC
Author
Kamo
Commit
5edb887

TEI 1.5's ONNX backend fiziksel ev sahibi çekirdek başına bir çıkarım parçası başlar (24 k1m1) ve pod'un 1-CPU kotası altında, havuzda bulunan CFS throttle havuzunda mid-batch: 8 bir grup 0.3 s'ten 5-11 s'e gitti, /sağlık (bu partide parti için bekler) Uçuş) kubelet'in 1-s seferini sonlandırdı ve canlılığı bir reindex içinde iki kez modeli öldürdü. RAGHizmet, başarısız olan bir olaydır, bu yüzden bu KB ve not güncellemeleri kaybedildi ve 106 Yardım Merkezi makaleleri asla vektörlere sahip değildir. - görüntü cpu-1.5 -> cpu-1.9.4: INNX havuzu cgroup CPU limitinden büyüklüktedir. Aynı model dosyaları; vektörler 1.5'lere biraz-identical, bu yüzden Qdrant'ın puanları geçerli. SP01'in reranker aynı etiketi çalıştırıyor. - - 1 ve OMP/MKL/RAYON NUM THREADS=1 (Resimler RARE'yi 8, bu yüzden ayarlar) Her havuz, TEI'nin mumuna geri dönerse bile sınırı karşılaştırır. - canlılık ve hazırlık süresi 1 -> 10. **************** (python3 - birimtest keşfeder - gömülü-model / testler) Açıklığı ve TEI ROOTFS/TEI MODEL DIR ile ortaya çıkan resmi, args ve env CPU kotasının beş RAGService şeklinde müşterisi altında: cpu-1.5 35 iplik koştu, 2.7 chunks/s Ve 121 probun 102 başarısız oldu; cpu-1.9.4 6 iplik, 8.1 chunks/s ve hiçbiri başarısız değil. KamoAI SP00 son inceleme I-1.

All changes

Like what you see shipping?

All of it arrives in your workspace on its own. Start on the free plan and read this page again in a month.

Start Free ForeverView Pricing