KamoCRM

Tamanho de cada pool de thread TEI para o limite de 1-CPU, e deixar sondas durar um lote

FixKlusterServices
Enviado
25 de setembro de 2026 às 10:25 UTC
Autor
Kamo
Confirmação
5edb887

A infra- estrutura ONNX do TEI 1.5 inicia um thread de inferência por núcleo de host físico (24 em k1m1) e não lê nenhuma configuração de thread, então sob a cota 1-CPU do pod o acelerador CFS congelou a piscina meio do lote: um lote de 8 foi de 0,3 s para 5-11 s, /saúde (que espera pelo lote em O tempo de espera do Kubelet foi ultrapassado, e a vida matou o modelo duas vezes num reindex. RAGService acks um evento cuja incorporação falhou, então as atualizações de KB e nota foram perdidas, e 106 Os artigos da Central de Ajuda nunca receberam vetores. - imagem cpu-1.5 -> cpu-1.9.4: a partir de 1.6 o pool ONNX é dimensionado a partir do limite de CPU cgroup. Os mesmos arquivos de modelo; os vetores são bit idênticos a 1.5, então os pontos do Qdrant permanecem válidos. O reranker do SP01 usa a mesma etiqueta. -- tokenization-workers 1, e OMP/MKL/RAYON NUM THREADS=1 (a imagem define RAYON para 8), então Cada piscina corresponde ao limite, mesmo que o TEI caia de volta à sua infra-estrutura de velas. - tempo de vida e de prontidão Segundos 1 -> 10. **************************** (python3 -m unittest finde -s embedding-model/tests) pins o manifesto, e com TEI ROOTFS/TEI MODEL DIR executa a imagem, args e env do manifesto sob sua cota de CPU com cinco clientes em forma de RAGService: o cpu-1.5 executou 35 threads, 2,7 blocos/s e falhou 102 de 121 sondas; cpu-1.9.4 executa 6 threads, 8,1 blocos/s e não falha nenhuma. KamoAI SP00 revisão final I-1.

Todas as alterações

Como o que você vê o transporte?

Comece com o plano gratuito e leia esta página novamente daqui a um mês, para saber mais sobre o que está disponível para você.

Comece grátis para sempreVer preços