Reranker の TEI スレッド プールを 1 CPU 限界までサイズ化

Shipped

2026年9月25日 17:34 UTC

Author

Kamo

Commit

d25462f

Reranker は embedding-model の TEI 1.9.4 を同じ 1 CPU 限界の下の動かします、従って同じを取ります サイジング(KamoAI SP00最終レビューI-1): 1つのトークン化ワーカー、および1つのスレッドでOMP / MKL / RAYON。 TEI 独自のデフォルトでは、ホストコア数、k3m1 の 48 、 1 CPU CFS クォータ内のすべて。 画像コメント embeddings インスタンスは 1.5 で、 5edb887 で 1.9.4 に移動しました.