KamoCRM

Размер пулов потоков TEI реранкера до его предела 1-CPU

FixKlusterServices
Отгружено
25 сентября 2026 г. в 17:34 UTC
Автор
Kamo
Завершение
d25462f

Реранкер запускает TEI 1.9.4 модели встраивания под тем же пределом 1-CPU, поэтому он занимает то же самое size (KamoAI SP00 final review I-1): один работник токенизации и OMP/MKL/RAYON в одном потоке. Собственные по умолчанию TEI считают ядра хоста, 48 на k3m1, все внутри квоты 1-CPU CFS. Комментарий к изображению Больше не говорится, что экземпляр встраивания находится на 1.5; он переместился на 1,9.4 в 5edb887.

Все изменения

Подобно тому, что вы видите доставку?

Все это приходит в ваше рабочее пространство само по себе. Начните с бесплатного плана и прочтите эту страницу снова через месяц.

Начать бесплатно навсегдаПосмотреть цены