KamoCRM

Запуск llama-сервера з однією ниткою на ядро її ліміту процесора

FixKlusterServices
Shipped
28 вересня 2026 р. о 02:35 UTC
Author
Kamo
Commit
6186ce6

Оллама починається llama-server без -- протектора, тому вона підрахувала k3m1 24 фізичні сердечники і ran 24 матових ниток всередині контейнера 8-ядерної квоти. Про нас ємність, що витрачається двічі на тривалий час, як біг (16 560 s, дросельний проти 8 405 s використовується), підказки пішли в ~25 токени / с і відповіді на ~3, і 3 600-токени агента крок не може закінчитися всередині AIServices 120 s за спробу. LLAMA ARG THREADS читати llama-server (і наборює партії нитки теж); Вниз API API зберігає його на межі.cpu так, щоб два не можуть drift окремо.

All changes

Like what you see shipping?

All of it arrives in your workspace on its own. Start on the free plan and read this page again in a month.

Start Free ForeverView Pricing