- 已装运
- 2026年10月22日 21:37 UTC
- 作者
- Kamo
- 提交
- 8691751
在节点的 CPU 类上测量,使用字典同步的自身流量(15 个键块 ) : 一个 8 线程流 1.5个键/秒,两个8个1.8个,四个4个2.9个与四个块在飞行。 小批量不使用8个 线程运行良好,因此引擎现在运行四个四流(相同的 16 个内核)并接受八个请求。 标记为优先级"低"的请求(同步、扫描)将被保留到四个流中的 MAX_LOW_CONCURRENT=3,因此聊天 光束宽度保持不变:这并不意味着以质量换取速度。