In-clusterモデルは、ウォークの予算内でプロンプトを読む時間を取得します

Shipped

2026年9月28日 10:06 UTC

Author

Kamo

Commit

a1d2743

kamo-llm は、単語を書く前に約 110 トークンを k3m1 で 2 秒読みます。 そのため、E2 のプロンプト 過去の ~6k トークンは、E2 の 60 s の 1 回あたりの合計を費やしました (そしてストリーム 答えが始まる前に60秒のファースト・エベント・バウンディングが始まり、散歩が進む。 試み IN CLUSTERモデルでは、プロンプトの読み込み時間も取得します メニュー (50:測定速度の半分、 chars/4 JSON ツールスキーマとショートキューの推定値。 過去の試みは実行しません ウォークの予算、maxAttempts x の per-attempt 境界、従って発信者の規則(マスター) セクション11「ファサードタイムアウト」、SP04-F2:E10 3 x 120 s + 30 s)はまだ保持します; ParameterFallback 再試行, 新鮮なフルバインドを取得するために使用, それにも保持されます. SP99-T12の特長.