- शिप
- 28 सितंबर 2026 को 2:09 pm बजे UTC
- लेखक
- Kamo
- Commit
- f4d979d
लामा-सर्वर के होस्ट-RAM प्रॉम्प्ट कैश डिफॉल्ट्स को 8192 MiB (- कैश-राम) को डिफॉल्ट किया गया। कंटेनर की पूरी सीमा, इसलिए यह तब तक बढ़ी जब तक कि कर्नेल ने ओलामा को मार डाला: 2026-09-28 यह एक ~ 4.4 गिब मॉडल और 15 वें पर 3 548 MiB में 14 संकेत आयोजित किया बचाना OOMKilled (8 9.5 h में पुनरारंभ, उड़ान में हर कॉल के लिए 502) था। LLAMA ARG CACHE RAM = 1024 चार प्रॉम्प्ट रखता है (एजेंट स्टेप्स शेयर ~340) उपसर्ग के टोकन, इसलिए कुछ भी नहीं खोया है); LLAMA ARG CTX CHECKPOINTS=8 सीमाएँ प्रति-स्लॉट चेकपॉइंट (2-3 प्रति प्रॉम्प्ट ~ 55 MiB) कि डिफ़ॉल्ट 32 पर छोड़ दिया 1.7 GiB. Ollama शुरू होता है llama-server के साथ न तो ध्वज, और env पहुँचता है।.
