KamoCRM

मेमोरी सीमा के नीचे कैप लामा-सर्वर का त्वरित कैश, इसलिए यह बंद हो जाता है OOMKilled

FixKlusterServices
भेजा गया
28 सितंबर 2026 को 2:09 pm बजे UTC
लेखक
Kamo
कमिट
f4d979d

लामा-सर्वर के होस्ट-RAM प्रॉम्प्ट कैश डिफॉल्ट्स को 8192 MiB (- कैश-राम) को डिफॉल्ट किया गया। कंटेनर की पूरी सीमा, इसलिए यह तब तक बढ़ी जब तक कि कर्नेल ने ओलामा को मार डाला: 2026-09-28 यह एक ~ 4.4 गिब मॉडल और 15 वें पर 3 548 MiB में 14 संकेत आयोजित किया बचाना OOMKilled (8 9.5 h में पुनरारंभ, उड़ान में हर कॉल के लिए 502) था। LLAMA ARG CACHE RAM = 1024 चार प्रॉम्प्ट रखता है (एजेंट स्टेप्स शेयर ~340) उपसर्ग के टोकन, इसलिए कुछ भी नहीं खोया है); LLAMA ARG CTX CHECKPOINTS=8 सीमाएँ प्रति-स्लॉट चेकपॉइंट (2-3 प्रति प्रॉम्प्ट ~ 55 MiB) कि डिफ़ॉल्ट 32 पर छोड़ दिया 1.7 GiB. Ollama शुरू होता है llama-server के साथ न तो ध्वज, और env पहुँचता है।.

सभी परिवर्तन

जैसा कि आप शिपिंग देखते हैं?

यह सब अपने आप आपके कार्यक्षेत्र में आता है. मुफ्त योजना पर शुरू करें और एक महीने में फिर से इस पृष्ठ को पढ़ें.

हमेशा के लिए मुफ्त प्रारंभ करेंमूल्यांकन देखें