- शिप
- 5 अक्टूबर 2026 को 3:57 pm बजे UTC
- लेखक
- Kamo
- Commit
- 2a848b8
केबी सर्विस एक सहायक लेख के लेक्सिकल जेएसओएन को अनुवादित करने के लिए भेजती है: एक लंबी लाइन के साथ कुछ वाक्य समाप्त होता है, ~0.46 मॉडल एक चरित्र tokens। एक 3,980-character लेख पहुंच गया मॉडल के रूप में एक 1,363-टोकन टुकड़ा गद्देदार छह छोटे लोगों के बगल में; दो बार (दोनों) अनुवाद सेवा फली) ने 1,960 MiB को 2 GiB सीमा और इंजन के खिलाफ बढ़ाया OOMKill. - 256 टोकनों की तुलना में कोई टुकड़ा मॉडल तक नहीं पहुंचता, जिस पर प्रशिक्षित किया गया था: एक वाक्य 600 से अधिक अक्षरों को अपनी जगहों पर काट दिया जाता है और 256 से अधिक टोकनों का टुकड़ा अभी भी है। अपने मध्य के निकटतम अंतरिक्ष में भाग लिया (कोई भी KMPH सेंडिनेल के अंदर)। - टोकन द्वारा CTranslate2 बैच (MAX BATCH TOKENS=512), 16 उदाहरण नहीं। MALLOC ARENA MAX=2. - मेमोरी सीमा 3Gi (दो सबसे खराब मापा चोटी, 1,164 MiB दो 20,000-character के लिए) एक बार में टेक्स्ट); अनुरोध 1Gi रहता है। अभी भी लोड करें: 974 MiB (दो लेख), 943 MiB (चार), कोई धीमा नहीं; लघु स्ट्रिंग अपरिवर्तित। मेमोरीटेस्ट वास्तविक मॉडल (पुराने इंजन 2,442 एमआईबी: लाल) पर इसे पिन करता है। SP98 अंतिम समीक्षा I-1.