ประมวลผล IBM Granite 4.0 H-Tiny ในตําแหน่ง QWen3: 4b บน 16 แกน

Shipped

28 กันยายน 2569 เวลา 04:36 UTC

Author

Kamo

Commit

8f24b41

เจ้าของร้านขอโมเดลท้องถิ่น ที่ดีกว่ามากบน k3m1 AVX2-Enions (2026-09-27) ปกครอง SP01-LLM-granite4. Graphon4: tinty-h คือ Mamba-2/ Transphorer MoE (7B) ทั้งหมด, ~1B ทํางาน): หลายครั้งเมื่อ Qwen3:4b กระตุ้นและตอบความเร็วใน CPU, เครื่องมือพื้นเมืองโทร และไม่มีการผ่านความคิด - PostStart ดึงหินแกรนิต4: Thiny-h; - CPU จํากัด 8 -> 16 (LLEKA ARG THEPERS ตามด้วย) ร้องขอ 2 -> 4; พ.ศ. 16384 (เจ้าหน้าที่ขั้นตอน 3-5k Signs). - OLLLEAA FLAHHESTATSTIMETE=1 ความทรงจํายังคงอยู่ 8 Gi.