10 phút đọc—
Inkling 2 Small: MoE 594B mở weights Apache 2.0
Inkling 2 Small vừa mở weights Apache 2.0: MoE 594B, 17B active, context 1M token. Phân tích kiến trúc, GPU tối thiểu để tự host và cách dùng qua API.
Chủ đề: MoE
Các bài viết thuộc chủ đề "MoE".
- 10 phút đọc—
Chạy Model MoE Local Bằng Colibri Trên Máy Cá Nhân
Colibri giúp chạy model MoE hàng trăm tỉ tham số như GLM-5.2 hay Kimi K3 trên máy cá nhân, không cần GPU datacenter, bằng cách stream expert từ NVMe hôm nay.