用途：Colibri 是纯 C 的 LLM 推理引擎，目标是在消费级机器（约 25 GB RAM）上运行 GLM-5.2（744B 混合专家模型）。适合本地优先的推理管线、模型转换、API 服务与性能调优。
主要能力：核心组件 glm.c（约 2400 行）实现 GLM-5.2（glm_moe_dsa）前向传播，含 MLA 注意力、MTP 投机解码与 DeepSeek-V3 sigmoid 路由。专家流式加载将 21,504 个路由专家（75 层 × 256 专家，int4 约 370 GB）存于磁盘按需读取，配逐层 LRU 缓存；稠密层（注意力、共享专家、嵌入）驻留内存（int4 约 9.9 GB）；MTP 使用第 78 层 int8 多头预测，草稿接受率 39–59%；MLA 用压缩 KV 缓存（576 浮点/ token，比稠密 32768 小 57 倍）。
使用方式：CLI 含 coli chat（交互聊天）、coli convert（下载 GLM-5.2-FP8、量化为 int4、准备 MTP int8 头）、coli plan（查看存储层级与专家放置）。需先安装 C 构建工具、运行 setup.sh 并配置 OpenMP，支持 Linux、macOS 及 Windows via WSL。关键参数：COLI_MODEL 为转换后 int4 模型目录（必需）；--ram <GB>（默认自动，最小 10 GB）；--vram <GB>（默认 0，仅 CPU，需 CUDA 构建）；--cache <MB>；--mtp on/off；--temperature（默认 0.95）；--top-p（默认 0.9）。转换约 30–60 分钟，一次性完成。
适用场景：本地聊天界面、HTTP/gRPC 推理 API、批量处理、CPU-GPU 混合推理（热点专家固定到显存）、性能剖析（tokens/s、专家加载模式）、嵌入应用的本地推理。
限制：不适用于 Python 优先的高层框架、分布式/云端多机多卡推理、LLM 微调训练。社区基准（CPU int4 缓存热）单 token 约 1.2 tok/s，启用 MTP 约 2.2–2.8 tok/s；冷缓存可能因额外专家加载而回退。专家需本地 NVMe/HDD，边缘或移动设备需剪枝/蒸馏。收费、价格与许可信息暂未提供。