LLaMA

Hy4 preview 轻量版 腾讯混元开源的Hy4量化压缩模型 2026-09-02

Hy4 preview 轻量版是腾讯混元将原本 1.5TB 的 Hy4 preview 开源大模型，通过自研 Sherry 1.25bit 稀疏量化与 MIX-STQ1_0 逐层混合精度技术，压缩至约 214GB 的版本。

Qwen3.8-27B-DFlash2 Inco AI 开源的投机解码草稿模型 2026-08-25

Qwen3.8-27B-DFlash2 是 Inco AI 开源的投机解码草稿模型，专为 Qwen3.8-27B 设计。模型仅 1.92B 参数，通过块级并行预测、轻量路径选择器和双抽头动态卷积，在单次前向传播中并行生成整块 token 草稿。

FreeToken 开源端侧 MoE 大模型推理系统，支持满血运行 2026-08-24

FreeToken 是 UC Berkeley 与 MIT 等机构联合开源的端侧 MoE 大模型推理系统。系统通过全层双缓冲、带宽自适应混合调度、Agent 状态复用及弹性显存热扩缩容等技术，将个人电脑的 CPU、内存、PCIe 与 GPU 统一为弹性计算平台。