#AI
Liquid AI 用蒸馏救回 Q4_0 精度
Liquid AI 在 Hugging Face 放出 **LFM2.5** 系列的一批 GGUF Q4_0 检查点,四个尺寸(230M、350M、1.2B-Instruct、2.6B)在评测上分别恢复各自 BF16 基线的 **97.1%、96.5%、97.4% 和 96.6%**。
训练方法叫 **QAD**(quantization-aware distillation,量化感知蒸馏)——把高精度教师模型往量化后的学生模型上蒸馏,让模型在训练阶段就适应四比特权重网格。
💡 为什么值得看旧量化格式藉蒸馏恢复 97% 精度,直击 Arm 手机推理痛点。
查证
来源档案
CocoLoop
中文 AI 资讯站,转述 Liquid AI 官方博客与 Hugging Face 模型页的一次性技术解读
单源 tier-2 媒体,精度数字与速度区间标注以官方公布口径核验,但未经第二独立源交叉确认,建议按可能/线索档对待
延伸阅读
为什幺厂商愿意为一种格式单独训一轮:端侧模型调用量是否足以摊薄训练成本,是这条技术路径能否成立的关键。
树莓派 5 与 Galaxy S26 Ultra 上的速度区间最能说明 Q4_0 的结构优势,想看实际部署价值的可从这里入手。