#AI
Liquid AI 发布 LFM2.5 编码器,CPU 长文推理快 3.7 倍
Liquid AI 在 Hugging Face 发布两款编码器模型:LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M,基于 LFM2 架构,采用双向注意力掩码和掩码语言建模训练,主打参数小、长上下文运行速度快。
在 GLUE、SuperGLUE 及多语言任务中,350M 版本在 14 个模型中排第四,前三名参数更大;230M 版本超越 ModernBERT-base 和全部 EuroBERT 型号。CPU 性能优势显著:输入 8192 token 时,230M 版本前向约需 28 秒,ModernBERT-base 需一分半以上,差距约 3.7 倍。GPU 上短文本时 ModernBERT 略快,但 2000 token 后 LFM2.5 反超。
💡 为什么值得看两款轻量编码器在 CPU 上跑 8K token 文档比 ModernBERT-base 快 3.7 倍,适合做意图路由、PII 检测等全天候 CPU 任务。
查证
来源档案
Liquid AI 官方技术博客(Hugging Face…
模型发布公告,包含完整基准测试数据、推理速度实测、使用教程和开源 demo 链接
一手官方源,技术数据和性能声明来自官方评测,可信度高;但作为商业公司发布,基准对比选择和测试条件需以开源复现结果交叉验证
延伸阅读
博客里给出了完整的 14 模型 × 17 任务基准表,CPU/GPU 推理速度曲线图也在原文