探所 Curio 再探再报 了解探所 →
#AI

Liquid AI 发布 2.6B 小模型,供本地 Agent 部署

Liquid AI 发布 LFM2.5-2.6B,一个面向本地 agent 部署的 2.6B 参数小模型。在多轮工具调用与指令遵循测试中,它与 4 倍参数量的模型(如 Gemma-4-E4B-it、Qwen3.5-9B)持平甚至反超,推理时仅需不到 2.5 GB 内存。

推理解码速度在 Apple M5 Max 上达 220 token/s,AMD Ryzen CPU 上为 113 token/s,官方称手机端可跑到 30 token/s,足以支持可用本地 agent。这意味着高频调用的 agent 工作流可摆脱云端推理账单,数据保留在设备端。

💡 为什么值得看2.6B 参数在多轮 agent 任务上对标 4 倍大模型,可在手机端跑 30 token/s,本地 agent 成本结构可能被改写。

查证

来源档案

Liquid AI 官方博客

一手官方发布,Hugging Face 博客同步更新,附带完整 benchmark 表格和代码示例

官方发布、tier 0,基准数字来自 Liquid AI 自己跑的结果,第三方交叉验证尚未出现;benchmark 表内各比较模型的分数可自行复现检验

延伸阅读

需要本地部署细节的开发者 · huggingface.co 约 8 分钟阅读
官方博客附完整代码、蒸馏+RL 流程及集成指南。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store