#AI
Liquid AI 发布 2.6B 小模型,供本地 Agent 部署
Liquid AI 发布 LFM2.5-2.6B,一个面向本地 agent 部署的 2.6B 参数小模型。在多轮工具调用与指令遵循测试中,它与 4 倍参数量的模型(如 Gemma-4-E4B-it、Qwen3.5-9B)持平甚至反超,推理时仅需不到 2.5 GB 内存。
推理解码速度在 Apple M5 Max 上达 220 token/s,AMD Ryzen CPU 上为 113 token/s,官方称手机端可跑到 30 token/s,足以支持可用本地 agent。这意味着高频调用的 agent 工作流可摆脱云端推理账单,数据保留在设备端。
💡 为什么值得看2.6B 参数在多轮 agent 任务上对标 4 倍大模型,可在手机端跑 30 token/s,本地 agent 成本结构可能被改写。
查证
来源档案
Liquid AI 官方博客
一手官方发布,Hugging Face 博客同步更新,附带完整 benchmark 表格和代码示例
官方发布、tier 0,基准数字来自 Liquid AI 自己跑的结果,第三方交叉验证尚未出现;benchmark 表内各比较模型的分数可自行复现检验
延伸阅读
官方博客附完整代码、蒸馏+RL 流程及集成指南。