#AI
NVIDIA 发布 Nemotron 3.5 与 Switchyard 提升 agent 效率
NVIDIA 推出开放模型 Nemotron 3.5 Lightning 与开源路由库 NeMo Switchyard,两者配合可提升多 agent 系统效率并优化成本控制。
Lightning 为 30B 参数混合专家模型,专为高吞吐量 agent 任务设计,推理速度较同级快 4 倍,完成任务快 30%。模型开放可定制,企业可用自有数据经 NeMo 后训练,已被 CrowdStrike 等用于安全、法律、代码审查场景,支持本地硬件与云端运行,同时公开训练数据集。
Switchyard 是开源路由库,可按质量、延迟与成本要求智能调度请求,无需重写应用。内部测试显示其可维持前沿准确度,成本降至 Opus 4.8 的三分之一。
💡 为什么值得看开源模型配智能路由可低成本降延迟,经 Cognition、Ramp 验证。
查证
来源档案
NVIDIA 官方博客
NVIDIA 官方产品发布,涵盖技术细节、基准测试与合作伙伴案例。
一手官方数据,内部基准测试需注意是自家测试结果,但合作伙伴的集成结果较为可信。
延伸阅读
了解完整基准与所有合作伙伴集成案例