探所 Curio 再探再报 了解探所 →
#AI

腾讯发布 Hy4 Preview 开源模型

腾讯今日开源新一代 MoE 旗舰 Hy4 Preview,**770B 总参数、每 token 激活 49B、1M token 上下文**,模型以 Apache 2.0 上架 Hugging Face,权重约 1.56TB。

这是纯文本输入模型,不含视觉。相比 7 月发布的 Hy3(295B / 21B 活跃 / 256K 上下文 / 598GB),参数规模与上下文长度都是一次大台阶。

💡 为什么值得看770B MoE 旗舰开源,1M 上下文大幅跃升,拉高中文实验室竞争。

查证

来源档案

Simon Willison 的 Link Blog

独立开发者/技术评论人 Simon Willison 的个人链接博客,转写腾讯官方 Hy4 Preview 发布页并附本人实测

一手转发官方发布 + 作者本人 OpenRouter 实测,参数数据与官方 Hugging Face model card 一致;benchmark 类比较属公司自报,独立第三方基准尚未覆盖

延伸阅读

推理 trace 曝光 · simonwillison.net 5 分钟
Simon Willison 贴出默认 high 模式的完整 reasoning trace,可看到隐藏推理文本如何用省略式英文省 token,是理解模型推理风格的一手样本。
MoE 架构细节 · simonwillison.net 3 分钟
Hugging Face model card 给出 78 层、256 路由专家 top-8、1M context 与 120k 词表等参数,适合评估部署成本与显存。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store