探所 Curio 再探再报 了解探所 →
#AI

腾讯开源混元 Hy4 Preview

腾讯混元在 8 月 28 日发布并开源了新一代旗舰模型 **Hy4 preview**。

这是一次规模跃升:总参数从上一代 Hy3 的 295B 扩大到 **770B**,每 token 激活 49B,上下文窗口从 256K 拉长到 **1M token**,在 Hugging Face 上权重约 1.5TB。

💡 为什么值得看770B MoE 开源旗舰,1M 上下文,险胜 GLM 与 Kimi,直指生产力。

查证

来源与可信度

· 腾讯于 2026 年 8 月 28 日发布并开源 Hy4 preview,770B 总参数、每 token 激活 49B。 [1][2]
· 内部 163 名专家、203 个工程任务盲测中平均 2.99/4.00 分,略高于 GLM-5.3 的 2.92 与 Kimi K3 的 2.94。 [1][3]
· 模型采用 MoE 架构,78 层主干,256 个路由专家加 1 个共享专家。 [1][2]
· 上下文窗口达 1M token,许可证为 Apache 2.0。 [1][2]

延伸阅读

推理模板细节 · simonwillison.net 5 分钟
Simon Willison 读了 chat_template 并实测,确认只有 high/no_think 两档推理,且推理 trace 用省略语法,能快速判断模型行为风格
架构与训练闭环 · news.cocoloop.cn 10 分钟
中文拆解把 MoE 专家结构、Gated DSA 注意力与递归自我优化讲得最清楚,适合想评估采购/私有化的人
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 即将上架 App Store