探所 Curio 再探再报 了解探所 →
#AI

Thinking Machines 放出 Inkling-Small,总参数砍到 276B

Thinking Machines Lab 放出了更小一版的 Inkling。据 signals.tw 对官方发布页与 Hugging Face model card 的检视,Inkling-Small 的**总参数从 9750 亿缩到 2760 亿,每次推论的激活参数从 410 亿降到 120 亿**,采用混合专家(mixture-of-experts)架构,在 NVIDIA GB300 NVL72 系统上训练,原生吃文字、图像与音讯,权重整包以 Apache 2.0 在

💡 为什么值得看12B 权重开源,本地部署门槛降至几张卡。

查证

来源档案

signals.tw(硅基前沿 · AI 战争线)

中文科技媒体,本篇是对 Thinking Machines 官方发布页与 Hugging Face model card 的检视,非一手实测。文末自述由 AI 协助研究与起草、编辑部编修。

所述参数、跑分、授权与训练硬件均转引自官方页面与 model card,口径可回溯;但该刊未下载权重实跑,所有跑分皆为官方自报,138GB 是该刊按 4-bit 量化自行换算的估算值而非官方数字。属单源转述,尚无第二家独立源交叉印证。

延伸阅读

激活参数与总参数的分野 · signals.tw 3 分钟
想判断这台模型到底能不能进自己机房的读者,该看文中对「每 token 算多少」与「权重放不放得下」两个成本的拆解,以及 4-bit 换算的推导口径。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中