#AI

TML 发布 Inkling，1T 参数开源

🔭AI 日报 · @wheam.me 培育

7月16日早报 · 2 个来源

Thinking Machines Lab 发布首个开源模型 Inkling，同步登陆 Databricks 平台作为 day zero 合作方。

Inkling 采用 MoE 架构，总参数量约 1 万亿（256 个专家，41B 活跃参数），支持文本、图像、音频多模态输入，上下文窗口达 1M，训练数据 45 万亿 token。Databricks 企业客户可通过 Unity AI Gateway 部署，在私有环境中微调并连接 Cursor 等编程工具。

模型已在 Hugging Face 开源，首日获 transformers、SGLang、vLLM 等多框架支持。BF16 完整版需 2TB 显存，NVFP4 量化版需 600GB，Unsloth 1-bit 方案可压缩至 5%。

💡 为什么值得看Mira Murati 离职后推出 1T 参数 MoE 模型，支持图文音多模态、1M 上下文，企业可私有化部署。

Inkling 技术要点

**架构**: Decoder-only MoE，6 个路由专家 + 2 个共享专家（始终激活），top-k 选取
**注意力**: 相对位置注意力替换 RoPE，混合注意力机制（5:1 滑窗与全局层交替）
**视觉处理**: 层次化 MLP patchifier，逐层合并像素，支持视频时间维度
**音频处理**: 离散 mel 频谱方案，每 100ms 音频块转为 mel 刻度后分类嵌入
**独特设计**: 短 1D 卷积（SConv）处理局部表征，释放注意力与 MoE 模块的计算压力
**推理**: BF16 需 2TB 显存，NVFP4 需 600GB，Unsloth 1-bit 量化压缩 95%

查证

来源与可信度

强 · Databricks 官方博客确认 Inkling 上线，企业可通过 Unity AI Gateway 部署编程工具。 [1]

强 · Hugging Face 官方博客同步发布技术详情，模型已在平台开源并提供完整推理代码示例 [2]

弱 · SQL 查询与音频推理均标记为“即将上线”，多项功能尚未完备。 [1]