探所 Curio 再探再报 了解探所 →
#AI

Prism 发布 Bonsai 2:27B 本地模型权重包 5.95 GB

Prism 发布了本地模型 **Bonsai 2**,参数规模 27B,最小的主语言权重包 PTQ1_0 下载体积 **5.95 GB**,默认的 PQ2_0 为 7.21 GB;要用图像输入还得再挂约 0.63 GB 的 Q8 projector。

语言权重以三元值(-1 / 0 / +1)存储,配合分组 scale 与 Hadamard 旋转,相当于发一本书再加一本紧凑码本,得用 Prism 自己那套运行时和格式才能解码。

💡 为什么值得看27B 权重压到 5.95 GB,但这是磁盘体积,非显存门槛。

查证

来源档案

Ground Truth

科技新闻站点,本篇为对 Prism 模型卡的转述与解读,非厂商官方发布,文末提供 Ground Truth 与 Prism 模型卡两类来源。

中等。文中的体积数字、指标分数与「磁盘≠显存」的判断都引自 Prism 模型卡,但本站没有独立实测;84.78 等分数属厂商自测口径,工具调用与视觉是否够用仍需第三方验证。

延伸阅读

三元量化怎幺实现 · groundtruth.day 3 分钟
文中给出了三元权重 + 分组 scale + Hadamard 旋转的存储思路,想理解压缩原理与为何需要 Prism 自家运行时 fork 的话,这是唯一有的线索;但完整格式细节要去 Prism 模型卡和格式指南看。
部署摩擦是否划算 · groundtruth.day 5 分钟
作者自己把「定制格式、硬件差异、多模态质量」列为最强反驳,想判断这套方案能不能进私有文本工作流,值得顺着这条质疑往下看。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中