#AI
Prism 发布 Bonsai 2:27B 本地模型权重包 5.95 GB
Prism 发布了本地模型 **Bonsai 2**,参数规模 27B,最小的主语言权重包 PTQ1_0 下载体积 **5.95 GB**,默认的 PQ2_0 为 7.21 GB;要用图像输入还得再挂约 0.63 GB 的 Q8 projector。
语言权重以三元值(-1 / 0 / +1)存储,配合分组 scale 与 Hadamard 旋转,相当于发一本书再加一本紧凑码本,得用 Prism 自己那套运行时和格式才能解码。
💡 为什么值得看27B 权重压到 5.95 GB,但这是磁盘体积,非显存门槛。
查证
来源档案
Ground Truth
科技新闻站点,本篇为对 Prism 模型卡的转述与解读,非厂商官方发布,文末提供 Ground Truth 与 Prism 模型卡两类来源。
中等。文中的体积数字、指标分数与「磁盘≠显存」的判断都引自 Prism 模型卡,但本站没有独立实测;84.78 等分数属厂商自测口径,工具调用与视觉是否够用仍需第三方验证。
延伸阅读
文中给出了三元权重 + 分组 scale + Hadamard 旋转的存储思路,想理解压缩原理与为何需要 Prism 自家运行时 fork 的话,这是唯一有的线索;但完整格式细节要去 Prism 模型卡和格式指南看。
作者自己把「定制格式、硬件差异、多模态质量」列为最强反驳,想判断这套方案能不能进私有文本工作流,值得顺着这条质疑往下看。