PrismML 确认正与 Apple 洽谈模型压缩技术

AI 初创公司 PrismML 的 CEO Babak Hassibi 向 CNBC 确认，Apple 正在评估其模型压缩技术，双方洽谈「进展顺利」。PrismML 发布的 Bonsai 27B 模型号称首个能在 iPhone 上原生运行的 270 亿参数模型。

技术核心是极致压缩：正常 54GB 的模型被其 1-bit 量化技术压缩至不到 4GB，可在 iPhone 约 6GB 可用内存中流畅运行。实测在 M5 Max 上达 87 tok/s，模型权重以 Apache 2.0 许可开源，并适配 Apple 的 MLX 框架。

这直击 Apple 坚持 on-device AI 处理的痛点，使本地运行大规模模型成为可能，强化隐私安全并摆脱网络依赖。

💡 为什么值得看Bonsai 27B 将 54GB 模型压缩至 4GB，可在 iPhone 上运行，或重塑 Apple 的 on-device AI 策略。