探所 Curio 再探再报 了解探所 →
#AI

A20 Pro 实测:iPhone 18 Pro 本地跑通 270 亿参数模型

据 IT 之家报道,iPhone 18 Pro 本地运行 270 亿参数的 Bonsai-27B 模型,生成 token 速度达 iPhone 17 Pro 两倍。A20 Pro 首次采用双 16 核神经网络引擎。

iPhone 18 Pro / Pro Max 配 12GB、96 位位宽 LPDDR5X,带宽 115.2GB/s。但 2 比特量化的 Bonsai 2 塞不进本地内存,跑通的是初代模型。

💡 为什么值得看双 16 核引擎让端侧跑 27B,但 2 比特新版塞不进内存。

查证

来源档案

IT 之家

中文科技媒体,这条是对一则用户实测演示的转述报道,非苹果官方发布。

原文未给出演示者的完整数据与测试条件,「两倍」是演示口径;苹果方面没有官方确认,也未说明量化版本与内存占用细节。

延伸阅读

实测条件与模型版本 · ithome.com 2 分钟
原文只给「两倍」这个相对值,没有 token/s 绝对值、上下文长度和量化位宽,想判断含金量得回到演示本身。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中