#AI
A20 Pro 实测:iPhone 18 Pro 本地跑通 270 亿参数模型
据 IT 之家报道,iPhone 18 Pro 本地运行 270 亿参数的 Bonsai-27B 模型,生成 token 速度达 iPhone 17 Pro 两倍。A20 Pro 首次采用双 16 核神经网络引擎。
iPhone 18 Pro / Pro Max 配 12GB、96 位位宽 LPDDR5X,带宽 115.2GB/s。但 2 比特量化的 Bonsai 2 塞不进本地内存,跑通的是初代模型。
💡 为什么值得看双 16 核引擎让端侧跑 27B,但 2 比特新版塞不进内存。
查证
来源档案
IT 之家
中文科技媒体,这条是对一则用户实测演示的转述报道,非苹果官方发布。
原文未给出演示者的完整数据与测试条件,「两倍」是演示口径;苹果方面没有官方确认,也未说明量化版本与内存占用细节。
延伸阅读
原文只给「两倍」这个相对值,没有 token/s 绝对值、上下文长度和量化位宽,想判断含金量得回到演示本身。