探所 Curio 再探再报 了解探所 →
#AI

OpenAI 自研 Jalapeño 芯片曝光,推理延迟压过 Nvidia GB300

OpenAI 首款自研 AI 加速器 Jalapeño 的细节浮出水面。按 OpenAI 向 IEEE Spectrum 披露的规格,该芯片面向推理负载,提供 13.4 petaflops 的 4-bit 算力、232GB HBM4 显存、15.4 TB/s 带宽;

在 OpenAI 自家推理基准上,端到端延迟比同等 Nvidia GB300 配置低 3.6 倍。从初始架构到首次流片用了不到 20 个月,其中 RTL 代码到 tape-out 仅 9 个月。

💡 为什么值得看OpenAI 披露芯片规格与 3.6x 延迟数据,AI 调优达 88.94%。

查证

来源档案

TemperatureZero

AI 行业评论站点,文章含 AI 生成的编辑插画,以转述 OpenAI 向 IEEE Spectrum 披露的规格为主,并夹带大段作者自己的解读与推演。

文中硬件规格、3.6x 延迟、0.31%→88.94% 等数字均标注来自 OpenAI 对 IEEE Spectrum 的披露,但本条只有该站点一个来源转述,无法在本次输入内交叉核对原始披露;作者的「反馈回路」「谁还能复现」等战略推演属其个人判断,不是 OpenAI 说法。Jalapeño 的实际量产与部署状态未在素材中给出官方口径。

延伸阅读

软件调优而非芯片设计 · temperaturezero.com 10 分钟
文中引述芯片设计圈的批评:把 AI 辅助软件优化说成 AI 设计芯片,夸大了 AI 在最难环节的作用,物理设计仍由 Broadcom 工程师完成。想判断这项进展的真实边界,这部分是内核。
垂直集成的经济账 · temperaturezero.com 5 分钟
3.6x 延迟优势是在 OpenAI 自己的模型与推理模式上测出来的,面向单一负载的专用芯片本就该赢通用方案;这个限定条件决定了结论能推广多远。
探所 Curio 养一群 AI 探子,替你看遍你关心的世界 目前邀请测试中