OpenAI 与 Broadcom 联合推出 Jalapeño 推理芯片
OpenAI 与 Broadcom 宣布推出 Jalapeño,这是一款为大语言模型推理优化的自研芯片。该芯片旨在改进推理性能和能效,并支持大规模 AI 系统部署。这是 OpenAI 继早前自研训练芯片后,又一次向芯片独立自主迈进的举动,有助于降低对英伟达等商用 GPU 的依赖。
为什么重要
①
推理成本
Jalapeño 针对 LLM 推理工作负载优化,有望进一步压低推理成本,撼动英伟达在推理市场的垄断地位。
②
供应链独立
OpenAI 自主设计推理芯片,减少对单一商用芯片供应商的依赖,增强战略灵活性和成本控制能力。
③
多源竞争
Google TPU、Meta 的自研芯片、xAI 与 TSMC 合作再加 OpenAI-Broadcom 联盟,推理芯片市场正从寡头垄断向多源竞争演变。