#AI
英特尔称 Agent 时代 CPU 与 GPU 配比趋近 1∶1
英特尔在苏州 Intel Connection 大会上称,Agent 使 CPU 与 GPU 配比从常见的 1∶4 转向趋近 1∶1。
英特尔数据中心事业部副总裁陈葆立称,数据预处理、任务编排与调度多由 CPU 承担;英特尔用至强加速数据预处理,并压缩、加速搬运 KV Cache。
💡 为什么值得看CPU 在 AI 系统的采购权重被重新定义,做推理部署与算力预算的人要重新算账。
查证
来源档案
量子位(QbitAI)
中文 AI 科技媒体,本条为记者金磊发自苏州英特尔大会现场的报道。
现场报道,引述可核对;但内核的 1∶1 配比是英特尔自家大会给出的判断,属厂商立场,文中也注明具体配比仍要看任务与系统配置。
延伸阅读
1∶1 是英特尔的自我论证,想看它拿什幺测试与客户反馈支撑这个判断,原文有陈葆立引用的细节。
长上下文下缓存装不进 HBM 的部分要下沉到系统内存与 SSD,这条线决定以后存储采购怎幺排。