1. 主页 > 社会焦点

AI时代如何看待CPU爆发机遇?

Q:CPU的发展阶段是如何跟随下游软件和应用需求变化的?

A:从2000年到2015年之前,是单核性能为王的时代。那时候传统IT架构下,企业端的ERP、CRM等传统企业软件,更看重单线程响应速度,不会造成特别高的并发需求,所以核心关注的是单颗核心的性能。

到了2017、2018年之后,发生了明显变化。互联网巨头催生了超大规模云计算的全面需求,硬件需要支撑成千上万的微服务或Docker容器,CPU开始要求具备极高的并发密度和能效比。那个阶段AMD凭借chiplet激进架构创新,实现了多核平权,份额开始提升。

从2024年到现在,应用形态逐渐变成Agent,上下文处理量大幅增多,CPU经历了三个角色阶段的变化。

Q:在AI时代,CPU的角色经历了哪三个阶段的演变?

A:第一个阶段,CPU的角色是和GPU打配合,做数据处理、tokenization、数据搬运和数据清洗,相当于数据的"管家",主要在机头里面发挥作用。

第二个阶段,从2024年9月OpenAIo1发布,到2025年1月DeepSeek-R1发布后,强化学习在模型训练中需求明显提升。CPU开始负责环境仿真和reward模型计算,沙箱需求提升,CPU变成类似控制环境的"教练"角色。

第三个阶段,当前智能体推理需求大幅提升。CPU从后勤管家站到了前排,负责整体编排任务和调用工具。在Chatbot时期CPU更多辅助GPU计算,但在智能体时期,CPU负责目标分解、编排、工具调用、执行,以及长程任务过程中的监测。

Q:智能体时期,CPU具体负责哪些新增任务?

A:新增需求包括:任务的编排、工具的调用、以及对执行过程的监督。这些东西都是由CPU去执行,而不是GPU负责。这些新增需求越多,对CPU的需求就有明显提升。

Q:如何看待CPU配比提升时,机头和柜外的区别?

A:一定要把CPU分为机头和柜外来看。从2025年开始,有些新建的CPU集群没有和GPU集群放在一起。机头,也就是和GPU放在一起的机架,核心是为了让计算更高效,所有东西都不能影响计算效率。

如果CPU既要负责编排又要负责工具调用,每一步都占据CPU使用时间,那就不太适合和GPU配合。因为一旦CPU负责其他任务,可能会造成GPU闲置,GPU计算利用率下降带来的成本消耗更大。

所以,在机头内和GPU打配合的CPU,目前仍以GPU为主。但工具调用和任务编排本质上可以单独成立为机柜集群,核心增量需求来自于柜外,在整个集群架构上实现控制流、业务流和计算流的解耦。

Q:为什么说复杂的智能体任务会带来CPU需求的大幅增长?

A:以纯对话和搜索增强为例,纯对话输入完就直接输出,不占用过多计算时长。搜索增强可能需要一次性打开20个网页,打开只需零点一秒,然后搜集信息进行生成,相比Chatbot增加不多,需要CPU但消耗不大。

真正的CPU消耗来自复杂智能体任务,比如BrowserAgent或长线程代码类任务。这些任务涉及到编排后利用不同工具、检索、信息搜集,类似在模拟空间里打开万得或传统企业软件再组合工具。完成任务的时间从零点一秒变成十五分钟甚至几个小时,趋势是任务时长越来越长,能做的事越来越多。

零点一秒的打开网页可以通过规模换时间,用户等零点一秒可以接受。但完成一个任务需要十五分钟甚至一小时,不可能让用户等那么久再给下一批用户。所以需要配合用户使用和任务完成时间,以及调用工具所占的沙箱或runtime,必须增加CPU配额。

Q:不同任务类型下,CPU比GPU的配比具体有什么差异?

A:对于纯对话任务,CPU比GPU总体配比大约是一比四或一比五。但对于BrowserAgent或写工程类复杂任务,配比可以达到五比一到十比一,也就是五到十份CPU对应一份GPU。

Q:CPU后续的增长逻辑是什么?包括哪些乘数效应?

A:后续复杂智能体任务在总体需求中的占比一定会提升。CPU需求享受三层乘数:第一,整体需求不断上涨的乘数;第二,复杂任务占比逐步提升带来的结构性乘数;第三,CPU核心数越来越多带来的架构迭代乘数。

在不考虑供需缺口的情况下,CPU已经是具备强Alpha的赛道,迎来了量和价齐升的阶段。如果叠加供需缺口,会进一步放大价格乘数。

Q:CPU需求增长分哪两个阶段?各有什么特点?

A:第一阶段,来自调度需求。用户AI需求来了之后,先需要CPU集群把需求分散给各个GPU集群做计算。这一阶段是用户渗透率提升带来的,智能体更多是简单需求,AI并发开始提升。这是一个渗透率驱动、基数先快后慢的阶段,需要的是中低端CPU,追求性价比。

第二阶段,来自执行型任务驱动的CPU增长。复杂智能体需求提升,流程变长,甚至多智能体协作。这是伴随着智能体任务复杂度提升和在总需求中占比提升的过程,是一个先慢后快的阶段。后续CPU最大的预期差就来自第二阶段,会带来CPU需求的不断超预期上升。

Q:机头内CPU的趋势是什么?柜外CPU的趋势是什么?

A:机头内,早期H100、H200的CPU和GPU配比大概是一比四甚至一比八,现在大概是一比二,英伟达可能一比二,以前也有一比一的阶段。机头内CPU的趋势是走向定制化和大带宽,核心变化在于提升双向带宽,而不是大幅提升核心数或配比。

柜外,更多来自编排需求和工具调用需求带来的额外增量。柜外CPU追求的是后续与软件生态的匹配、执行任务的效率和带宽,是综合考量。调度型需求更多偏向中低端CPU考虑性价比,执行型任务更多考虑生态、效率和整体性能,这是后续CPU配比差异最大的来源。

Q:在当前时间点,如何看待x86和ARM架构?

A:两种架构在当前时间点都非常需要。调度型需求对ARM非常匹配。x86更多是因为之前的软件生态,很多UGS和企业软件都依托x86生态构建。在执行型任务中,最大追求是执行稳定、不当机,如果ARM厂商还没有把生态完善到足够程度,x86仍具备优势。

英特尔和AMD目前都出现拿货周期拉长的情况,各自在弥补短板,比如核心数和架构优化,以及在产能争取上不断提升。目前来看,x86仍具备非常强的生态优势。

Q:CPU未来的市场空间测算情况如何?

A:按照不同复杂度任务的占比来看未来趋势。陈立武和黄仁勋近期也表示,看到的趋势是后续CPU至少能达到一比一甚至四比一的整体配比变化。根据测算,AI驱动的服务器CPU空间能够达到两千亿美金以上的水平。

Q:整体来看,CPU在AI时代的投资机会怎么看?

A:从今年开始往后看,CPU是这一轮周期刚刚打开的硬件代表,具备非常强的Alpha属性。在国内市场,后续关于CPU这块的预期差会进一步拉大。

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 203304862@qq.com

本文链接:https://jinnalai.com/jiaodian/847004.html

联系我们

在线咨询:点击这里给我发消息

微信号:

工作日:9:30-18:30,节假日休息