算力市场的冰与火:CPU过剩的冷思考与GPU紧缺的狂飙
算力市场的冰与火
CPU过剩的冷思考与GPU紧缺的狂飙
一、算力过剩：CPU的”冷”现实
近年来，在政策引导与资本推动下，中国算力基础设施建设进入了快车道。数据显示，中国部署的超级计算机数量已位居世界第一，算力总规模也跃居全球第二。全国在建及规划的智算中心项目接近400个，投资总额超过数千亿元。
然而，与建设热潮形成鲜明对比的是，大量算力资源并未得到充分利用。企业级通用算力中心的平均利用率仅为10%~15%。部分智算中心的GPU利用率甚至低于30%，一些国产芯片的闲置率更是高达80%。
结构性错配是主因：
品类错配：许多已建成的算力中心，其芯片类型与当前火热的AI应用需求不匹配。大量通用CPU算力无法满足大模型训练和推理对GPU的渴求，导致”有算力但用不上”。
空间错配：“东数西算”工程推动算力向西部集聚，但AI应用开发和人才主要集中在东部。中西部地区算力过剩，而东部地区算力紧张，形成了地理上的供需失衡。
技术错配：部分智算中心缺乏高效的调度系统和专业的运营能力，导致资源无法被灵活、统一地调度使用，形成了”算力孤岛”。
此外，在AI热潮下，一些地方政府和企业盲目投资智算中心，但缺乏明确的应用场景和运营能力，出现了所谓的”假万卡集群”和”伪集群”，即虽然拥有大量硬件，却无法高效使用。
这种”冷”现实，反映的是算力供给侧与需求侧在结构上的脱节。大量通用CPU算力在AI时代显得有些”英雄无用武之地”，而真正紧缺的，是能够驱动AI引擎的GPU。
二、GPU紧缺：AI时代的”热”引擎
与CPU的过剩形成鲜明对比的是，GPU，特别是用于AI训练和推理的高端GPU，正面临着前所未有的供应紧张。这种紧缺已经从GPU本身蔓延到与之相关的CPU、内存等整个服务器生态。
需求端：指数级爆发
AI智能体（Agentic AI）的崛起是本轮GPU紧缺的核心驱动力。与以往简单的推理任务不同，AI智能体需要频繁调用数据库、进行物理仿真和复杂运算，这些任务高度依赖CPU，但也极大地增加了对GPU算力的消耗。2026年3月，中国日均Token调用量已突破140万亿，较2024年初增长超千倍。
大模型军备竞赛：字节、百度、阿里、腾讯等头部互联网公司，以及智谱、DeepSeek、月之暗面等新兴玩家，每上线一个新版本大模型，都意味着一轮新的、海量的算力消耗。
从训练到推理的全面需求：训练场景对算力要求最苛刻，而推理场景虽然单点要求相对较低，但需求量巨大。随着AI应用的普及，推理需求已从”线性增长”跳到了”指数增长”轨道。
供给端：多重瓶颈制约
高端GPU短缺：英伟达H100等高端GPU的交付周期长达12-18个月，订单已排至2027年。即便是专为中国市场”阉割”的H20，供应也受到管制且逐年缩减。
CPU也告急：受AI智能体爆发式增长影响，云数据中心的CPU使用率急剧飙升。以往”少量CPU支撑大量GPU”的配比正在被打破，GPU与CPU在服务器中的配比趋于1:1，导致CPU也出现严重短缺。
先进封装产能不足：CoWoS等先进封装技术的产能缺口高达40%，成为制约GPU供应的关键瓶颈。
分配端：阶级森严的马太效应
微软Azure、亚马逊AWS等云巨头已将GPU资源优先分配给内部团队及头部大客户（Tier 1）。对于中小客户（Tier 3），不仅面临长达数月的排队，还要接受”用进废退”的严苛政策——服务器闲置数小时，访问权限就可能被撤销。
2026年4月，H100 GPU的月租金已涨至5.5万~6.0万元，较3个月前上涨15%-20%。高昂的租金成本已占中小AI公司总运营成本的35%-55%，导致72%的中小AI公司陷入生存困境。
三、破局之道：从”拼算力”到”拼效率”
面对算力市场的冰火两重天，产业界正在积极探索破局之道。
技术降本
拥抱国产芯片：在推理场景，华为昇腾、寒武纪等国产芯片的性价比突出，较进口方案低30%-50%。
模型轻量化：通过压缩、剪枝等技术优化算法，减少冗余Token消耗，部分企业已实现降本40%以上。
资源整合与模式创新
接入普惠算力平台：”算力银行”、”算力超市”等平台正在整合全国超过70万台的闲置算力设备，为企业提供更经济的算力选择。
错峰调度：利用夜间算力价格低谷进行任务处理，成本可比白天低30%。
脱云自建：部分初创企业开始考虑直接购买GPU并自行托管，以摆脱对云服务商的依赖和不确定性。
政策引导与市场调节
加强顶层设计：国家数据局已开展调研，旨在强化算力发展的系统性与协同性，推动算力设施”利全局、谋长远”。
应用驱动：鼓励智算中心与本地产业经济的核心需求紧密结合，通过”商机招商”模式，以实际商业需求吸引技术落地。
发挥市场作用：让市场主体在算力资源配置中发挥决定性作用，避免重复建设和资源浪费。
结语
算力市场的结构性错配，是AI技术爆发式发展与基础设施建设周期性之间矛盾的集中体现。CPU的过剩与GPU的紧缺，既是挑战，也是机遇。它警示我们，算力建设不能盲目跟风，而应紧扣应用需求；它也激励我们，通过技术创新和模式创新，在有限的资源下追求更高的效率。未来，随着AI推理需求的全面爆发和国产算力生态的逐步成熟，算力市场的”冰”与”火”终将走向平衡。
算力产业深度分析