一个力学人眼中的计算机硬件产业

作为一个力学背景毕业的 PhD,我误打误撞进入了计算机硬件制造行业。刚入行时,被各种名词搞得晕头转向——CPU、GPU、HBM、CoWoS、TSV、Chiplet、CXL、硅光、光计算……每一个词都够我消化半天。
我很快发现一个尴尬的处境:初学者根本不知道自己应该学什么,更准确地说,连“自己不知道什么”都不知道,很容易一头扎进某个具体方向,被材料、设备、工艺的细节淹没。更要命的是,很多公司业务看起来非常相似,大家都在谈算力、先进封装、高性能计算,却不太容易分辨他们到底在干什么。
后来我慢慢意识到,对于这样一个高度分工的产业,如果没有一个整体框架,极容易迷失。于是我尝试用自己能理解的方式,对整个行业做一个粗略梳理。
这篇文章内容一定不够准确,仅仅是我的学习记录,欢迎业内大佬批评指正。为便于理解,我也会在各个环节标注一些主要玩家,以形成更具体的产业图景。
下面的每个章节理论都可以扩展下去,加更多细节,但是本文只是粗略的轮廓。
一、计算机到底在干什么?
计算机到底在干什么?如果极度简化,我觉得可以理解成:
计算机是一台高度分工的机器。
不同部件负责不同任务。有的负责存储数据,有的负责搬运数据,有的负责做计算,有的负责控制整个系统如何协同工作。而所谓计算,本质上也没有那么神秘。无论是天气预报、有限元分析、ChatGPT 还是自动驾驶,最终都会被拆解成大量基础操作。
例如矩阵乘法、加减乘除、逻辑运算以及条件判断。
所以从硬件角度看,几乎所有任务最终都会变成两件事情:
第一,把数据搬到需要它的地方。
第二,对这些数据进行计算。
后来我再看整个产业链的时候,发现几乎所有创新都围绕这两件事展开。
当你从这个角度看行业的时候,很多原本互不相关的技术突然开始串起来了。在我看来,理解整个行业最重要的一步,就是先搞清楚:一个技术到底是在解决“数据搬运”问题,还是在解决“数据计算”问题。
二、算法:决定问题需要被解决多少次
很多人谈到算力时,第一反应是芯片。但实际上,算法永远位于整个体系的最上层。因为算法决定了:对于同一个问题,到底需要多少计算量。
举个简单例子。如果一个算法需要执行 10000 次矩阵乘法才能得到结果,而另一个算法只需要执行 100 次,那么后者带来的收益可能远远超过任何一代硬件升级。
从这个角度看,算法实际上决定了三件事:
第一,需要做多少次计算。
第二,需要搬运多少数据。
第三,需要什么精度。 不同精度对硬件架构影响巨大。
算法工程师真正解决的问题其实是:
能不能少算一点?
能不能少搬一点?
比如对于AI 来说,主要玩家(比如 OpenAI、Google DeepMind、Anthropic、Meta、DeepSeek)的工作并不是制造芯片,而是尽可能减少完成任务所需要的计算量。对于很多传统科学计算问题,例如有限元分析、CFD 或偏微分方程求解,经过几十年的发展,很多核心算法已经相当成熟。这时候继续提升算法的空间有限。于是问题自然转移到了硬件上。对于给定的算法,一定数量的计算必须做,那么怎样才能算得更快、更便宜、更省电?这就是硬件产业存在的意义。
算法决定了问题的上限,而硬件决定了达到这个上限需要付出多大的代价。
三、存储:数据到底放在哪里?
对于一个力学背景的人来说,存储其实是我最开始忽视的部分。进入行业之后渐渐才发现:很多时候,数据放在哪里比计算本身更重要。
存储距离计算单元越近:速度越快,容量越小,成本越高。
存储距离计算单元越远:速度越慢,容量越大,成本越低。
整个计算机实际上就是一座仓储体系。距离最近是 Cache,其次是HBM,再往下是 DRAM。更远的地方可能是 SSD、对象存储甚至数据中心。
Cache 可以理解成工位旁边的工具箱。HBM 像工厂楼下的小仓库。DRAM 像园区仓库。而远程存储则像城市物流中心。
存储体系的发展,本质上是在解决一个问题:
哪些数据应该离计算单元更近? 哪些数据可以放远一点?
HBM 最近几年之所以爆火,本质上就是因为现代高性能计算系统对数据吞吐量的需求远远超过了传统 DRAM 能够提供的水平。
这一层最重要的玩家包括:
HBM:
SK hynix、Samsung、Micron
DRAM:
Samsung、Micron、SK hynix
CXL:
Intel、AMD、Astera Labs,Montage(澜起科技)、Rambus
最便宜的数据搬运永远是不搬运。
因此存储系统设计的核心目标,其实是在尽可能减少数据移动。
四、数据搬运:整个行业最大的瓶颈
刚接触计算的时候,我以为行业核心问题是计算能力不足。后来发现,现代计算系统中,真正消耗大量能量的往往不是计算,而是搬运数据。如果把 GPU 看成工厂,那么今天的问题已经不再是工人不够快,而是货物的运送速度不够快。
因此整个行业开始围绕数据搬运展开竞争。从我的理解来看,目前主要有四条路线。
1. 第一条路线是继续缩小晶体管。
过去几十年,整个行业几乎都依赖摩尔定律前进。但这条路正在变得越来越困难。
2. 第二条路线是先进封装。
既然运输太慢,那就把仓库搬到工厂旁边。于是有了 CoWoS、EMIB 等技术。
3. 第三条路线是 3D 集成。
既然旁边还不够近,那就直接堆到上面。于是有了 TSV 和 Hybrid Bonding。
4. 第四条路线是光互连。
前面三种方法主要解决同一栋楼里的运输问题。而光互连开始解决整个园区的问题。例如 GPU 与 GPU 之间、机柜与机柜之间、数据中心与数据中心之间。
个人浅见,如果高性能计算需求持续增长,这一层实际上是未来十年最值得关注的方向之一。因为系统瓶颈正在逐渐从单个芯片转移到芯片之间的通信。
以前缩小晶体管,频率提升,功耗不变。现在缩小晶体管,频率提不动,漏电增加,芯片越来越热。于是只能堆核心、降频率、用先进封装、找光互连——都是在Dennard失效后的补救。
这一层的重要玩家包括:
先进封装:
TSMC、Intel、Samsung、Amkor、日月光、长电科技
交换芯片:
NVIDIA、Broadcom、Marvell
硅光:
Intel、Cisco、Ayar Labs、中际旭创、Coherent、Lumentum、光迅
设备:
ASML、TEL、Applied Materials、Lam Research
过去几十年计算机产业最重要的发展方向之一,可以概括成一句话:把存储搬得离计算越来越近。
五、计算:如何把数据变成结果?
如果说数据搬运决定数据能否到达,那么计算决定结果何时产生。
CPU是传统意义上的大脑。负责逻辑控制、分支判断和各种复杂流程。
GPU则更像一支高度纪律化的施工队。每个人做同样的事情。因此特别适合矩阵乘法这种高度并行的问题。
Google TPU则更进一步。它放弃了一部分通用性,换取更高效率。
而近几年最热门的话题之一,则要数光计算和存内计算。
先看光计算。现代计算负载中,大量运算集中在矩阵乘法,而矩阵乘法恰好是光学天然擅长的操作——这让人们第一次开始认真讨论:能不能直接用光来完成一部分计算。不过我目前的理解是,光计算最大的优势其实并不是“算得快”,而是能效。因为光在介质中传播来执行计算,不像电信号需要反复驱动铜线充放电,天然更省电。
存内计算(CIM)走的则是另一条路线。它不是用光,而是利用忆阻器等新型器件的电阻值,直接在存储单元里完成模拟矩阵乘法。思路同样很直接:既然搬运数据最耗能,那干脆取消搬运,在数据存放的地方就地计算。
有趣的是,这两条物理上完全不同的技术路线,却面临着非常相似的难题。无论是光计算还是存内计算,真正的瓶颈往往不在原理本身,而在于模数/数模转换(ADC/DAC)带来的延迟与精度损失、神经网络中必不可少的非线性运算,以及几乎从零开始的软件生态。实际上,我有时甚至怀疑,如果未来光计算真的能够成功商业化,最大的挑战未必来自物理学,而是来自生态——关于这一点,存内计算也同样躲不开。
这一层的主要玩家包括:
CPU:
Intel、AMD、Arm
GPU:
NVIDIA、AMD
TPU:
AI ASIC:
Amazon、Microsoft、Meta
光计算:
Lightmatter、Lightelligence、Q.ANT、PsiQuantum(量子)、Luminous Computing
存内计算:
IBM、Micron 以及大量创业公司、Mythic AI(已转型)
从历史上看,通用性和效率往往是一对矛盾。CPU、GPU、TPU、ASIC 其实都是在这条曲线上寻找不同平衡点。
六、控制与生态:为什么 NVIDIA 如此强大?
这是我最后才意识到的一层。作为工程师,我喜欢讨论:谁的晶体管更多。谁的封装更先进。谁的功耗更低。但即便以现在的粗略认识来看,我发现远远没有这么简单。
假设今天有人做出一块性能比 GPU 快十倍的芯片。它一定成功吗?
未必。
因为芯片只是整个系统中的一个部件。开发者还需要:编译器、通信库、调度系统、软件框架、开发工具、整个生态环境。这也是为什么很多人说:NVIDIA 最大的护城河不是 GPU,而是 CUDA。因为 CUDA 本质上已经变成了一个生态系统。从某种意义上说,今天的计算产业竞争已经不只是硬件竞争,而是生态竞争。至于 AI 无与伦比的代码生成能力,比如生成代码的速度是人类的千倍、万倍,是否足以降低生态护城河的宽度,暂时还不清楚。
这一层的重要玩家包括:
CUDA:NVIDIA
编译器:LLVM、Triton
通信:NCCL、UCX
调度:Kubernetes、Slurm
一个技术是否成功,很多时候并不取决于它是不是最先进,而取决于它是不是最容易被使用。
七、我目前理解的硬件产业
如果把整个计算机硬件产业压缩成一句话,那么我目前的理解是:
算法决定问题的规模。存储决定数据放在哪里。数据搬运决定数据如何到达。计算决定结果如何产生。控制系统决定所有部件如何协同工作。生态系统决定这项技术最终能否活下来。
而过去几十年出现的几乎所有创新——无论是晶体管缩放、HBM、CoWoS、TSV、Chiplet、CXL、硅光、光互连、光计算还是存内计算——本质上都在回答同一个问题:
如何更便宜、更快速、更节能地搬运数据并完成计算。
至少对于现在的我来说,当再看到一个新的公司和技术名词时,我不会再首先去问它是什么。我会先问另外一个问题:
它到底在解决哪一个环节的问题:计算还是数据搬运?
而当这个问题能够回答的时候,整个产业地图似乎就开始变得清晰起来了。