非共识洞察

XPU

芯片器件3 分钟阅读

别名:X、P、U、,、 、A、I、c、e、l、r、a、t、o、s、XPU

XPU是对GPU、TPU、NPU、DPU等各类AI加速器的统称,"X"代表未知类型的泛化称呼。

XPU(AI加速器统称)

XPU是对GPU、TPU、NPU、DPU等各类AI加速器的统称,"X"代表未知类型的泛化称呼。

XPU家族

缩写 全称 功能 代表产品
GPU Graphics Processing Unit 通用并行计算 NVIDIA H100/H200, AMD MI300X
TPU Tensor Processing Unit 张量计算专用 Google TPU v5
NPU Neural Processing Unit 神经网络推理 苹果NPU, 华为昇腾
DPU Data Processing Unit 数据处理/基础设施 NVIDIA BlueField-3
NPU Network Processing Unit 网络协议处理 智能网卡
APU Audio Processing Unit 音视频处理 -
VPU Vision Processing Unit 图像/视觉处理 英特尔VPU

GPU:最主流的XPU

AI训练市场份额:
  └── NVIDIA GPU:85%+市场

GPU架构特点:
  ├── 数千个CUDA核心(并行计算)
  ├── 高带宽[HBM](/wiki/hbm/)内存
  ├── NVLink高速互联
  └── [3D封装](/wiki/3d-packaging/)(CoWoS/台积电)

AI服务器配置:
  └── 8× [AI服务器](/wiki/ai-server/) = 8×GPU(NVLink互联)
        └── InfiniBand [交换机](/wiki/network-switch/)集群

AI加速器市场格局

NVIDIA(GPU主导):
  H100 → H200 → B100 → B200
    └── CUDA生态壁垒

AMD(GPU竞争):
  MI300X → MI350(与NVIDIA竞争AI训练)

Google(TPU):
  TPU v5 → v6(仅Google自用)

Intel(Gaudi):
  Gaudi 2/3(试图挑战NVIDIA)

华为(昇腾):
  昇腾910(国内AI训练主要选择)

Meta/微软自研:
  MTIA / Maia(自研AI芯片)

XPU与交换芯片的关系

AI服务器内部:
  XPU(GPU/TPU)
    └── NVLink/CXL互联
          └── 数据传输需求
                └── 交换芯片(机社内互联)
                      └── [交换机](/wiki/network-switch/)(机房间互联)

XPU算力提升 → 带宽需求提升 → SerDes速率升级
  └── 交换芯片从112G→224G→448G
        └── [光芯片](/wiki/optical-chip/)(VCSEL/EML)升级

XPU的互联网络:[交换机](/wiki/network-switch/) + 交换芯片

XPU与Chiplet/先进封装

NVIDIA H100:
  └── 台积电CoWoS([2.5D封装](/wiki/2-5d-packaging/))
        └── 硅中介层 + [HBM](/wiki/hbm/) + GPU Die
              └── [封装基板](/wiki/package-substrate/)(ABF载板)

AMD MI300X:
  └── 3D V-Cache([3D封装](/wiki/3d-packaging/))
        └── CPU+GPU+[HBM](/wiki/hbm/)统一封装
              └── [Chiplet](/wiki/chiplet/)架构

核心关系

XPU(AI加速器)
  ├── GPU → AI训练推理(NVIDIA/AMD)
  ├── TPU → Google张量计算
  ├── NPU → 推理加速(边缘AI)
  └── DPU → 数据处理(SmartNIC)

XPU → [HBM](/wiki/hbm/)(内存)
XPU → [先进封装](/wiki/advanced-packaging/)(台积电CoWoS/3D)
XPU → [交换芯片](/wiki/switch-chip/)(互联带宽需求)
XPU → 光模块([800G](/wiki/800g/)/[1.6T](/wiki/1-6t/)网络)
XPU → [Chiplet](/wiki/chiplet/)(AMD MI300X)

关键问答

XPU 与「── GPU」的关系是什么?
── GPU → AI训练推理(NVIDIA/AMD)。
XPU 与「── TPU」的关系是什么?
── TPU → Google张量计算。
XPU 与「── NPU」的关系是什么?
── NPU → 推理加速(边缘AI)。
XPU 与「── DPU」的关系是什么?
── DPU → 数据处理(SmartNIC)。

3D DRAM

区别于HBM的"芯片堆叠+TSV+硅中介层"封装式3D,**3D DRAM**指**单元层级的立体堆叠**——将DRAM存储单元(1T1C)在单芯片内沿垂直方向多层堆叠,以突破传统DRAM的微缩极限。

芯片器件别名:Three-Dimensional DRAM、立体DRAM

存储芯片

AI数据中心"算力-带宽-存储"三角中的存储侧,覆盖**介质、内存、控制、模组、缓存**五大类的全栈芯片体系,是AI服务器性能与成本的关键瓶颈之一。

芯片器件别名:Storage Chip、Memory Chip

交换芯片

数据中心交换机的核心芯片,决定交换机的性能、功耗和功能。

芯片器件别名:S、w

趋肤效应

高频交流电/高速信号在导体中**集中于表面薄层**流动的物理现象,是覆铜板与铜箔在AI高速时代升级到HVLP的**根本驱动力**,也是112G/224G/448G SerDesPCB材料选型的核心物理基础。

芯片器件别名:趋、肤

主控芯片

SSD主控芯片(Controller),负责SSD内部的数据读写管理、磨损均衡、纠错等核心功能。 别名:**存储主控芯片**(存储芯片体系下的标准命名)。

芯片器件别名:存储主控芯片、SSD Controller

AI推理终端

部署在边缘侧进行AI推理的设备,区别于云端AI数据中心。

芯片器件别名:E、d

DRAM

**D**ynamic **R**andom **A**ccess **M**emory,动态随机存取存储器。

芯片器件别名:D、y

eMMC

**eMMC** 嵌入式多媒体卡,将**NAND Flash 介质 + 主控芯片(控制器)集成在一个 BGA 封装**内的标准化嵌入式存储模块,对 Host 侧呈现"类 SD 卡"接口,**省去 Host 侧 FTL 管理**,主要用于移动设备 / 嵌入式系统 / 入门边缘 AI 的中低成本中等容量存储。

芯片器件别名:embedded MMC、embedded MultiMediaCard