AI服务器

2026-09-13最后更新 2026-08-17属芯片器件层2 分钟阅读

别名：A、I、、S、e、r、v、AI Server

支撑AI模型训练和推理的高性能计算服务器。

AI服务器

支撑AI模型训练和推理的高性能计算服务器。

核心架构

AI服务器
  ├── XPU（GPU/TPU/NPU）—— AI加速器核心，如NVIDIA H100
  ├── [HBM](/wiki/hbm/)（高带宽内存）
  ├── [交换芯片](/wiki/switch-chip/)（Switch ASIC）—— 高速互联
  │     └── 通过[交换机](/wiki/network-switch/)实现服务器间互连
  ├── [18层以上多层板](/wiki/18-layer-multilayer-pcb/)（高密度互连PCB）
  ├── CPU+[DDR4](/wiki/ddr4/)/DDR5（控制平面）
  └── 散热系统：[液冷](/wiki/liquid-cooling/)（冷板式）+ [CDU](/wiki/cdu/)

电力与散热

市电/发电机
  └── [UPS](/wiki/ups/)（不间断供电）
        └── [HVDC](/wiki/hvdc/)（高压直流配电）
              └── AI服务器（高效供电）

[液冷](/wiki/liquid-cooling/)散热循环：
  AI服务器芯片 → 冷却液（带走热量）→ [CDU](/wiki/cdu/) → 冷却塔/换热器

功耗与散热挑战

问题	解决方案
单柜功耗30-100kW	液冷（冷板式）
散热密度极高	CDU精确温控
供电效率要求	HVDC直流供电（效率96%+）
断电保护	UPS + 柴油发电机

AI服务器成本结构

排名	组件	占比
1	GPU（含HBM）	50-70%
2	CPU+内存	10-15%
3	交换机	8-15%
4	存储	5-10%

网络互联

AI服务器之间通过交换机实现高速互联：

InfiniBand NDR 400G/800G（Mellanox）
Ethernet 400G+（NVIDIA Spectrum）

核心特征

功耗密度极高（单柜30-100kW）
散热需求驱动覆铜板高端化（埋铜块技术）
高速信号要求推动18层+ PCB普及

代表产品

NVIDIA DGX H100/H200
AMD MI300X
华为Atlas 900

3D DRAM

区别于HBM的"芯片堆叠+TSV+硅中介层"封装式3D，**3D DRAM**指**单元层级的立体堆叠**——将DRAM存储单元（1T1C）在单芯片内沿垂直方向多层堆叠，以突破传统DRAM的微缩极限。

芯片器件别名：Three-Dimensional DRAM、立体DRAM

存储芯片

AI数据中心"算力-带宽-存储"三角中的存储侧，覆盖**介质、内存、控制、模组、缓存**五大类的全栈芯片体系，是AI服务器性能与成本的关键瓶颈之一。

芯片器件别名：Storage Chip、Memory Chip

功率半导体

**功率半导体** 是用于**电力转换（AC/DC、DC/AC、DC/DC、AC/AC）、整流、逆变、变频、功率放大**的电子器件，工作在**高电压（V）/ 大电流（A）/ 高功率（W）** 条件下，区别于以"信息处理"为目的的传统逻辑芯片（CPU/GPU/MCU）。AI 数据中心因高功率密度（单柜 30–100…

芯片器件别名：Power Semiconductor、Power Device