---
title: AI服务器
slug: ai-server
date: '2026-09-13'
updated: '2026-08-17'
summary: 支撑AI模型训练和推理的高性能计算服务器。
category: 芯片器件
tags:
  - AI服务器
  - 算力
  - GPU集群
  - 芯片器件
  - term
aliases:
  - A
  - I
  - ' '
  - S
  - e
  - r
  - v
  - AI Server
draft: false
batch: 4
faq: []
---

# AI服务器

支撑AI模型训练和推理的高性能计算服务器。

## 核心架构

```
AI服务器
  ├── XPU（GPU/TPU/NPU）—— AI加速器核心，如NVIDIA H100
  ├── [HBM](/wiki/hbm/)（高带宽内存）
  ├── [交换芯片](/wiki/switch-chip/)（Switch ASIC）—— 高速互联
  │     └── 通过[交换机](/wiki/network-switch/)实现服务器间互连
  ├── [18层以上多层板](/wiki/18-layer-multilayer-pcb/)（高密度互连PCB）
  ├── CPU+[DDR4](/wiki/ddr4/)/DDR5（控制平面）
  └── 散热系统：[液冷](/wiki/liquid-cooling/)（冷板式）+ [CDU](/wiki/cdu/)
```

## 电力与散热

```
市电/发电机
  └── [UPS](/wiki/ups/)（不间断供电）
        └── [HVDC](/wiki/hvdc/)（高压直流配电）
              └── AI服务器（高效供电）

[液冷](/wiki/liquid-cooling/)散热循环：
  AI服务器芯片 → 冷却液（带走热量）→ [CDU](/wiki/cdu/) → 冷却塔/换热器
```

## 功耗与散热挑战

| 问题 | 解决方案 |
|------|---------|
| 单柜功耗30-100kW | [液冷](/wiki/liquid-cooling/)（冷板式） |
| 散热密度极高 | [CDU](/wiki/cdu/)精确温控 |
| 供电效率要求 | [HVDC](/wiki/hvdc/)直流供电（效率96%+） |
| 断电保护 | [UPS](/wiki/ups/) + 柴油发电机 |

## AI服务器成本结构

| 排名 | 组件 | 占比 |
|-----|------|------|
| 1 | GPU（含HBM） | 50-70% |
| 2 | CPU+内存 | 10-15% |
| 3 | [交换机](/wiki/network-switch/) | 8-15% |
| 4 | 存储 | 5-10% |

## 网络互联

AI服务器之间通过[交换机](/wiki/network-switch/)实现高速互联：
- **InfiniBand NDR** 400G/800G（Mellanox）
- **Ethernet** 400G+（NVIDIA Spectrum）

## 核心特征

- 功耗密度极高（单柜30-100kW）
- 散热需求驱动[覆铜板](/wiki/copper-clad-laminate/)高端化（埋铜块技术）
- 高速信号要求推动18层+ PCB普及

## 代表产品

- NVIDIA DGX H100/H200
- AMD MI300X
- 华为Atlas 900