AI推理终端
别名:E、d、g、e、 、A、I、,、n、f、r、c、p、o、i、t、AI推理终端、Edge AI
部署在边缘侧进行AI推理的设备,区别于云端AI数据中心。
AI推理终端
部署在边缘侧进行AI推理的设备,区别于云端AI数据中心。
与AI服务器的关系
[AI服务器](/wiki/ai-server/)(云端训练+推理)
└── 算力集中
└── [交换机](/wiki/network-switch/)互联
AI推理终端(边缘推理)
└── 算力下沉
└── 小型化、高集成
代表产品
| 类型 | 产品示例 |
|---|---|
| 边缘计算盒子 | NVIDIA Jetson、华为Atlas 500 |
| 智能驾驶域控 | 特斯拉FSD、英伟达Drive Orin |
| AI手机 | 苹果A系列、骁龙8 Gen |
| AI PC | 集成NPU的Intel/AMD处理器 |
核心技术要求
| 要求 | 解决方案 |
|---|---|
| 小型化 | HDI板高密度布线 |
| 低功耗 | 先进制程+封装 |
| 低延迟 | HDI板短互连 |
| 本地推理 | 自研NPU芯片 |
PCB需求
AI推理终端对HDI板需求强烈(小型化+高算力),与AI服务器(需要18层以上多层板)形成互补。
核心关系
AI推理终端
├── [HDI板](/wiki/hdi-board/)(高密度互连)
├── NPU/AI芯片
│ └── [封装基板](/wiki/package-substrate/)
└── [Chiplet](/wiki/chiplet/)(部分复杂终端)
相关词条
3D DRAM
区别于HBM的"芯片堆叠+TSV+硅中介层"封装式3D,**3D DRAM**指**单元层级的立体堆叠**——将DRAM存储单元(1T1C)在单芯片内沿垂直方向多层堆叠,以突破传统DRAM的微缩极限。
存储芯片
AI数据中心"算力-带宽-存储"三角中的存储侧,覆盖**介质、内存、控制、模组、缓存**五大类的全栈芯片体系,是AI服务器性能与成本的关键瓶颈之一。
交换芯片
数据中心交换机的核心芯片,决定交换机的性能、功耗和功能。
趋肤效应
高频交流电/高速信号在导体中**集中于表面薄层**流动的物理现象,是覆铜板与铜箔在AI高速时代升级到HVLP的**根本驱动力**,也是112G/224G/448G SerDesPCB材料选型的核心物理基础。
主控芯片
SSD主控芯片(Controller),负责SSD内部的数据读写管理、磨损均衡、纠错等核心功能。 别名:**存储主控芯片**(存储芯片体系下的标准命名)。
DRAM
**D**ynamic **R**andom **A**ccess **M**emory,动态随机存取存储器。
eMMC
**eMMC** 嵌入式多媒体卡,将**NAND Flash 介质 + 主控芯片(控制器)集成在一个 BGA 封装**内的标准化嵌入式存储模块,对 Host 侧呈现"类 SD 卡"接口,**省去 Host 侧 FTL 管理**,主要用于移动设备 / 嵌入式系统 / 入门边缘 AI 的中低成本中等容量存储。
eSSD
企业级SSD(Enterprise SSD),专为数据中心和服务器场景设计的高性能存储设备。