CPU/GPU/NPU架构特点

一图胜千言，关于CPU,GPU,NPU的结构上的区别，，如下图所示：

从优化的角度讲，CPU的目标函数是 “minimize laency”, GPU是 “maximize throughput”,NPU则在GPU的基础上，进一步提高了存储的利用率。

先从CPU和GPU的区别开始说起，CPU是中央处理器，是一个逻辑单元，CPU负责复杂且少量的串行计算。GPU主要负责大量且简单的并行计算，如下图:

GPU和CPU都属于通用算力，和NPU的区别明显，我们先对比GPU和CPU，最后再讨论NPU，作用上，GPU 是替代不了 CPU 的，同样，CPU 也替代不了 GPU。

从本质上说，CPU和GPU的区别是，CPU是向量机&标量机，GPU是阵列机。