神经处理器(NPU)和图形处理器(GPU)是许多现代设备中发现的两块芯片,包括智能手机和台式电脑。它们既可以加速机器学习,也可以加速人工智能工作负载,但图形处理器的主要作用是在3D渲染方面。以下是这两种常见芯片之间的其他差异。
NPU
用于加速机器学习计算和人工智能的定制芯片。
- 1.可以独立或内置在CPU或SoC中。
2.用于一系列现代设备,包括手机和笔记本电脑。
GPU
主要旨在加速3D渲染任务。
1.还可以加速人工智能工作负载。
2.可以独立或内置到其他处理器和SoC中。
3.并行处理能力使他们在许多同时完成任务时速度更快。
4.用于每个带显示屏的设备。
NPU和GPU在一系列设备中同时存在,尽管NPU不如GPU常见,因为任何具有某种显示器的设备都需要后者。
图形芯片主要用于3D渲染,无论是笔记本电脑的主屏幕还是智能手机游戏。它还可以加速人工智能的工作量。
然而,NPU专门用于加速人工智能工作负载。
GPU可以是CPU或SoC的一部分,它们与其他组件共享系统内存。它们也可以是笔记本电脑和平板电脑中的独立GPU,也可以是台式PC中的独立显卡。在这些情况下,GPU有自己的专用内存。
NPU可以内置在CPU或SoC中,也可以独立,但它们总是共享系统内存,没有专用的RAM。
NPU的利弊
优势
非常适合人工智能和机器学习计算。
执行最新的生成性人工智能任务。
可以在CPU和GPU执行一般任务时为人工智能计算提供动力。
功耗远低于GPU。
缺点
仅限于人工智能任务。
对许多人来说,人工智能工作负载目前没有用处。- 在某些人工智能任务中,仍然不如GPU快。
NPU每一代都越来越快,这使得它们更有能力在本地处理生成性人工智能和机器学习任务。
最新一代的NPU比以前强大得多,但它们仍然远远低于高端专用显卡的性能能力。
NPU的一个主要优势是,它们可以独立于CPU和GPU等通用硬件来处理人工智能计算,它们也比CPU和GPU消耗的功率少得多。在这些可能需要数百瓦才能运行的地方,NPU只需要几瓦,这使得它们的效率更高。
GPU的利弊
优势
可以渲染游戏、设计工作或处理机器学习计算。
令人难以置信的并行处理能力。
在大多数任务中提供比NPU更高的整体性能。
可以在现有系统中插卡进行扩展。
缺点
全速运行需要大量功耗。
占用更多的物理空间。
图形处理单元(GPU)的设计并非专门考虑到人工智能加速,尽管它们特别擅长。据图形芯片制造商Nvidia称,最新一代的GPU可以在人工智能计算中以最佳NPU的10倍甚至20倍的性能运行,但它们确实需要数百瓦的功率才能实现这一目标。
相比之下,NPU只拉出几瓦特(如果是这样),这使得它们在机器学习任务中效率高得多。
然而,GPU主要为3D渲染而设计,这是NPU无法做到的。GPU是渲染游戏的最佳工具,可以加速CAD工作等3D工作负载。它们的并行处理能力也使它们非常适合加密货币挖掘等一般工作负载,而NPU则更定制。
AMD、英特尔和Nvidia的最新一代图形芯片还包括专用的硬件和软件增强功能,以加速人工智能任务,因此它们可能会继续提高人工智能性能,即使NPU在现代计算中找到了其作为机器学习加速专用工具的位置。
GPU和NPU是两块功能强大的硬件,设计时考虑到了不同的角色。显卡在3D渲染方面具有惊人的能力,必要时可用于高速人工智能计算。然而,与NPU相比,它们的效率较低,NPU可以更慢地完成类似的任务,但功耗要低得多。
因此,NPU更适合在需要人工智能功能的消费设备中进行边缘部署。