CPU 与 GPU 与 TPU 之间有什么区别？

人工智能和机器学习技术一直在加速智能应用的发展。为了应对日益复杂的应用，半导体公司不断开发处理器和加速器，包括CPU、GPU和TPU。然而，随着摩尔定律的放缓，仅靠CPU 性能不足以有效地执行要求苛刻的工作负载。问题是，企业如何加速整个系统的性能来支持人工智能应用的过度需求？答案可能是通过开发GPU和TPU来补充CPU以运行深度学习模型。这就是为什么必须了解CPU、GPU 和TPU背后的技术才能跟上不断发展的技术以获得更好的性能和效率。

如果您正在寻找有关CPU与GPU与TPU之间有什么区别的答案？或者它们如何在计算机体系结构中工作？阅读本文可能会帮助您了解有关CPU、GPU 和TPU 的一些问题。

CPU Vs. GPU Vs. TPU

从根本上说，CPU、GPU和TPU之间的区别在于，CPU是作为计算机大脑工作的处理单元，设计用于通用编程的理想选择。相比之下，GPU是一种性能加速器，可增强计算机图形和AI工作负载。而TPU是Google定制开发的处理器，可使用（特定机器学习框架）TensorFlow 加速机器学习工作负载。

什么是 CPU？

中央处理器 (CPU) 是存在于所有智能设备中的核心处理器。CPU是一种通用处理器，设计有几个强大的内核和大容量缓存，使其能够同时运行几个软件线程。CPU就像管弦乐队中的指挥；它控制从内存到显卡的所有其他组件，为系统执行许多处理功能。

CPU至少有一个处理核心，但随着时间的推移已经发展到包含越来越多的核心。拥有多个内核使CPU能够执行多线程，这是一种允许CPU在单个内核上同时执行两行执行（线程）的技术。此外，现代CPU 现在有2到6个内核，有些甚至有8到64个内核用于通常为数据中心保留的企业级CPU。

CPU特性总结：

有几个核心

低延迟

专门从事串行处理

能够一次执行少数操作

RNN（循环神经网络）的FLOPS利用率最高

内存容量大，支持最大机型

对于不规则计算（例如，小批量非 MatMul 计算）更加灵活和可编程

什么是 GPU？

GPU（图形处理单元）是一种专用处理器，与 CPU 一起用作性能加速器。与 CPU 相比，GPU 有数千个内核，可以将复杂的问题分解为数千或数百万个单独的任务，并并行处理它们。并行计算利用数千个 GPU 内核来优化各种应用程序，包括图形处理、视频渲染、机器学习，甚至是比特币等加密货币的挖掘。

在过去的十年中，GPU 已成为深度学习开发的关键。凭借在单个操作中加速大型矩阵运算和执行混合精度矩阵计算的能力，GPU可以高速加速深度学习。这种并行计算技术使 GPU成为现代超级计算的重要组成部分，从而点燃了全球人工智能热潮。

GPU特性总结：

拥有数千个内核

高吞吐量

专用于并行处理

能够同时执行数千个操作

什么是 TPU？

TPU代表张量处理单元，它是专用集成电路 (ASIC)。TPU 是由 Google 从头开始设计的；他们于2015年开始使用 TPU，并于 2018 年将其公之于众。 TPU可作为云或较小版本的芯片使用。Cloud TPU在执行密集向量和矩阵计算以加速TensorFlow 软件上的神经网络机器学习方面的速度非常快。TensorFlow是由Google Brain团队构建的开源机器学习平台，旨在帮助开发人员、研究人员和企业在Cloud TPU硬件支持的高级TensorFlow API上运行和操作 AI模型。TPU最大限度地缩短了训练大型复杂神经网络模型的准确时间。使用TPU，以前在GPU上训练需要数周时间的深度学习模型现在在TPU上只需数小时。

TPU功能摘要：

矩阵处理专用硬件

高延迟（与 CPU 相比）

非常高的吞吐量

极端并行计算

针对大批量和CNN（卷积神经网络）进行高度优化

本文由朗锐智科（http://www.lrist.com）编辑整理，如有侵权请联系本站。