GPU计算是使用图形处理单元(GPU)来执行曾经由中央处理器(CPU)处理的高度并行的独立计算。

传统上，GPU一直用于加速计算机图形的内存密集型计算，例如图像渲染和视频解码。这些问题很容易并行化。由于众多的核心和优越的内存带宽，GPU似乎是图形渲染不可或缺的一部分。

虽然GPU驱动的并行计算对于图形渲染至关重要，但它似乎也适用于某些科学计算工作。因此，GPU计算在2006年开始更加快速地发展，变得适用于广泛的通用计算任务。

改进现有GPU指令集，允许更多指令集在单个时钟周期内执行，使GPU计算性能稳步增长。今天，随着摩尔定律放缓，甚至有人说它已经结束，GPU计算正在保持它的步伐。

CPU是面向延迟的，可以快速处理复杂的线性任务，而GPU是面向吞吐量的，可以实现巨大的并行化。从架构上讲，CPU由几个具有大量高速缓存的内核组成，这些内核可以使用顺序串行处理同时处理几个软件线程。相比之下，GPU由数千个可以同时管理多个线程的较小内核组成。即使CPU可以处理相当多的任务，它也不会像GPU那样快。GPU将复杂的问题分解为数千个独立的任务并同时处理它们。

GPU是一种专门的协处理器，它在某些任务上表现出色，而在其他任务上表现不佳。它与CPU协同工作，以增加数据吞吐量和应用程序中的并发计算数量。那么GPU计算到底有多出色呢？

GPU可以很好地应对高运算强度。如果算法与内存操作的比率至少为10:1，则该算法是GPU加速的良好候选者。如果是这种情况，您的算法可以受益于GPU的基本线性代数子例程(BLAS)和众多算术逻辑单元(ALU)。

并行计算是一种同时进行许多独立计算的计算类型。大问题通常可以分成较小的部分，然后同时解决。GPU计算就是为这样工作而设计的。例如，如果可以对数据进行矢量化并调整算法以同时处理一组值，则可以轻松获得GPU计算的好处。

在GPU计算中，您通常处理大量数据，其中存储带宽至关重要。如今，基于GPU的科学计算的瓶颈不再是每秒浮点数(FLOPS)，而是每秒I/O操作数(IOPS)。根据经验，评估系统的全局瓶颈总是一个好主意。如果您发现您的GPU加速收益将被存储吞吐量限制所抵消，请首先优化您的存储解决方案。

GPU计算正用于众多现实世界的应用程序。如果没有GPU计算，我们今天认为理所当然的许多著名科学和工程领域不会进步得如此之快。

深度学习是机器学习的一个子集。它的实现基于人工神经网络。从本质上讲，它模仿大脑，让神经元层并行工作。由于数据表示为一组向量，因此深度学习非常适合GPU计算。在配备GPU加速器的专用服务器上训练卷积神经网络时，您可以轻松体验高达4倍的性能提升。最重要的是，每个主要的深度学习框架（如TensorFlow和PyTorch）都已经允许您使用开箱即用的GPU计算，而无需更改代码。

新药的成功发现在各个方面都很难。在Covid-19大流行期间，我们都意识到了这一点。Eroom定律指出，发现一种新药的成本大约每九年翻一番。现代GPU计算旨在改变Eroom定律的轨迹。Nvidia目前正在建造Cambridge-1——英国最强大的超级计算机——致力于医疗保健和药物设计方面的人工智能研究。

地震成像用于为石油和天然气行业提供地球地下结构的知识并检测油藏。地震数据处理中使用的算法发展迅速，因此对额外计算能力的需求巨大。例如，使用GPU计算时，逆时偏移方法可以加速高达14倍。

瞬态和湍流问题的流场计算是高度计算密集型和耗时的。传统技术通常会在基础物理学上妥协并且效率不高。计算流体流动的新范例依赖于GPU计算，它可以帮助实现比单个CPU的显着加速，甚至高达100倍。

GPU极大地改变了天文学中高性能计算的格局。以N体模拟为例，它在数值上近似于一个物体系统的演化，其中每个物体不断地与其他物体相互作用。通过使用GPU计算而不是使用高度调优的串行CPU实现，您可以将全对N体算法加速多达25倍。

期权定价理论的目标是为交易者提供期权的公允价值，然后将其纳入他们的交易策略。此类模拟中经常使用某种类型的蒙特卡罗算法。与仅使用CPU的方法相比，GPU计算可以帮助您实现单位成本提高27倍的性能。

近几十年来，天气预报极大地受益于单纯计算能力的指数增长，但这种搭便车即将结束。如今，天气预报由基于广泛GPU计算的细粒度并行性驱动。仅这种方法就可以确保天气预报模型速度提高20倍。

尽管GPU计算曾经主要与图形渲染相关联，但它已发展成为许多不同科学和工程领域中高性能计算的主要驱动力。大多数GPU计算工作现在都在云端或使用内部GPU计算集群完成。在CherryServers，我们提供带有高端NvidiaGPU加速器的专用GPU服务器。我们的基础设施服务可以按需使用，这使得GPU计算变得简单且经济高效。云供应商已使GPU计算大众化，使其可供全球的中小型企业使用。如果黄氏定律持续下去，GPU的性能将每两年翻一番以上，创新将不断萌芽。