了解 GPU

news/2024/11/28 22:55:56/

近期ChatGPT十分火爆,随之而来的是M国开始禁售高端GPU显卡。M国想通过禁售GPU显卡的方式阻挡中国在AI领域的发展。

GPU是什么?

GPU(英语:Graphics Processing Unit,缩写:GPU)是显卡的“大脑”,GPU一开始是专门为图形应用开发的硬件组件, 是2D显示卡和3D显示卡的区别依据。2D显示芯片在处理3D图像和特效时主要依赖CPU的处理能力,称为“软加速”。3D显示芯片是将三维图像和特效处理功能集中在显示芯片内,也即所谓的“硬件加速”功能。

GPU提供多核并行计算的基础,且核心数众多,可以支撑大量数据的并行运算。虽然时钟速度和分支处理运算能力都比CPU弱很多,但是这些在训练网络的时候,都是无关紧要的。AI场景训练和推理通常不涉及大量的分支运算与复杂的控制指令,更适合在GPU上进行。

数据、算法和算力是人工智能发展的三大支柱,这三个要素缺一不可。就算力而言,除了训练,AI实际需要运行在硬件上,以及推理(inference),这些都需要算力的支撑,而这需要GPU来承载和实现,因此GPU被广泛运用到数值模拟、机器学习、算法训练等领域。 就像ChatGPT这种项目,缺少了GPU芯片,缺少了算力,就不可能发展得起来

CPU和GPU的区别

中央处理器(CPU)

CPU是集成化系统的大脑。 包括快速存储信息和执行计算的算术逻辑单元(ALU),以及用于执行指令序列和分支的控制单元(CU)。 CPU与更多计算机组件(例如内存,输入和输出)进行交互以执行指令。CPU的架构图示如下:

图形处理单元(GPU):

GPU通常用于在计算机游戏中提供图像处理能力。 GPU的速度比CPU的速度快,并且它强调高吞吐量。它通常与电子设备集成在一起,以便与电子设备共享RAM,这非常适合执行最重要的计算任务。GPU包含的ALU单元多于CPU

CPU和GPU比较

中央处理器CPU

图形处理单元GPU

CPU比GPU消耗或需要更多的内存

它消耗或需要的内存少于CPU

CPU的速度小于GPU的速度

GPU比CPU的速度快

CPU包含微小的强大内核

它包含更多相对弱的内核

CPU适用于串行指令处理

而GPU不适合串行指令处理

CPU不适合并行指令处理

而GPU适用于并行指令处理

CPU强调低延迟

而GPU则强调高吞吐量

参考资料:

https://www.geeksforgeeks.org/difference-between-cpu-and-gpu/

https://www.geeksforgeeks.org/introduction-of-alu-and-data-path/


http://www.ppmy.cn/news/380346.html

相关文章

智能空气测试仪“清心”

智能空气测试仪“清 心” 去年的时候,因为工作原因去北京看望一个朋友,去的时候,朋友开玩笑说“小心你会迷失在茫茫雾海中",北京的冬天的天气,虽然说很朦胧,但是我觉得还没有到迷失的地步吧&#xff0…

新手小白如何租用GPU云服务器跑深度学习

最近刚学深度学习,自己电脑的cpu版本的pytorch最多跑个LexNet,AlexNet直接就跑不动了,但是作业不能不写,实验不能不做。无奈之下,上网发现还可以租服务器这种操作,我租的服务器每小时0.78人民币&#xff0c…

一些GPU云平台使用体验

20221114更新 之前提到会试试AutoDL,发现AutoDL的实例数据能保存30天,之前说过恒源云只会保存24小时,否则就直接清空了,这是比较麻烦的一点,有时用完就需要自己保存下来,或者在24小时之内再租用&#xff0…

MySQL启停要十分钟?

一、问题背景 基础环境: 主机类型:x3850 X6 操作系统:DB:Red Hat Enterprise Linux 9.1 7.8 存储:IBM存储,500GB 内存:64 G CPU型号:E7-4830 v3 2.10GHz CPU核数:32CORE 数据…

Python神经网络编程学习笔记

文章目录 神经网络基本原理线性分类器学习率一个线性分类器的局限性逻辑AND、逻辑OR逻辑XOR 神经元sigmoid function的logistic function(逻辑函数) 多层神经元演示只有两层,每层两个神经元的神经网络的工作矩阵大法(点乘)使用矩阵乘法的三层神经网络示例反向传播误…

总结一下一路开发邮件服务器遇到的事

这里写自定义目录标题 集成第三方做个邮件收发一直在正常发件一段时间后 集成第三方做个邮件收发 需求是很简单的,刚开始什么都很顺一下就开发完了,邮件收发很顺。 几个月后,遇到的第一个问题,邮件发不了错误号 526 Authenticati…

为什么年龄越大工作失误越多水平越低能力越差-个人案例

此为内容创作模板,在发布之前请将不必要的内容删除 在日复一日的工作中,我们免不了会产生一些失误,会因此感到沮丧和失望。但如何正确地对待和处理这些失误才是最重要的,它直接影响到我们的工作表现和个人成长。一起来谈谈作为职…

不愧是阿里大牛珍藏的“redis深度笔记(全彩版)”这细节讲解,神了

前言 说到 Redis 相信对于我们这些程序员来说太熟悉了,Redis 凭借着自己超高的超高的性能、完美的文档、简洁易懂的源码和丰富的客户端库支持,很快就在国内的互联网市场占据了一席之地,得到了广大用户的一致好评,随着国内外使用 …