基于CPU+GPU的异构计算

news/2025/2/22 16:04:09/

GPU

GPU是为了视频游戏而产生的(至今其主要驱动力还是不断增长的视频游戏市场),在三维游戏中常常出现的一类操作是对海量数据进行相同的操作,如:对每一个顶点进行同样的坐标变换,对每一个顶点按照同样的光照模型计算颜色值。

GPU的众核架构非常适合把同样的指令流并行发送到众核上,采用不同的输入数据执行

CUDA

CUDA和C程序并无区别,只是多了一些以“CUDA”开头的库函数。

使用CUDA的好处就是透明。根据摩尔定律GPU的晶体管数量不断增多,硬件结构必然是不断的在发展变化,没有必要每次都为不同的硬件结构重新编码,而CUDA就是提供了一种可扩展的编程模型,使得已经写好的CUDA代码可以在任意数量核心的GPU上运行。

CUDNN

NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中,如加州大学伯克利分校的流行CAFFE软件。简单的,插入式设计可以让开发人员专注于设计和实现神经网络模型,而不是调整性能,同时还可以在GPU上实现高性能现代并行计算。

https://blog.csdn.net/lemon4869/article/details/53415734 了解CPU、GPU、进程、线程、CUDA

CUDA编程

开发人员可以通过调用CUDA的API,来进行并行编程,达到高性能计算目的。NVIDIA公司为了吸引更多的开发人员,对CUDA进行了编程语言扩展,如CUDA C/C++,CUDA Fortran语言。注意CUDA C/C++可以看作一个新的编程语言,因为NVIDIA配置了相应的编译器nvcc,CUDA Fortran一样。

模式和框架

框架=中间件

开发软件时,有一些通用的或者共用的功能模块,例如数据库连接,事务处理,不能每次开发都由开发人员来写,导致开发周期长和可靠性差。所以一些大公司开发了通用模块,或者叫半成品的框架。统称为中间件。

模式

软件设计模式太多,就我的理解简单说一下最常见的MVC模式

http://www.elecfans.com/d/759019.html 在Java编程中模式和框架有什么区别

https://www.cnblogs.com/yukaizhao/archive/2012/04/23/taobao_order_design.html

https://blog.csdn.net/happywei520/article/details/79624420

https://www.cnblogs.com/stateis0/p/10963171.html

https://baike.baidu.com/item/j2ee/110838?fr=aladdin

https://blog.csdn.net/xiaohu2022/article/details/79599947


http://www.ppmy.cn/news/455566.html

相关文章

最新!OpenAI掌门人自曝GPU短缺,未来GPT-4会更快、更便宜

作者 | 金鹿 本文经授权转自公众号腾讯科技(ID:qqtech),如需转载,请联系对方: 机器学习和人工智能初创公司Humanloop首席执行官拉扎哈比比(Raza Habib),5月29日邀请OpenAI首席执…

面向异构众核超级计算机的大规模稀疏计算性能优化研究

点击上方蓝字关注我们 面向异构众核超级计算机的大规模稀疏计算性能优化研究 胡正丁, 薛巍 清华大学计算机科学与技术系,北京 100084 论文引用格式: 胡正丁, 薛巍.面向异构众核超级计算机的大规模稀疏计算性能优化研究[J].大数据, 2020, 6(4):40-55. HE …

再谈异构计算CPU+GPU(APU)

再谈异构计算CPUGPU 异构计算的英文名称是Heterogeneous computing,主要是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式。常见的计算单元类别包括CPU、GPU等协处理器、DSP、ASIC、FPGA等。我们常说的并行计算正是异构计算中的重要组成部分异构计算近…

异构计算 CPU、GPU、DSP、ASIC、FPGA

异构计算主要是指使用不同类型指令集和体系架构的计算单元组成系统的计算方式。异构计算已经无处不在,从超算系统到桌面到云到终端,都包含不同类型指令集和体系架构的计算单元,下面先从几个系统了解下异构计算超算系统。 天河-2:…

异构计算 — 异构芯片融合趋势

目录 文章目录 目录计算架构的演进方向第一阶段,串行计算第二阶段,同构并行计算第三阶段,异构并行计算未来,将走向第四阶段,超异构并行阶段NVIDIA 的异构芯片融合GPU + DPUCPU + GPUCPU + GPU + DPUIntel 的融合架构芯片CPU + GPUAMD 的融合架构芯片CPU + GPU计算架构的演…

异构计算 — Overview

目录 文章目录 目录异构计算异构计算体系结构第一阶段,串行计算第二阶段,同构并行计算第三阶段,异构并行计算CPU+GPUCPU+FPGASoC下一个阶段,融合异构计算异构计算的编程框架异构计算体在 AI 场景中的应用异构计算 异构计算是指使用不同类型指令集和体系架构的处理器芯片(…

异构计算综述

异构计算(Heterogeneous computing) 异构计算(Heterogeneous computing)技术从80年代中期产生,由于它能经济有效地获取高性能计算能力、可扩展性好、计算资源利用率高、发展潜力巨大,目前已成为并行/分布计…

CPU+GPU异构计算完全解析

原文链接:http://bj.beareyes.com.cn//2/lib/201106/20/20110620416_1.htm 工欲善其事,必先利其器。有一个好的计算工具是必须的! 并行计算:让处理的速度变得更快 相对于串行计算,并行计算可以划分成时间并行和空间并…