MXNet使用GPU计算

news/2024/12/3 7:44:54/

GPU上的存储

在MXNet中,mx.cpu()代表所有的物理CPU和内存,而mx.gpu()只代表一块GPU和相应的显存。(cpu对应内存,gpu对应显存)

可以通过NDArray的context属性来查看该NDArray所在的设备。

x.context

我们可以通过多种方法创建NDArray到GPU的显存上。

a = nd.array([1,2,3], ctx=mx.gpu()) # gpu()等价于gpu(0)# 假设有2块GPU的情况下
B = nd.random.uniform(shape=(2, 3), ctx=mx.gpu(1))

通过copyto函数和as_in_context函数在设备之间传输数据

y = x.copyto(mx.gpu())z = x.as_in_context(mx.gpu())

需要注意的是,如果x和y在同一个设备上,as_in_context函数不会开辟新内存,而是让目标变量共享原变量的内存或或者显存

而copyto函数总是为目标变量开辟新的内存或者显存。

GPU上的计算

MXNet的计算会在数据的context属性所指定的设备上执行。并且计算结果自动保存在同一块显卡的显存上。

MXNet要求计算的所有输入数据都应该在同一个设备上,即都在内存上或都在同一块显卡的显存上。

和NDArray类似,Gluon模型可以在初始化时通过ctx参数指定设备,使模型参数初始化在相应的设备上。

net = nn.Sequential()
net.add(nn.Dense(1))
net.initialize(ctx=mx.gpu())

 


http://www.ppmy.cn/news/307004.html

相关文章

python调用显卡计算_Anaconda GPU计算入门指南

摘要:随着人工智能时代的到来,计算能力变得越来越重要。GPU计算已经成为了必然的趋势,对于机器学习爱好者来说要想训练一个高质量的神经网络,使用GPU无疑是最佳选择。 GPU计算已成为数据科学领域的重要组成部分。计算需求的不断增长,使得GPU计算逐渐流行起来。此外,现在每…

GPU计算

文章目录 GPU计算1. GPU和CPU的区别2. GPU的主要参数解读3. 如何在pytorch中使用GPU4. 市面上主流GPU的选择 GPU计算 1. GPU和CPU的区别 设计目标不同,CPU基于低延时,GPU基于高吞吐。 CPU:处理各种不同的数据类型,同时又要逻辑…

浅析GPU计算——CPU和GPU的选择

目前市面上介绍GPU编程的博文很多,其中很多都是照章宣科,让人只能感受到冷冷的技术,而缺乏知识的温度。所以我希望能写出一篇可以体现技术脉络感的文章,让读者可以比较容易理解该技术,并可以感悟到cuda编程设计及优化的…

Matlab 并行计算学习初步

Matlab 并行计算学习 1. 简介 高性能计算(High Performance Computing,HPC)是计算机科学的一个分支,研究并行算法和开发相关软件,致力于开发高性能计算机。可见并行计算是高性能计算的不可或缺的重要组成部分。 1.1 并行计算 并行计算&am…

什么是GPU计算

什么是GPU计算 Nvidia公式发布了了CUDA,它是建立在NVIDA的CPUs上的一个通用并行计算平台和编程模型,基于CUDA编程可以利用GUPs的并行计算引擎来更加高效地解决比较复杂的计算难题GPU并不是一个独立运行的计算平台,而需要与CPU协同工作&#…

Apache Hudi初探(九)(与spark的结合)--非bulk_insert模式

背景 之前讨论的都是’hoodie.datasource.write.operation’:bulk_insert’的前提下,在这种模式下,是没有json文件的已形成如下的文件: /dt1/.hoodie_partition_metadata /dt1/2ffe3579-6ddb-4c5f-bf03-5c1b5dfce0a0-0_0-41263-0_202305282…

一个关于宏定义的问题,我和ChatGPT、NewBing、Google Bard、文心一言 居然全军覆没?

文章目录 一、问题重述二、AI 解题2.1 ChatGPT2.2 NewBing2.3 Google Bard2.4 文心一言2.5 小结 一、问题重述 今天在问答模块回答了一道问题,要睡觉的时候,又去看了一眼,发现回答错了。 问题描述:下面的z的值是多少。 #define…

JSP+SQL网上书店销售系统(论文+系统)

本次毕业设计的题目就是网上书店系统。 本论文就毕业设计的内容,系统地阐述了整个网上书店系统的功能及实现。我们小组人员在指导老师的带领下设计并实现了从商品管理,商品分类和查询,到购物车实现,用户订单处理,再到聊天室,管理员系统。基本上实现了电子商务的功能流程…