0、前言
- 深度学习为什么要配置GPU?
- GPU(图形处理单元)最初是为图形渲染而设计的,它们擅长处理大量并行计算任务。深度学习模型,特别是卷积神经网络(CNN)和循环神经网络(RNN),在训练和推理过程中需要进行大量的矩阵乘法和加法运算,这些运算可以高度并行化。 • GPU拥有大量核心(通常远超CPU),可以同时处理多个任务,从而显著提高计算速度。
- GPU具有比CPU更高的内存带宽,这意味着它们可以更快地读写内存中的数据。
- 深度学习模型训练通常涉及大量的浮点运算。现代GPU针对单精度(32位浮点数)和双精度(64位浮点数)运算进行了优化,尽管在深度学习中更常用的是单精度运算,因为双精度运算在GPU上通常较慢且能耗更高。
- 深度学习框架(如TensorFlow、PyTorch等)提供了对GPU的广泛支持,通过CUDA(NVIDIA的并行计算平台和编程模型)和cuDNN(NVIDIA的深度学习加速库)等库,这些框架可以高效地利用GPU进行计算。深度学习框架(如TensorFlow、PyTorch等)提供了对GPU的广泛支持,通过CUDA(NVIDIA的并行计算平台和编程模型)和cuDNN(NVIDIA的深度学习加速库)等库,这些框架可以高效地利用GPU进行计算。
- 尽管GPU的初始成本可能较高,但在处理大量数据时,它们通常比使用大量CPU更具成本效益。
- 以下为:Windows 11 系统配置 PyTorch 环境的教程。
1、查看GPU信息
- 可在任务管理器中的性能中查看,确认是:NVIDIA:
2、安装CUDA
-
查看CUDA的版本信息
-
操作:打开 CMD窗口,输入以下命令:nvidia-smi
C:\Users\blning>nvidia-smi
Tue Dec 26 11:29:59 2023
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 462.21 Driver Version: 462.21 CUDA Version: 11.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 GeForce RTX 306... WDDM | 00000000:01:00.0 On | N/A |
| N/A 48C P8 12W / N/A | 223MiB / 6144MiB | 2% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------++-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| 0 N/A N/A 7688 C+G Insufficient Permissions N/A |
| 0 N/A N/A 10300 C+G Insufficient Permissions N/A |
| 0 N/A N/A 11548 C+G Insufficient Permissions N/A |
+-----------------------------------------------------------------------------+
- 下载地址:CUDA Toolkit 12.3 Update 1 Downloads
- 查看CUDA是否安装成功?
- 在命令提示符窗口输入:nvcc - V
3、配置cuDNN
- 下载地址:cuDNN Archive Download
- 操作:
- 将下载的zip包解压。
- 把解压后的文件夹命名为:cudnn
- 将重命名后的cudnn文件夹拷贝到 CUDA 的安装目录下。
- 提示
- CUDA的安装路径可以在系统的环境变量中查看(CUDA在安装后就自动在系统环境变量中被配置)
- CUDA的安装路径可以在系统的环境变量中查看(CUDA在安装后就自动在系统环境变量中被配置)
4、安装PyTorch
-
进入 PyTorch 官网:PyTorch官网
-
下滑找到PyTorch下载选择,按照以下选择
-
选择好安装的位置:复制其命令到命令提示窗口执行该命令安装即可
-
在Python的交互环境中:检查在PyTorch中CUDA是否可用
- 输入以下命令
>>> import torch
>>> torch.cuda.is_available()
True # 返回True表示可用
【 结语】以上是基于Windows 11系统中PyTorch学习环境的配置,还存在很多不全面的地方,欢迎各位大佬指点;如果觉得笔者不易,辛苦给予 点赞和 关注,给予我记录更多文章的动力!!