1、下载显卡驱动

1.1、驱动下载

连接：显卡驱动

手动驱动搜索-》查找-》查看-》下载

下载可使用指令

wget https://us.download.nvidia.com/XFree86/Linux-x86_64/535.216.01/NVIDIA-Linux-x86_64-535.216.01.run

2、下载安装cuda12.0

wget https://developer.download.nvidia.com/compute/cuda/12.0.0/local_installers/cuda_12.0.0_525.60.13_linux.run

sudo sh cuda_12.2.0_535.54.03_linux.run

 3、下载cudnn

链接：cuDNN Archive | NVIDIA Developer

下载cudnn8.80版本的tar文件

解压文件

tar -xvf *.tar.xz

cp cudnn/include/* /usr/local/cuda/include

cp cudnn/lib/* /usr/local/cuda/lib64

4、安装miniconda

wget  https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

bash Miniconda3-latest-Linux-x86_64.sh -p /home/miniconda3；-p后面是指定安装路径

5、创建虚拟环境

conda create -n ken python=3.8

6、安装pytorch-gpu

进入到torch，选好指定版本。

 pip install torch==2.3.1 torchvision==0.18.1 torchaudio==2.3.1 --index-url https://download.pytorch.org/whl/cu121 -i https://pypi.tuna.tsinghua.edu.cn/simple

测试

import torch

torch.cuda.is_available()