步骤 1.下载4个安装包

Index of /nvidia-docker/libnvidia-container/stable/

nvidia-container-toolkit-base_1.13.5-1_amd64.deb
libnvidia-container1_1.13.5-1_amd64.deb
libnvidia-container-tools_1.13.5-1_amd64.deb
nvidia-container-toolkit_1.13.5-1_amd64.deb

步骤 2.安装

# 进入目录
cd /home/zhy/soft/nvidia_toolkit# 安装 NVIDIA Container Toolkit 及其依赖
sudo dpkg -i libnvidia-container1_1.13.5-1_amd64.deb
sudo dpkg -i libnvidia-container-tools_1.13.5-1_amd64.deb
sudo dpkg -i nvidia-container-toolkit-base_1.13.5-1_amd64.deb
sudo dpkg -i nvidia-container-toolkit_1.13.5-1_amd64.deb

注意： 顺序安装

步骤 3：配置 Docker 使用 NVIDIA Runtime

# 配置 Docker 使用 NVIDIA Runtime
sudo nvidia-ctk runtime configure --runtime=docker# 重启 Docker 服务
sudo systemctl restart docker

步骤4：验证 GPU 支持

运行一个支持 GPU 的容器来验证：

nvidia-ctk --versionsudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi