【机器背景说明】Linux-Centos7；显卡驱动：Driver Version: 460.106.00；Tesla P40 * 2

【目标环境说明】

torch==1.13.1+cu116

llamafactory==0.9.2.dev0

1.CUDA11.6软件安装

CUDA11.6软件有两种安装方式,一个是直接安装到Pip环境中、一种是下载到本地安装

1.1在Pip环境里直接安装(推荐)

此方法优点：省事不需要通过环境变量来控制cuda版本；缺点：占用空间更大，多个环境无法复用同个版本。安装方法直接敲下面命令：

pip install nvidia-cudnn-cu11==8.5.0.96 -i  https://mirrors.aliyun.com/pypi/simple

1.2在系统里安装

此部分方法是在NVIDIA中下载CUDA软件，然后安装到本地，如果是Linux通过bashrc下面绑定：

export PATH=/usr/local/cuda-11.6/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.6/lib64:$LD_LIBRARY_PATH

附CUDA下载地址：CUDA Toolkit Archive | NVIDIA Developer

2.安装LLaMA-Factory

2.1安装torch==1.13.1+cu116

可以直接按照官网的安装，网速快慢可以自己先登陆url看看下载速度

pip install torch==1.13.1+cu116 --extra-index-url https://download.pytorch.org/whl/cu116

或者：

直接去https://download.pytorch.org/whl/torch/下载torch==1.13.1+cu116，然后pip install对应的包

2.2安装LLaMA-Factory

LLaMA-Factory地址：，安装的是0.9.2.dev0版本，进本地，然后按官网的教程，先进下载目录，在setup.py同级目录敲下面命令：

pip install -e ".[torch,metrics]" -i https://mirrors.aliyun.com/pypi/simple

等待，安装完应该没太大问题了。

最后如果本文对你有些许帮助，赠人玫瑰手有余香，谢谢`