保姆级零基础微调大模型(LLaMa-Factory,多卡版)

devtools/2024/9/23 13:51:00/

此处非常感谢https://github.com/hiyouga/LLaMA-Factory这个项目。

看到网上的教程很多都是教如何用webui来微调的,这里出一期命令行多卡微调教程~

1. 模型准备

模型下载比较方便的方法:

1. modelscope社区(首选,速度很高,并且很多需要申请的模型都有)注意要选择代码下载,直接用命令行下载模型文件下不下来。

2. huggingface镜像网站(不用梯子,但是该申请的还是需要申请)

3.自行下载网上云盘资源等(上传比较慢,若采取此方法,推荐使用XShell等工具)

2. 数据集准备

数据集主要有两种格式,这里直接参考仓库里面给出的示例数据即可(非常简单)

有以下几点注意:

1. 对于自己的数据集,首先去测试一下instruction+


http://www.ppmy.cn/devtools/38448.html

相关文章

模型剪枝——Linear Combination Approximation of Feature for Channel Pruning

线性逼近剪枝代码实现见文末 论文地址:CVPR 2022 Open Access Repositoryhttps://openaccess.thecvf.com/content/CVPR2022W/ECV/html/Joo_Linear_Combination_Approximation_of_Feature_for_Channel_Pruning_CVPRW_2022_paper.html 1.概述 传统的剪枝技术主要集中在去除对…

TestString----shuffleString

package com.test;import java.util.Random; import java.util.Scanner;public class String01 {//键盘输入任意字符串,打乱里面内容//1.键盘输入任意字符串//2.打乱里面内容//修改里面内容//1.subString//2.变成字符数组//3.0索引开始,跟一个随机索引进…

Java中ArrayList、LinkedList与Vector的区别

ArrayList ArrayList是一个可以改变大小的数组,当更多的元素加入到ArrayList中时,其大小将会动态的增长,内部的元素可以直接通过get与set方法进行访问,因为ArrayList本质上就是一个数组。 LinkedList LinkedList是一个双向链表…

华为数据之道第一部分导读

目录 导读 第一部分 序 第1章 数据驱动的企业数字化转型 非数字原生企业的数字化转型挑战 业态特征:产业链条长、多业态并存 运营环境:数据交互和共享风险高 IT建设过程:数据复杂、历史包袱重 数据质量:数据可信和一致化…

python基础---函数以及常用变量

函数及变量 函数 使用def关键字 在参数名前面的*表示args是一个可变参数 def add(*args):total 0for val in args:total valreturn total# 在调用add函数时可以传入0个或多个参数 print(add()) print(add(1)) print(add(1, 2)) print(add(1, 2, 3)) print(add(1, 3, 5, 7…

QT 设置窗口不透明度

在窗口作为子窗口时,setWindowOpacity设置窗口的不透明度可能会失效。 QGraphicsOpacityEffect *opacityEffect new QGraphicsOpacityEffect(this); opacityEffect->setOpacity(1.0); this->setGraphicsEffect(opacityEffect);// 创建属性动画对象&#xff…

模方已经安装了3dmax,也装了插件,为什么一直显示没有插件?

答:主要是联动2018版本,然后插件在模方安装时候,会有选项自动安装联动插件,SketchUp(建议版本为2019),3dsMax(建议版本为2018) 模方是一款针对实景三维模型的冗余碎片、…

html的标签

基础标签 标签描述<h1>-<h6>定义标题&#xff0c;h1最大&#xff0c;h6最小<font>定义文本的字体&#xff0c;字体尺寸&#xff0c;字体颜色<b>定义粗体文本<i>定义斜体文本<u>定义文本下划线<center>定义文本居中<p>定义段落…