斯坦福用几百块钱训练的alpaca,体验一下基于llama的7b和13b模型,据说比gpt3.0还牛,结果怎样??你能信?

news/2024/12/28 2:38:22/

好久没写代码了,上头了,强撸了!

1、自己买个GPU服务器(如果不训练,可以随便买个高内存的即可),有些网站很便宜,小时起租!

2、alpaca和模型下载地址:GitHub - antimatter15/alpaca.cpp: Locally run an Instruction-Tuned Chat-Style LLM

git clone GitHub - antimatter15/alpaca.cpp: Locally run an Instruction-Tuned Chat-Style LLM

cd alpaca.cpp

3、模型下载:ggml-alpaca-7b-q4.bin 、ggml-alpaca-13b-q4.bin ,不知道哪里下载的我可以放出网盘地址

4、编译:make chat

5、运行起来:./chat -m ggml-alpaca-13b-q4.bin ,记得放到同一个目录哦

7b效果如下:

虽然我的服务器配置相当可以了,但是速度还是不快哦!毕竟是斯坦福大学训练的模型,对中文的确支持的不好

13b效果如下:

后续:

1、中文的大语言模型已经有人训练出来了

2、中文的alpaca模型也训练出来了

3、上面两个模型搞定跑起来之后,是否能训练自己的模型呢?你猜


http://www.ppmy.cn/news/632631.html

相关文章

大数据到底要学习一些什么内容

大数据本质上是海量数据。 以往的数据开发,需要一定的Java基础和工作经验,门槛高,入门难。 如果零基础入门数据开发行业的小伙伴,可以从Python语言入手。 Python语言简单易懂,适合零基础入门,在编程语言…

关于redis 取出数据转换失败的问题(invalid stream header: 7B226163)

关于redis 取出数据转换失败的问题(invalid stream header: 7B226163) invalid stream header: 7B226163解决方案取数据前设置启动前设置 invalid stream header: 7B226163 众所周知redis 是可以放对象的,但是放的对象是需要序列化的&#x…

SCT71403F50,SCT71403F33,TPS7B82,TPS7B81

输入电压40v或者28v ,输出电压5.v或者3.3v,输出电流300mA, LDO 工规级别: SCT71403F50A-DVAR,封装:TDFN2X2-6, P2P ,TPS7B82 , TPS7B81 (SCT with PG) SCT71403F50-DVAR,封装:TDFN2X2-6P2P ,…

(四)oobabooga加载Vicuna7b,vicuna13b,chatglm模型

文章目录 安装Text generation web UI 加载不同的模型vicuna 7bvicuna-13b-GPTQ-4bit-128g(资源够的,可以直接vicuna-13b)chatglm6b 安装 环境:windows11 显卡:NVIDIA GeForce RTX 3090 version 526.98 显存 24G pip…

[7b2美化]柒比贰 魔改系列|7B2-分类封面添加波浪效果每日诗词

效果如图: 代码: 首先在style.css样式表里添加波浪样式 /*浪来了*/ .lang {overflow: hidden;width: 100%;position: absolute;left: 0;margin-top: -55px; }.lang__1 {background: url(https://dl.zhutix.net/2019/08/wave_01.png) repeat-x;width: 7000px;height: 60px;ani…

TPS7B6933QDCYRQ1 低压差稳压器、汽车应用

应用 • 汽车 • 具有睡眠模式的信息娱乐系统 • 永远在线的电池应用 -门模块 -远程无钥匙进入系统 - 防盗器 TPS7B69xx-Q1 器件是一款低压差线性稳压器,设计用于高达 40V VI 的操作。 该器件在轻负载时的静态电流仅为 15-A(典型值)&#xff…

报错与解决 | 应用程序无法启动0x7b mysql

文章目录 报错解决办法成功解决问题 报错 根据“MySQL下载安装使用-完整详细步骤”下载安装好MySQL后,以管理员身份启动cmd,输入: "D:\mysql\mysql-5.7.31-winx64\bin \mysqld.exe" --initialize-insecure # 自己的mysql安装目录…

OXOOOOOO7B

stop:OXOOOOOO7B(硬盘蓝屏) 蓝屏故障: 1.硬盘随着新旧主板的更换蓝屏 2.标准IDE和AHCI控制器没有安装驱动 3.磁盘有错误,文件目录损坏 4.关闭IDE通道控制器 5.无盘网络,系统未安装客户端网卡驱动,虚拟磁盘控制器未安装。…