大语言模型 -- 部署LaWGPT模型记录

news/2024/10/31 0:17:13/

模型介绍:

该系列模型在通用中文基座模型(如 Chinese-LLaMA、ChatGLM 等)的基础上扩充法律领域专有词表、大规模中文法律语料预训练,增强了大模型在法律领域的基础语义理解能力。在此基础上,构造法律领域对话问答数据集、中国司法考试数据集进行指令精调,提升了模型对法律内容的理解和执行能力。

开源仓库:https://github.com/pengxiao-song/LaWGPT

我的运行环境:Pytorch 1.9.1 Ubuntu
1 * NVIDIA T4 32G

1、安装conda环境

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2023.03-Linux-x86_64.sh
bash Anaconda3-2023.03-Linux-x86_64.sh

设置环境变量

export PATH="/home/ubuntu/anaconda3/bin:$PATH"
source ~/.bashrc

2、clone模型安装依赖

# 下载代码
git clone git@github.com:pengxiao-song/LaWGPT.git
cd LaWGPT# 创建环境
conda create -n lawgpt python=3.10 -y
conda activate lawgpt
pip install -r requirements.txt

3、安装模型推理所需包

conda install cudatoolkit
conda install scipy
conda insatll chardet

4、运行webui界面

bash scripts/webui.sh

注意,这一步需要使用huggingface上已经训练好的模型,我的服务器是新加坡地区访问可以正常下载,国内的服务器可能会出现下载卡顿,总共14G左右的模型
在这里插入图片描述
5、访问weui就可以体验这个法律模型了

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述


http://www.ppmy.cn/news/595584.html

相关文章

vue 将登录后信息放入cookie中,后端请求接口携带

第一步 import Cookies from "js-cookie";//将需要的信息放入cookie Cookies.set("deptId", res.user.dept.deptId, { expires: 30 });引入cookies import Cookies from "js-cookie";// 查询参数queryParams: {deptName: undefined,status: un…

Java语言生成一个图片卡通人物形象,呆萌,可爱,新颖(chatgtp3.5创作演示)

chatgtp3.5创作演示,非作者本人原著,请知悉。 仔细阅读下面的程序代码,发现chatgpt直接给出了一个卡通人物生成器的代码,不过不能直接运行,给了一个大体的思路。这也已经非常超出了我的预期。还把opencv的库也调用过来…

视频抠图工具,数字人一键换背景

文章目录 环境补充:ffmpeg 绿幕背景转换透明背景 webm 环境 conda create -n py10-background conda activate py10-backgroundpip install torch2.0.0cu118 torchvision0.15.1cu118 torchaudio2.0.1 --index-url https://download.pytorch.org/whl/cu118补充&…

线条边框简笔画图片大全_表情包丨表情包简笔画图片大全可爱

表情包丨表情包大全可爱表情包丨搞笑表情包动态表情包丨表情包简笔画图片大全可爱 我们总是把最宽容的样子留给别人,却把最恶毒最伤人的话留给了自己最亲的人。每个人心中都有一道暗伤,人的一生都是要经历太多的生离死别,那些突如其来的离别往…

火爆全网!这个 Python 项目很骚气!一秒生成可爱像素风图片!

本文转自量子位,作者郭一璞 整理来自:大邓和他的Python 像文字云一样,用各种小图拼出大的图片,构建一个像素风的世界,就像《我的世界》里一样,一定非常有趣。 还可以拿来做拼贴画、十字绣等装饰。 在这个名…

PS把图片处理成可爱蜡笔画教程

PS把图片处理成可爱蜡笔画教程 2009-04-15 13:06:27 作者: 来源: 互联网 浏览次数: 372 文字大小:【 大】【 中】【 小】 原图 最终效果 1、打开原图,复制一层。 2、在复制的图层上进行滤镜-艺术效果-粗糙蜡笔&…

HTML那些可爱的“表情包”

今天和大家一起来分享一下新学的HTML标签,有人会问那什么是HTML呢?HyperText MarkupLanguage,是不是觉得太高大上了。它是超文本标记语言,标准通用标记语言下的一个应用。“超文本”就是指页面内可以包含图片、链接,甚…

CSDN 博文写作小技巧 (标题超链接、跳转指定博客的指定位置、图片居中、动图制作、可爱文字、定时博客发布、快速博客写作)

CSDN 博文写作小技巧 (标题超链接、跳转指定博客的指定位置、图片居中、动图制作、可爱文字、定时博客发布、快速博客写作) 🤖 作者简介:努力的clz ,一个努力编程的菜鸟 🐣🐤🐥 👀 文章专栏&a…