【ChatGLM】本地版ChatGPT ?6G显存即可轻松使用 !ChatGLM-6B 清华开源模型本地部署教程

news/2025/2/12 2:25:55/

目录

感谢B站秋葉aaaki大佬

前言

部署资源

部署流程 

实机演示

ChatGML微调(人格炼成)(个人感觉蛮有趣的地方)

 分享有趣の微调人格

 实机演示(潘金莲人格)


感谢B站秋葉aaaki大佬

秋葉aaaki的个人空间_哔哩哔哩_bilibilihttps://space.bilibili.com/12566101

前言

由于ChatGLM-6B的规模较小,目前已知其具有相当多的局限性,如事实性/数学逻辑错误,可能生成有害/有偏见内容,较弱的上下文能力,自我认知混乱,以及对英文指示生成与中文指示完全矛盾的内容。请大家在使用前了解这些问题,以免产生误解。

很明显这个模型,因为是中文训练的,在很多数据上非常适合中文提问和回答
其次,本模型有思想钢印的存在,部分滑梯是不能说的

 但是其也有着本地部署和开源社区的优势。

部署资源

模型可以从huggingface上下载

THUDM/chatglm-6b · Hugging Facehttps://huggingface.co/THUDM/chatglm-6bwebui项目地址,目前只是简易版仍然在更新 ChatGLM-webui:

Akegarasu/ChatGLM-webui: A WebUI for ChatGLM-6B (github.com)https://github.com/Akegarasu/ChatGLM-webui

链接: 

百度网盘 请输入提取码 (baidu.com)https://pan.baidu.com/share/init?surl=xuCvJDbQYlHECY5-2b3-Eg提取码: y2ab

部署流程 

将这三个压缩包解压到同一个文件夹

解压后如下图所示 

 

 将更新的的压缩包放入文件夹进行替换

实机演示

 点击自己机型对应显存的程序

 进行本地web—UI的配置

 这样便可以在本地配置成功了

ChatGML微调(人格炼成)(个人感觉蛮有趣的地方)

 分享有趣の微调人格

 下载链接人格设定分享_免费高速下载|百度网盘-分享无限制 (baidu.com)https://pan.baidu.com/s/14z3X5BL5n9cJnW7b9GtZ4A?pwd=Glut#list/path=%2F

 实机演示(潘金莲人格)


http://www.ppmy.cn/news/659223.html

相关文章

高压线路距离保护程序逻辑原理(四)

四、距离I段快速动作程序逻辑框图 距离保护的故障处理程序主要有三个组成部分:手合及I段快速跳闸部分;I、II段延时动作部分;跳闸及后加速部分。后者在第二章的保护故障处理程序中作为各类保护共有的程序分析过。这里只分析I段的程序逻辑框图…

本地axure做好的展示网站如何发布到互联网上访问?快解析端口映射

Axure 是产品经理常用的原型设计工具,设计的原型导出的html就是一个静态网站的文件,可以部署在服务器、对象存储上做成一个静态网站,然后通过 快解析免费域名(或自己的独立域名)外网访问,用它就可以完成从设…

【实例】python 使用beautifulSoup 抓取网页正文 以淘宝商品价格为例

参考文章: 利用BeautifulSoup抓取新浪网页新闻的内容 使用Requests库和BeautifulSoup库来爬取网页上需要的文字与图片 ------------------------------------------------------------------- >>> import requests>>> import re >>>…

苹果7plus专用计算机,iPhone 7 Plus惨了竟用TLC内存?果粉要哭了

【PConline 资讯】随着iPhone 7和iPhone 7 Plus的开卖,各大科技媒体纷纷开始对iPhone 7进行评测,然而大家对其内部结构也是充满了好奇心,现在据iFixit的拆机报告显示,部分128GB版本的iPhone7 Plus采用的是TLC存储芯片。 iPhone 7拆…

一次线上事故,我顿悟了异步的精髓

在高并发的场景下,异步是一个极其重要的优化方向。 前段时间,生产环境发生一次事故,笔者认为事故的场景非常具备典型性 。 写这篇文章,笔者想和大家深入探讨该场景的架构优化方案。希望大家读完之后,可以对异步有更深…

redismariadb + keepalived 高可用

目录 机器准备 安装后服务 redis 安装redis mariadb 安装mariadb 启动和配置 互为主从同步配置 keepalived keepalived安装 修改主从 keepalived的配置 主从配置-mariadb监控 主从配置-redis监控 查看和使用 Keepalived Mariadb redis 机器准备 两台机器&…

店宝宝:9.9致富经

一把小小的电动牙刷还掀起了一个百亿级别的市场浪潮。 淘宝第三方监测数据显示,2017年淘宝电动牙刷销售额约18亿元;2018年翻了一倍多,达到38亿元;2019年全年销售额同比继续增长50%,约为57亿元,行业实现爆发…

亚马逊Prime会员日:销量超去年“黑五”及“网络星期一”总和

近日,亚马逊宣布2019年亚马逊Prime会员日销售在全球范围内再创新高,7月15、16日两天的销量超过去年 “黑色星期五”及“网络星期一”的总和,再度成为亚马逊全球史上最大的购物狂欢。2019亚马逊中国Prime会员日海外购销售额同比去年也实现了3倍…