text-generation-webui加载chatglm2-6b时,报错,要求set the option trust_remote_code=True

news/2025/2/1 7:51:26/

背景

使用text-generation-webui加载chatglm2-6b大模型时报错,要求设置option trust_remote_code=True,一开始没注意界面,去翻找配置文件,后来发现,就在Model界面,有一个复选框,可以进行设置!
THUDM_chatglm2-6b requires you to execute the configuration file in that repo on your local machine. Make sure you have read the code there to avoid malicious use, then set the option trust_remote_code=True to remove this error.

解决方案

1、如下图,勾选后,点击【load】:
在这里插入图片描述
2、此时,可以看到命令行中,开始在下载和加载checkpoint了
在这里插入图片描述
3、待加载完后,可以看到【Successfully loaded THUDM_chatglm2-6b】的输出
在这里插入图片描述
4、回到【Text generation】,输入【你是谁?】,可以看到回复了是【ChatGLM2-6B人工智能助手…】
在这里插入图片描述
大功告成!

整理不易,点个赞吧!

整理不易,点个赞吧!

整理不易,点个赞吧!


http://www.ppmy.cn/news/990499.html

相关文章

Yolov8训练自己的数据集合(最新实验数据)

一、安装环境 笔者环境如下: win10 anaconda python3.8二、clone代码 地址如下,可以直接使用git命令进行clone,也可以直接去网站下载 git clone https://github.com/ultralytics/ultralytics代码目录如下所示 三、安装必要的库 其实这里比较重要的是…

实战:Docker+Jenkins+Gitee构建CICD流水线

文章目录 前言Jenkins部署创建Jenkins docker-compose配置maven源启动Jenkins容器安装插件Gitee ssh公匙配置与测试项目提交 Jenkins创建流水线写在最后 前言 持续集成和持续交付一直是当下流行的开发运维方式,CICD省去了大量的运维时间,也能够提高开发…

CentOS 8上安装和配置Redis

在本篇博客中,我们将演示如何在CentOS 8上安装和配置Redis。我们将首先安装Redis,然后配置Redis以设置密码并允许公开访问。 步骤 1:安装Redis 首先,更新软件包列表: sudo yum update安装Redis: sudo yum …

【动态规划part14】| 1143.最长公共子序列、1035.不相交的线、53.最大子序和

目录 🎈LeetCode1143.最长公共子序列 🎈LeetCode1035.不相交的线 🎈LeetCode53.最大子序和 🎈LeetCode1143.最长公共子序列 链接:1143.最长公共子序列 给定两个字符串 text1 和 text2,返回这两个字符串的…

nginx 反向代理浅谈

前言 通常情况下,客户端向Web服务器发送请求,Web服务器响应请求并返回数据。而在反向代理中,客户端的请求不直接发送到Web服务器,而是发送到反向代理服务器。反向代理服务器会将请求转发给真实的Web服务器,Web服务器响…

【Rust教程 | 基础系列2 | Cargo工具】Cargo介绍及使用

文章目录 前言一,Cargo介绍1,Cargo安装2,创建Rust项目2,编译项目:3,运行项目:4,测试项目:5,更新项目的依赖:6,生成项目的文档&#xf…

Exadata磁盘损坏导致磁盘组无法mount恢复(oracle一体机磁盘组异常恢复)---惜分飞

Oracle Exadata客户,在换盘过程中,cell节点又一块磁盘损坏,导致datac1磁盘组(该磁盘组是normal方式冗余)无法mount Thu Jul 20 22:01:21 2023 SQL> alter diskgroup datac1 mount force NOTE: cache registered group DATAC1 number1 incarn0x0728ad12 NOTE: ca…

网络编程(10) : 从connect到三次握手建立连接,再从close到四次挥手断开连接

1、TCP前置知识 1.1什么是TCP TCP 是面向连接的、可靠的、基于字节流的传输层通信协议。 面向连接:必须是一对一建立连接后才能通信可靠的:无论网络链路出现怎么样的变化,TCP可以保证报文一定能被对端收到字节流:流式协议&#…