Ubuntu18 安装chatglm2-6b

news/2025/1/31 9:21:12/

记了下Ubuntu18 上安装chatglm2-6遇到的问题。

环境:Ubuntu18.04 +  V100(显卡) + nvcc 11.6  

显卡驱动+cuda+cudnn+aniconda + chatglm6b 的安装 网上有很多, 不记录 了。

chatglm2-6b 我从别的地方拷贝的, 模型也包含了。

遇到的问题:

1、执行 python web_demo.py 的时候 有如下的报错:

        大致意思是,驱动太低,pytorch 太高等,使用 可以查看到  torch 的版本,但是 torch.cuda.is_available() 返回 False。

原因:确实是 conda 创建的环境下  torch安装的太高了。 使用 pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple 安装的时候,   requirements.txt 里面 的 torch 版本写的是大于2.0 . 于是安装了最新的 版本2.1.8 , 这个版本不支持 cuda11.6 。 

解决方案: requirements.txt 中执行 torch 的版本 为 2.0.1 (官方写的支持cuda11.7),11.6也是可以的, 增加 torchvision 版本0.15.2 。

                     如果已经安装好了 torch2.1.8 可以卸载,在重新安装

                            pip uninstall torch

                             pip3 install torch==2.0.1 torchvision==0.15.2   -i          https://pypi.tuna.tsinghua.edu.cn/simple

   pytorch (torch)的版本和cuda 是有对应关系的, 可以在 pytorch 上去查看。 一般小版本的偏差没问题,比如 官网写的  torch2.0.1 支持 cuda11.7 ,但是cuda11.6 也是支持的。

2、在次执行 python web_demo.py 报错:history 需要初始化

       AttributeError: st.session_state has no attribute "history". Did you forget to initialize it? More info: https://docs.streamlit.io/library/advanced-features/session-state#initialization

不知道啥原因, 更改 web_demo2.py 的代码,怎么改都不行。

 解决:使用 streamlit run web_demo2.py 启动方式 就解决了。

3、在 web_demo.py  、web_demo2.py 的代码中注意更改模型的路劲、gpu 的数量等


http://www.ppmy.cn/news/1294247.html

相关文章

C#的StringBuilder属性

目录 一、StringBuilder构造器 二、StringBuilder属性 1.StringBuilder.Capacity 属性 2.StringBuilder.Chars[Int32] 属性 (1)定义 (2)实例 3.StringBuilder.Length 属性 (1)定义 (2&…

手写视频裁剪框

<!-- 截取框 --><divv-show"isShow"class"crop-box":style"{width: cropWidth px,height: cropHeight px,left: cropX px,top: cropY px,}"ref"cropBox"mousedown"startInteraction"><!-- 内容在这里 --…

2024年Python面试题

面试是每一位求职者都要经历的过程&#xff0c;而对于Python开发者来说&#xff0c;掌握Python的基础知识和应用场景是至关重要的。以下是几个具有代表性的Python面试题&#xff0c;通过这些题目&#xff0c;我们可以一窥Python的深度和广度。 问题一&#xff1a;Python中的装…

每日一题——LeetCode1089.复写0

方法一 splice&#xff1a; 通过数组的slice方法&#xff0c;碰到 0就在后面加一个0&#xff0c;最后截取原数组的长度&#xff0c;舍弃后面部分。 但这样做是违反了题目的要求&#xff0c;不要在超过该数组长度的位置写入元素。 var duplicateZeros function(arr) {var le…

studio3T mongodb 根据查询条件更新字段 或 删除数据

1. mongodb 等于、不等于$ne、不包含 $nin 以及批量更新数据的使用。 业务场景&#xff1a; 在集合中&#xff0c;根据查询条件&#xff0c;更新数据状态。 实现代码&#xff1a; 1. 部门名称为XXX、状态不等于“完好”的、并且不包含这些编码的数据先查询出来2. 再把状态更…

oracle增量恢复解决备库GAP问题

Rolling forward a standby database using RMAN Incremental Backup. 模拟归档丢失的情况 一 主库操作&#xff1a; 查看当前归档 停用归档传输 alter system set log_archive_dest_state_2defer; 切换归档 alter system switch logfile; alter system switch logfile; 模拟丢…

找不到mfc110u.dll,是什么原因,五种找不到mfc110u.dll,的解决方法

在日常使用电脑的过程中&#xff0c;我们可能会遇到一些错误提示&#xff0c;其中之一就是“mfc110u.dll丢失”。那么&#xff0c;什么是mfc110u.dll文件&#xff1f;为什么会出现丢失的情况&#xff1f;本文将为您详细介绍mfc110u.dll文件的作用、丢失原因以及提供5种解决方法…

计算机网络——多址复用技术

1. 频分多址&#xff08;FDMA&#xff09; 1.1 基本原理 频率分配&#xff1a;在FDMA系统中&#xff0c;整个可用的频带被分割成多个较小的频带或通道。每个通道分配给一个用户。 时间利用&#xff1a;用户在分配给他们的频道上持续进行通信&#xff0c;不受时间限制。 1.2 优…