DB-GPT 安装

news/2024/10/12 14:22:55/

从源代码开始安装,因为docker镜像库不能用了。。。

参考官网:
https://docs.dbgpt.site/docs/latest/quickstart
安装文档 - source
https://docs.dbgpt.site/docs/latest/installation/sourcecode

下载源代码
Download DB-GPT
git clone https://github.com/eosphoros-ai/DB-GPT.git
报错
remote: Counting objects: 100% (208/208), done.
remote: Compressing objects: 100% (175/175), done.
error: RPC failed; curl 56 GnuTLS recv error (-9): Error decoding the received TLS packet.
error: 57342 bytes of body are still expected
fetch-pack: unexpected disconnect while reading sideband packet
fatal: early EOF
fatal: fetch-pack: invalid index-pack output
奇怪 ,貌似我的这个Ubuntu有问题,不深究,从别的Ubuntu系统下载,然后拷贝过去
tar -zcvf DB-GPT.tgz DB-GPT/
scp DB-GPT.tgz root@192.168.254.194:/data/

下载minoconda和python
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
chmod +x Miniconda3-latest-Linux-x86_64.sh
./Miniconda3-latest-Linux-x86_64.sh

You can undo this by running `conda init --reverse $SHELL`? [yes|no]
[no] >>>
这里要选yes

source ~/.bashrc

注意:
Do you wish to update your shell profile to automatically initialize conda?
This will activate conda on startup and change the command prompt when activated.
If you'd prefer that conda's base environment not be activated on startup,
   run the following command when conda is activated:
conda config --set auto_activate_base false
You can undo this by running `conda init --reverse $SHELL`


conda create -n dbgpt_env python=3.10
conda activate dbgpt_env


cd /data/DB-GPT/

conda install pytorch
conda install fastapi
conda install python-dotenv
conda install cachetools
cd /data/DB-GPT/
pip install -e ".[default]"

提示:
Running setup.py develop for dbgpt
很快完成


sudo yum install qemu-kvm libvirt libvirt-devel libguestfs-tools virt-install bridge-utils
sudo systemctl start libvirtd
sudo systemctl enable libvirtd
sudo yum install virt-manager


conda install pytorch
报错:
Retrying (Retry(total=0, connect=None, read=None, redirect=None, status=None)) after connection broken
 by 'ReadTimeoutError("HTTPSConnectionPool(host='repo.anaconda.com', port=443): Read timed out. (read timeout=9.15)")': /pkgs/main/linux-64/gmpy2-2.1.2-py310heeb90bb_0.conda
解决办法:
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes

pip install -e ".[default]"
报错:
Downloading nvidia_cudnn_cu12-8.9.2.26-py3-none-manylinux1_x86_64.whl (731.7 MB)
   ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━╺━━━━━ 622.3/731.7 MB 489.4 kB/s eta 0:03:44
pip._vendor.urllib3.exceptions.ReadTimeoutError: HTTPSConnectionPool(host='files.pythonhosted.org', port=443): Read timed out.
网络问题,后面加个参数proxy配置即可
pip install -e ".[default]" --proxy http://myproxy:8086

export PYTHONPATH=/data/DB-GPT
export PYTHONPATH=/data/DB-GPT

models
需要下载
cd DB-GPT
mkdir models and cd models


# Add the Git LFS package repository
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash

# Update your package lists
sudo apt-get update

# Install Git LFS
sudo apt install git-lfs

# embedding model
git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
# also you can use m3e-large model, you can choose one of them according to your needs
# git clone https://huggingface.co/moka-ai/m3e-large

# LLM model, if you use openai or Azure or tongyi llm api service, you don't need to download llm model
git clone https://huggingface.co/THUDM/glm-4-9b-chat

apt install rar
rar a -v500m models.rar models/*
scp models.part00*.rar root@192.168.254.194:/data/DB-GPT/
scp root@172.21.254.215:/mnt/bigstore/nfs_zstack/upload_zstack/temp/dbgpt.models/*.rar 

环境说明:
model_name: glm-4-9b-chat
model_path: /data/DB-GPT/models/glm-4-9b-chat
 

========================================

启动DB-GPT的脚本

startDB-GPT.sh
#!/bin/sh
#

conda activate dbgpt_env

cd /data/DB-GPT


/data/miniconda3/envs/dbgpt_env/bin/python dbgpt/app/dbgpt_server.py
========================================

db-gpt.service

[Unit]
Description=My Conda Script Service DB-GPT
After=network.target

[Service]
Type=onshot
#simple
ExecStart=/data/startDB-GPT.sh
Restart=on-failure
User=root
Environment="PATH=/usr/bin:/data/miniconda3/condabin:$PATH"
WorkingDirectory=/data/DB-GPT
Environment="CONDA_DEFAULT_ENV=dbgpt_env"
StandardOutput=journal
StandardError=file://data/DB-GPT/error.log
Environment="CONDA_EXE=/data/miniconda3/bin/conda"
Environment="CONDA_PREFIX=/data/miniconda3/envs/dbgpt_env"
Environment="CONDA_PREFIX_1=/data/miniconda3"
Environment="CONDA_PROMPT_MODIFIER='(dbgpt_env) '"
Environment="CONDA_PYTHON_EXE=/data/miniconda3/bin/python"

[Install]
WantedBy=multi-user.target
 


http://www.ppmy.cn/news/1537905.html

相关文章

边缘人工智能(Edge Intelligence)

边缘人工智能(Edge AI)是指在边缘设备上直接运行人工智能(AI)和机器学习(ML)算法的技术。机器学习是一个广泛的领域,近年来取得了巨大的进步。它所基于的原则是,计算机可以通过从数据…

[C语言]结构体

1.什么是结构体 结构是多种类型的数据的集合。。且每个结构成员都有名字,因此当使用特定的成员时需要指明结构体成员的名字。 2.结构体的声明 以学生的数据为例: struct student //student结构名{char name; //name结构体成员名int height;…

创建docker虚拟镜像,创建启动服务脚本

进入系统命令服务目录 编辑服务 [Unit] DescriptionDocker Application Container Engine Documentationhttps://docs.docker.com Afternetwork-online.target firewalld.service Wantsnetwork-online.target [Service] Typenotify ExecStart/usr/bin/dockerd ExecReload/bin/…

[spring]Spring AOP 及 代理模式

文章目录 一. AOP介绍二. AOP使用Spring AOP核心概念切点连接点通知切面 通知类型PointCut切面优先级Order切点表达式execution(....)annotation自定义注解使用annotation添加自定义注解 三. 代理模式 一. AOP介绍 Spring框架两大核心: IoCAOP 二. AOP使用 引入依赖 &…

flutter打包后如何看打印信息

一、确保设备已连接并被识别 首先,确保你的手机已经通过 USB 连接到电脑,并且 USB 调试(Android)或开发者模式(iOS)已经启用。在终端输入以下命令,查看设备是否已被识别: flutter d…

时序逻辑-延一拍/打一拍?

一、时序逻辑中的同步复位和异步复位 同步复位的D触发器 同步复位的D触发器中的“同步”是和工作时钟同步的意思,也就是说,当时钟的上升沿(也可以是下降沿,一般习惯上为上升沿触发)来到时检测到按键的复位操作才有效&a…

【NoSQL】portswigger NoSQL注入 labs 全解

目录 NoSQL NoSQL 数据库模型 NoSQL 注入的类型 NoSQL 语法注入 检测 MongoDB 中的语法注入 lab1:检测 NoSQL 注入 NoSQL 运算符注入 提交查询运算符 检测 MongoDB 中的运算符注入 lab2:利用 NoSQL 运算符注入绕过身份验证 利用语法注入来提取数据 MongoDB 中的数据…

深入理解 Django 自定义用户模型

1. 引言 Django 作为一个强大的 Web 框架,内置了用户认证系统。然而,实际项目中我们通常需要扩展用户模型,以满足不同的业务需求。Django 提供了继承 AbstractUser 的方式,让我们能够轻松地定制用户模型。本文将通过一个自定义用…