db-gpt部署问题

news/2024/10/8 15:42:24/

1. 默认安装cpu版torch，可重新安装为gpu版

教程：本地安装torch2.3.1,cuda12.1,python3.10-CSDN博客

2.安装vllm失败，不支持window系统

首次安装缺少dll文件，下载并放到win32目录下解决

PyTorch之loading fbgemm.dll异常的解决办法_pytorch fbgemm-CSDN博客

下载速度超级慢，最后还是下载完了，但把torch对应的版本升级为2.4，还是cpu版的，运行失败，现在项目缺少vllm引擎

卸载vllm，重装gpu版本torch，重新安装了vllm0.5.1版本，显示vllm不支持window

pip install VLLM_VERSION=0.5.1

http://www.ppmy.cn/news/1536202.html

企业架构系列（16）ArchiMate第14节：实施和迁移视角

在企业架构中，为了有效地规划和管理架构的变更与实施，通常会使用不同的视角来描述架构的不同方面。本篇涉及到三个主要视角：项目视角、迁移视角以及实施与迁移视角。一、实施和迁移视角概览 1.项目视角元素与关系：关注项目本身…

Flutter--＞Namespace not specified.

更新Android gradle 7.5.0之后, 运行项目会出现Namespace not specified.问题, 这里出一个我的解决方案. 由于很多库都不可能及时更新适配gradle 7.5.0, 所以可以等pub get将子库拉取到本地之后, 在本地手动添加namespace属性,即可解决本文问题. 作为程序猿,那肯定不可能手动修…

常见的图像处理算法：Sobel边缘检测

Sobel 算子是一个主要用于边缘检测的离散微分算子。它结合了高斯平滑和微分求导，用来计算灰度图像的近似梯度。 Sobel 算子是一个主要用于边缘检测的离散微分算子（discrete differentiation operator）。它结合了高斯平滑和微分求导&#xff…

招联金融2025秋招内推

【投递方式】直接扫下方二维码，或点击内推官网https://wecruit.hotjob.cn/SU61025e262f9d247b98e0a2c2/mc/position/campus，使用内推码 igcefb 投递） 【招聘岗位】后台开发前端开发数据开发数据运营算法开发技术运维软件测试产品策…

【自动驾驶】最近计划看的论文

将对应的论文链接贴出来，当作监督自己。方向：端到端自动驾驶方法论文代码UniADhttps://arxiv.org/pdf/2212.10156https://github.com/OpenDriveLab/UniADVADhttps://arxiv.org/pdf/2303.12077https://github.com/hustvl/VADUADhttps://arxiv.org/pdf…

Linux --入门学习笔记

文章目录 Linux概述基础篇Linux 的安装教程 ⇒ 太简单了，百度一搜一大堆。此处略……Linux 的目录结构常用的连接 linux 的开源软件vi 和 vim 编辑器Linux 的关机、开机、重启用户登录和注销用户管理添加用户 ⇒ ( useradd 用户名 ) （ useradd -d 制定目…

YOLOv8 基于NCNN的安卓部署

YOLOv8 NCNN安卓部署前两节我们依次介绍了基于YOLOv8的剪枝和蒸馏剪枝：https://blog.csdn.net/qq_41335232/article/details/140823592 蒸馏：https://blog.csdn.net/qq_41335232/article/details/142717122 开源代码：li554/yolov8_depl…

Spring Boot 配置全流程总结

1. 简介 Springboot可以简化SSM的配置，提高开发效率。 2. 代码在pom.xml中添加： <parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-parent</artifactId><versi…

db-gpt部署问题

相关文章