ragflow连不上ollama的解决方案

ops/2024/12/12 10:56:06/

由于前期wsl默认装在C盘,后期部署好RagFlow后C盘爆红,在连接ollama的时候一直在转圈圈,问其他人没有遇到这种情况,猜测是因为内存不足无法加载模型导致,今天重新在E盘安装wsl

在这里插入图片描述
在这里插入图片描述

使用wsl装Ubuntu

Win11 wsl-安装教程

如何给WSL 2扩容硬盘(即扩展虚拟大小)

wsl 命令
查内存:wsl df -h /.
启动:wsl -d xxxx
关闭:

在Ubuntu装docker

教程
在安装docker时,注意配置镜像源文件/etc/docker/daemon.json

配置完后,需要重启docker才能生效,这个时候,就开始爆bug了,第一次装没遇到的Bug此时全都出来了,从网站找了各种方案都没解决,直接卸载重新装一遍docker就行

ollama_21">在Ubuntu装ollama

1、安装命令

sudo curl -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述
这里我有点怀疑是不是ollama的官网有问题导致我昨天添加模型一直转圈圈。。。。。

在国内环境下,这个方法往往会卡住

首先下载并修改安装脚本,然后修改下载源

# 下载安装脚本
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh# 给脚本添加执行权限
chmod +x ollama_install.sh
把下面两个地址
https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}
https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}
分别改成
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64
https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.2/ollama-linux-amd64-rocm.tgz

好用的github文件加速
2、拉取模型
首先,你需要创建一个新的文件夹来存放Ollama模型

sudo mkdir /path/to/ollama/models

我的本地模型统统存在D:\04 Ollama models
确保这个目录的权限用户和组都是root,并且权限全开,为777。如果不是,可以用以下命令设置

sudo chown -R root:root /path/to/ollama/models
sudo chmod -R 775 /path/to/ollama/models

接下来,你需要编辑Ollama的服务文件来指定新的模型存储路径

sudo vim /etc/systemd/system/ollama.service

在[Service]部分下加入一行新的Environment,设置OLLAMA_MODELS环境变量指向你创建的目录

Environment="OLLAMA_MODELS=/path/to/ollama/models" # 记得替换路径!!!

刷新配置并重启Ollama:保存并退出编辑器后,执行以下命令来刷新配置并重启Ollama服务

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

最后,你可以通过运行ollama list命令来检查路径是否设置成功

ollama的模型参数说明书

在Ubuntu部署RagFlow

sudo sysctl -w vm.max_map_count=262144

修改ragflow/docker/.env,将需要的RAGFLOW_IMAGE取消注释
在这里插入图片描述

docker compose -f docker-compose.yml up -d

第一次拉镜像贼慢,waiting~~~~~~~

11434时Ragflow分给ollama的端口,如果是第一次装,在ragflow拉完镜像后先进入 http://loacalhost:80进行注册,然后再进行后续操作

检查ollama是否运行:进入http://loacalhost:11434,正常情况显示Ollama is running,如果ragflow没有完全配置好,会提示网络错误

可以通过打印日志来检查ragflow服务是否正常运行,

docker logs -f ragflow-server

正常界面如下
在这里插入图片描述
之前我有遇到过文件丢失的情况,但实际上文件并没有丢失,如图
在这里插入图片描述
据说是因为镜像损坏,可以更换镜像,详细修改参考这里

9GB的镜像,已经拉了3.5h+了
在这里插入图片描述


http://www.ppmy.cn/ops/141229.html

相关文章

windows 脚本批量管理上千台服务器实战案例

如果你们有接触服务器,都是知道服务器有BMC管理界面的,这几天我在做项目中,需要不断的开关机服务器,如果一两台服务器登录BMC界面重启服务器还好,如果服务器数量非常的庞大,成百上千台,我们不可…

JWT报CORSFilter错误原因(以Java SpringBoot为例)

JWT 报 CorsFilter 原因,通常是因为跨域请求未通过浏览器的同源策略检查,而 CorsFilter 是用来处理跨域问题的过滤器。如果后端未正确配置 CORS 或 JWT 的传递方式不符合跨域要求,可能导致此类问题。 以下是具体原因及解决方法: …

Spring Boot读取配置文件的六种方案

从配置文件中获取属性应该是SpringBoot开发中最为常用的功能之一,但就是这么常用的功能,仍然有很多开发者在这个方面踩坑,以下是我整理的几种获取配置属性的方式。 一、Environment 使用 Environment 方式来获取配置属性值非常简单&#xf…

location规则和rewrite重定向

location匹配规则 在nginx当中,匹配的对象一般是uri来匹配 location匹配的分类: 多个location一旦匹配其中之一,就不在匹配其他的location 1、精确匹配 location / {…} :完全相同,一个字符错都匹配不到 2、正则匹配 location ~…

迭代器模式的理解和实践

引言 在软件开发中,我们经常需要遍历容器对象(如数组、列表、集合等)中的元素。如果每个容器对象都实现自己的遍历算法,那么代码将会变得冗余且难以维护。为了解决这个问题,迭代器模式应运而生。迭代器模式是一种行为型…

Linux之cpu性能分析(Analysis of CPU Performance in Linux)

💝💝💝欢迎来到我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 本人主要分享计算机核心技…

亚马逊云科技re:Invent:生成式AI与全球布局

作为全球云计算和人工智能领域一年一度的顶级盛宴,亚马逊云科技2024 re:Invent全球大会吸引了超过6万名现场观众以及40多万名线上参会者。而大会上生成式AI的相关话题和内容,也成为了所有观众关注的焦点。 大会期间,亚马逊云科技全球服务副总…

【Python】【Conda 】Conda vs venv:Python开发者的虚拟环境选择指南

目录 引言一、概述1.1 Conda 虚拟环境1.2 Python venv 虚拟环境 二、安装与设置2.1 安装 Conda 虚拟环境2.2 安装 Python venv 虚拟环境 三、依赖管理3.1 Conda 依赖管理3.2 Python venv 依赖管理 四、适用场景五、性能与资源占用5.1 Conda 性能与资源占用5.2 Python venv 性能…