(二)DeepSeek大模型安装部署-Web工具Open-WebUI安装

server/2025/2/7 20:41:33/

大模型安装部署-web工具open-webui安装">DeepSeek大模型安装部署-Web工具Open-WebUI安装

(一)、Open-WebUI的工作流程

(二)、DockerCompose部署Open-WebUI

version: "3"
services:open-webui:image: ghcr.io/open-webui/open-webui:mainenvironment:- OLLAMA_BASE_URL=http://localhost:11434- ENABLE_OPENAI_API=falsenetwork_mode: "host"
  • OLLAMA_BASE_URL 配置ollama连接地址
  • ENABLE_OPENAI_API 禁用连接openai
  • network_mode: "host" 解决Docker容器无法与运行在主机上的Ollama服务通信

执行docker-compose up -d 启动服务,默认端口8080
访问:http://localhost:8080

(三)、Open-WebUI连接不上Ollama问题

可能是因为Ollama没有监听允许外部连接的网络接口。可通过设置环境变量OLLAMA_HOST = 0.0.0.0解决。

vim /etc/systemd/system/ollama.service[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"[Install]
WantedBy=default.target#添加了Environment="OLLAMA_HOST=0.0.0.0:11434"环境变量#为了使更改生效,您需要重新加载systemd的配置。使用以下命令:
sudo systemctl daemon-reload
#最后,重启服务以应用更改:
sudo systemctl restart ollama

http://www.ppmy.cn/server/165758.html

相关文章

旅行社项目展示微信小程序功能模块和开发流程

旅行社当前旅游线路的程序(微信小程序),旨在帮助旅行社更高效地管理线下活动预订,同时为客户提供便捷的报名和查看功能。适用于短途游、团队建设等活动,支持在线预订、缴费及订单管理,可根据用户需求定制更多个性化服务,为公司提升品牌知名度与客户体验。通过简洁明了的…

【Elasticsearch】硬件资源优化

🧑 博主简介:CSDN博客专家,历代文学网(PC端可以访问:https://literature.sinhy.com/#/?__c=1000,移动端可微信小程序搜索“历代文学”)总架构师,15年工作经验,精通Java编程,高并发设计,Springboot和微服务,熟悉Linux,ESXI虚拟化以及云原生Docker和K8s,热衷于探…

4种架构的定义和关联

文章目录 **1. 各架构的定义****业务架构(Business Architecture)****应用架构(Application Architecture)****数据架构(Data Architecture)****技术架构(Technology Architecture)*…

linux通过lvm调整分区大小

前言 当在 LVM 中的磁盘空间耗尽时,可以通过缩小现有的没有使用全部空间的 LVM,在卷组上腾出一些空闲空间。 调整分区大小中,减少/缩小逻辑卷是具有高风险的,会有极大的概率造成数据损坏。 如果可以尽量用新挂盘并增容的方式来扩…

【微服务实战之Docker容器】第八章-微服务实战

文章目录 1 任务2 实战2.1 新建一个微服务模块2.2 使用Docker发布jar包 1 任务 通过IDEA新建一个普通的微服务模块 通过docker发布微服务部署到docker容器 2 实战 2.1 新建一个微服务模块 docker_boot maven依赖 <?xml version"1.0" encoding"UTF-8&qu…

如何开设一个Facebook账户:详细步骤与注意事项

随着社交媒体的迅速发展&#xff0c;Facebook作为全球用户最多的社交平台之一&#xff0c;已经成为了人与人之间沟通交流的重要桥梁。无论是为了和朋友保持联系、获取新闻资讯&#xff0c;还是开展商业推广&#xff0c;开设一个Facebook账户都是不可忽视的一步。 一、准备工作…

lneaught SyntaxError :lnexpected tokenPIaYE(at chunk 5728.bdff1b31.is:1:1)

1.遇到问题&#xff1a; lneaught SyntaxError :lnexpected tokenPIaYE(at chunk 5728.bdff1b31.is:1:1) 当我部署到nginx上之后&#xff0c;第一次测试 没有啥问题当我点击登录之后&#xff0c;然后测试一个删除按钮之后就爆这个错误。 2.原因分析&#xff1a; 我遇到的是缓…

DeepSeek与llama本地部署(含WebUI)

DeepSeek从2025年1月起开始火爆&#xff0c;成为全球最炙手可热的大模型&#xff0c;各大媒体争相报道。我们可以和文心一言一样去官网进行DeepSeek的使用&#xff0c;那如果有读者希望将大模型部署在本地应该怎么做呢&#xff1f;本篇文章将会教你如何在本地傻瓜式的部署我们的…