win11本地部署deepseek大模型(安装ollama+docker+open-webui)最终实现自己的项目可通过API调用投喂数据后的模型

server/2025/2/27 14:44:50/
aidu_pl">

硬件配置:笔记本win11,内存32G,CPU锐龙7 ,无独显;只能考虑deepseek-r1:1.5b模型。

第一步:安装Ollama

此处不过多累赘了,https://ollama.com/官网选择对应的系统版本下载即可。

需要注意的是直接安装是安装到C盘,也可以通过命令安装到D盘。

通过 ”OllamaSetup.exe /dir="D:\Program Files\Ollama”命令可以指定Ollama安装目录

C:\Users\weijian>d:
D:\>cd “Program Files"
D:\Program Files>OllamaSetup.exe /dir="D:\Program Files\Ollama”

安装成功后,再下载deepseek-r1的模型(并保存在 C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置ollama_models进行修改,然后重启终端,重启 ollama 服务)。

ollama run deepseek-r1:1.5b

此处因为我下载完成了,第一次执行时候等待完成100%即可。

第二步:安装docker

安装之前准备工作

1 CPU开启虚拟化

没有开启的需要通过BIOS进行开启,这去取决于每个人的电脑,不同的品牌操作起来不一样

2启用关闭Windows功能

官网直接下载安装https://www.docker.com/

第三步:部署open-webui

开源open webUI 官网🏡 Home | Open WebUI

docker方式安装

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

完成后访问http://localhost:3000/

第一次登录需要注册管理员,进入后台发现页面非常友好且功能强大。

在工作空间内可以添加知识库,添加模型(基础模型+知识库)。

第四步:关于API调用问题

ollama的API调用   GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.

postman测试

 

open-webui的API调用

https://docs.openwebui.com/getting-started/api-endpoints/

postman测试

最后总结,部署还有其他方式 Linux系统  sglang/vllm。


http://www.ppmy.cn/server/171056.html

相关文章

RabbitMQ学习—day6—springboot整合

目录 1. springboot配置 2. 开始写RabbitMq代码 3. 队列优化 4. 插件实现延迟队列 5. 总结 前一小节我们介绍了死信队列&#xff0c;刚刚又介绍了 TTL&#xff0c;至此利用 RabbitMQ 实现延时队列的两大要素已经集齐&#xff0c;接下来只需要将它们进行融合&#xff0c;再加…

SAP Webide系列(7)- 优化FreeStyle新建项目预设模板

目录 一、背景 二、优化目标 三、定位调整点 四、调整步骤 五、效果展示 六、附言 一、背景 在每次通过Webide进行FreeStyle方式自开发SAP UI5应用的时候&#xff0c;新建项目&#xff0c;得到的模板文件都是只有很少的内容&#xff08;没有路由配置、没有设置默认全屏等…

三七互娱游戏策划岗内推

【游戏策划】【美术设计】【市场推广】【游戏运营类】【技术开发】 1、协助完成战斗体验设计&#xff0c;包括动作、特效、镜头等&#xff1b; 2、负责战斗资源的需求文档撰写&#xff0c;对最终的战斗表现和打击感负责&#xff1b; 3、协助完成职业的设计与制作&#xff0c…

Windows AD组策略完整实战文档 | 企业级安全配置指南

&#x1f4c5; 更新日期&#xff1a;2025年2月26日‌ ‌&#x1f516; 适用版本&#xff1a;Windows Server 2025 | Windows 11 23H2‌ Windows AD组策略完整实战文档 | 企业级安全配置指南 &#x1f310; ‌一、AD组策略核心概念‌ 1.1 核心价值 markdown Copy Code &#x1…

ZT15 小红的区间查询

描述 小红拿到了一个仅由正整数组成的数组&#xff0c;她有以下两种操作&#xff1a; 1. 输入1 i x&#xff0c;代表将第i个正整数修改为x。 2. 输入2 i x&#xff0c;代表查询前i个正整数有多少个数等于x。 输入描述&#xff1a; 第一行输入两个正整数n和q&#xff0c;代表数…

MFC文件和注册表的操作

MFC文件和注册表的操作 日志、操作配置文件、ini、注册表、音视频的文件存储 Linux下一切皆文件 C/C操作文件 const char* 与 char* const const char* 常量指针&#xff0c;表示指向的内容为常量。指针可以指向其他变量&#xff0c;但是内容不能再变了 char szName[6]&qu…

火语言RPA--Excel添加Sheet页

【组件功能】&#xff1a;新增Excel工作区 配置预览 配置说明 Sheet页名称 支持T或# Excel工作簿名称。 示例 添加Excel工作簿 描述 添加一个新的Excel文档Sheet 新工作簿。 配置 第一步&#xff1a;打开或新建一个Excel文档&#xff0c;拖入 Excel添加Sheet页组件&am…

策略模式环境类的实现方式对比

文章目录 1、策略模式2、聚合策略类实现方式一3、聚合策略类实现方式二4、对比5、补充&#xff1a;ApplicationContextAware接口 1、策略模式 近期工作中&#xff0c;需要处理4.x和5.x两个版本的数据&#xff0c;所以自然想到的是策略模式&#xff0c;写一个抽象类&#xff0c…