win11本地部署deepseek大模型(安装ollama+docker+open-webui)最终实现自己的项目可通过API调用投喂数据后的模型

devtools/2025/3/1 23:02:31/
aidu_pl">

硬件配置:笔记本win11,内存32G,CPU锐龙7 ,无独显;只能考虑deepseek-r1:1.5b模型。

第一步:安装Ollama

此处不过多累赘了,https://ollama.com/官网选择对应的系统版本下载即可。

需要注意的是直接安装是安装到C盘,也可以通过命令安装到D盘。

通过 ”OllamaSetup.exe /dir="D:\Program Files\Ollama”命令可以指定Ollama安装目录

C:\Users\weijian>d:
D:\>cd “Program Files"
D:\Program Files>OllamaSetup.exe /dir="D:\Program Files\Ollama”

安装成功后,再下载deepseek-r1的模型(并保存在 C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置ollama_models进行修改,然后重启终端,重启 ollama 服务)。

ollama run deepseek-r1:1.5b

此处因为我下载完成了,第一次执行时候等待完成100%即可。

第二步:安装docker

安装之前准备工作

1 CPU开启虚拟化

没有开启的需要通过BIOS进行开启,这去取决于每个人的电脑,不同的品牌操作起来不一样

2启用关闭Windows功能

官网直接下载安装https://www.docker.com/

第三步:部署open-webui

开源open webUI 官网🏡 Home | Open WebUI

docker方式安装

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

完成后访问http://localhost:3000/

第一次登录需要注册管理员,进入后台发现页面非常友好且功能强大。

在工作空间内可以添加知识库,添加模型(基础模型+知识库)。

第四步:关于API调用问题

ollama的API调用   GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.

postman测试

 

open-webui的API调用

https://docs.openwebui.com/getting-started/api-endpoints/

postman测试

最后总结,部署还有其他方式 Linux系统  sglang/vllm。


http://www.ppmy.cn/devtools/163754.html

相关文章

【PCIe 总线及设备入门学习专栏 10.1 -- Linux PCIe 驱动框架 之 RK3399 Region1 访问】

文章目录 CPU 读写 region 0 的地址MEM/IO 读写示例配置 Region1 用于内存读写配置 Region 1 地址转换Region 1 地址访问desc registersCPU 读写 region 0 的地址 本篇文章紧接【PCIe 总线及设备入门学习专栏 10 – Linux PCIe 驱动框架】 由【PCIe 总线及设备入门学习专栏 1…

【 实战案例篇三】【某金融信息系统项目管理案例分析】

大家好,今天咱们来聊聊金融行业的信息系统项目管理。这个话题听起来可能有点专业,但别担心,我会尽量用大白话给大家讲清楚。金融行业的信息系统项目管理,说白了就是如何高效地管理那些复杂的IT项目,确保它们按时、按预算、按质量完成。咱们今天不仅会聊到一些理论,还会通…

基于大数据的空气质量数据可视化分析系统

【大数据】基于大数据的空气质量数据可视化分析系统&#xff08;完整系统源码开发笔记详细部署教程&#xff09;✅ 目录 一、项目简介二、项目界面展示三、项目视频展示 一、项目简介 本系统的实践价值在于将大数据技术与空气质量监测相结合&#xff0c;为公众、研究机构和政府…

Django+Vue+数据可视化的网络考试与测评系统(程序+论文+讲解+安装+调试+售后)

感兴趣的可以先收藏起来&#xff0c;还有大家在毕设选题&#xff0c;项目以及论文编写等相关问题都可以给我留言咨询&#xff0c;我会一一回复&#xff0c;希望帮助更多的人。 系统介绍 本网络考试与测评系统是信息技术与教育测评领域深度融合的创新成果。它基于先进的 Djang…

YOLOv8车牌关键点定位与矫正识别系统

文章目录 研究背景一、效果演示1.0 项目获取1.1 图像识别1.2 视频识别1.3 摄像头识别 二、技术原理2.1 整体流程2.2 CCPD数据集介绍2.3 车牌定位2.4 车牌矫正2.5 车牌识别2.5.1 CRNN概述2.5.2 CRNN网络架构实现2.5.3 CNN结构2.5.4 RNN结构 环境配置安装教程与资源说明 参考文献…

Git实战

Git最新最新详细教程、安装&#xff08;从入门到精通&#xff01;&#xff01;&#xff01;&#xff01;企业级实战&#xff01;&#xff01;&#xff01;工作必备&#xff01;&#xff01;&#xff01;结合IDEA、Github、Gitee实战&#xff01;&#xff01;&#xff01;&#…

如何免费使用稳定的deepseek

0、背景&#xff1a; 在AI辅助工作中&#xff0c;除了使用cursor做编程外&#xff0c;使用deepseek R1进行问题分析、数据分析、代码分析效果非常好。现在我经常会去拿行业信息、遇到的问题等去咨询R1&#xff0c;也给了自己不少启示。但是由于官网稳定性很差&#xff0c;很多…

Vue进阶之AI智能助手项目(五)——ChatGPT的调用和开发

AI智能助手项目 前端页面Layout布局页面-viewssrc/views/chat/layout/Permission.vuesrc/views/chat/layout/sider/index.vuesrc/views/chat/layout/sider/List.vuesrc/views/chat/layout/sider/Footer.vueComponents 组件Header/index.vueMessage/index.vue前端页面 Layout布…