Dify Ollama本地私有化模型实践

embedded/2025/2/9 6:26:00/
aidu_pl">

今天给大家带来一篇deepseek本地部署,笔者最近由于研究AI大模型应用开发,笔记较少,后面将持续输出关于AI行业应用知识,请大家继续关注,话不多说,开始吧,啊哈哈。

DeepSeek 呢,最近十分火爆,也经常被国外网站攻击,相信大家都知道了,不过官网因为某些总所周知的原因,经常宕机不可用,我们可以自己在本地部署 DeepSeek R1 来解决这个问题,本地部署运行是指将智能助手部署在用户本地设备上,直接处理数据和任务,无需依赖云端服务。这种方式确保数据隐私和安全,适合对数据敏感性要求高的场景。用户需确保本地环境满足硬件和软件要求,并负责安装、配置和维护。

本地部署大模型如DeepSeek有三大优势:首先,保护隐私与数据安全,避免敏感信息上传至云端,防止第三方访问;其次,支持模型定制化与优化,通过微调适应特定业务需求,如行业术语和企业内部知识库;最后,离线运行能力,适用于无网络环境,提高系统稳定性,即使云服务宕机,本地模型仍可正常工作。

安装步骤

1、Ollama 下载地址:pan.quark.cn/s/40bf367f8cc0 或者 https://ollama.com/download

ollama 支持的大模型还是非常多的。

3、打开下载后的 ollamaSetup.exe 文件,进行安装,

4、安装成功后,打开 Ollama 软件

5、然后运行 cmd 命令行工具

6、DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b 671b,版本越高对GPU要求越高。每一个版本都对应一个安装命令,复制下来。然后以管理员身份运行CMD命令,输入上述命令。例如:ollama run deepseek-r1:1.5b,则自动在线部署安装。

7、部署完成后,我们可以使用直接在命令窗口输入想问的问题。

8、如果不用界面,到这里大家部署完成。如果想要一个带界面的软件输出内容,请继续安装 ChatBox 软件。下载界面:https://chatboxai.app/zh

9、安装成功后,在 ChatBox 设置中配置 API 信息,然后就可以使用啦

或者可以使用网页版   https://web.chatboxai.app          ChatBox 设置中配置 API 信息如下:

10、如果你同时也使用 Zotero 软件,也可以配合 Zotero Box 插件在 Zotero 软件中丝滑地使用 DeepSeek 大模型 

Zotero 软件 下载地址:https://www.zotero.org/download

Zotero Box 插件下载地址:https://www.scigreat.com/info/zotbox

ollama 软件 下载地址:https://pan.quark.cn/s/40bf367f8cc0

以上分享完毕,谢谢大家!


http://www.ppmy.cn/embedded/160740.html

相关文章

Debian安装Seafile

前言 Debian 无图形化界面通过 docker 安装 Seafile。我安装 Seafile12 没有成功,按照之前经验安装。 方法 安装docker 参考官方文档 Install Docker Engine on Debian。 设置 Docker’s apt repository. # Add Dockers official GPG key: sudo apt-get updat…

三、OSG应用基础

一、 OsgGA: 界面事件处理空间,处理操作各种操作器的最大名字空间; GUIEventHandler: ui 事件操作类 注意:在启用事件类自定义时,我的Win10专业版出现一个键盘输入系统兼容的问题; OSG Viewer输入按键无响应 1 问…

Unity3D实现UGUI拖拽移动

系列文章目录 unity工具 文章目录 系列文章目录👉前言👉一、实现原理👉二、方法一👉方法二👉壁纸分享👉总结👉前言 在 Unity UGUI 中实现拖拽移动的功能,主要基于事件系统、坐标转换和位置更新这几个关键步骤,下面详细介绍其原理 博客将会介绍如何实现UGUI拖…

mysql8 从C++源码角度看sql生成抽象语法树

MySQL 8的C源码中,SQL语句的词法分析和语法分析是通过一个复杂的解析器实现的,这个解析器将输入的SQL文本转换成抽象语法树(AST)。以下是该过程的主要步骤和相关组件: 主要组件 Lexer (词法分析器): MySQL使用了一个称…

casbin+iris实现权限控制

在现代Web应用开发中,权限控制是确保系统安全性和用户体验的关键部分。Casbin 是一个强大的开源访问控制库,支持多种访问控制模型(如RBAC、ABAC等),而Iris则是一个高性能的Go语言Web框架。结合两者,我们可以…

(篇三)基于PyDracula搭建一个深度学习的软件之解析yolo算法融合

文章目录 1YoloPredictor类——检测器1.1继承BasePredictor解析1.2继承QObject解析 2MainWindow类——主窗口 在前面两篇中,篇一介绍了启动界面的制作,篇二介绍了如何修改PyDracula的界面,那么这一篇我们学习一下yolo要融合进入软件中&#x…

Centos Stream 10 根目录下的文件夹结构

/ ├── bin -> usr/bin ├── boot ├── dev ├── etc ├── home ├── lib -> usr/lib ├── lib64 -> usr/lib64 ├── lostfound ├── media ├── mnt ├── opt ├── proc ├── root ├── run ├── sbin -> usr/sbin ├── srv ├─…

R包:ggalign调整和组合多个图形的R包

文章目录 介绍案例安装R包教程1教程2参考 介绍 这个包扩展了ggplot2,提供了用于对齐和组织多个图的高级工具,特别是那些自动重新排序观察结果的工具,比如树形图。它提供了对布局调整和情节注释的精细控制,使您能够创建复杂的、出…