今天给大家带来一篇deepseek本地部署,笔者最近由于研究AI大模型应用开发,笔记较少,后面将持续输出关于AI行业应用知识,请大家继续关注,话不多说,开始吧,啊哈哈。
DeepSeek 呢,最近十分火爆,也经常被国外网站攻击,相信大家都知道了,不过官网因为某些总所周知的原因,经常宕机不可用,我们可以自己在本地部署 DeepSeek R1 来解决这个问题,本地部署运行是指将智能助手部署在用户本地设备上,直接处理数据和任务,无需依赖云端服务。这种方式确保数据隐私和安全,适合对数据敏感性要求高的场景。用户需确保本地环境满足硬件和软件要求,并负责安装、配置和维护。
本地部署大模型如DeepSeek有三大优势:首先,保护隐私与数据安全,避免敏感信息上传至云端,防止第三方访问;其次,支持模型定制化与优化,通过微调适应特定业务需求,如行业术语和企业内部知识库;最后,离线运行能力,适用于无网络环境,提高系统稳定性,即使云服务宕机,本地模型仍可正常工作。
安装步骤
1、Ollama 下载地址:pan.quark.cn/s/40bf367f8cc0 或者 https://ollama.com/download
ollama 支持的大模型还是非常多的。
3、打开下载后的 ollamaSetup.exe 文件,进行安装,
4、安装成功后,打开 Ollama 软件
5、然后运行 cmd 命令行工具
6、DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b 671b,版本越高对GPU要求越高。每一个版本都对应一个安装命令,复制下来。然后以管理员身份运行CMD命令,输入上述命令。例如:ollama run deepseek-r1:1.5b,则自动在线部署安装。
7、部署完成后,我们可以使用直接在命令窗口输入想问的问题。
8、如果不用界面,到这里大家部署完成。如果想要一个带界面的软件输出内容,请继续安装 ChatBox 软件。下载界面:https://chatboxai.app/zh
9、安装成功后,在 ChatBox 设置中配置 API 信息,然后就可以使用啦
或者可以使用网页版 https://web.chatboxai.app ChatBox 设置中配置 API 信息如下:
10、如果你同时也使用 Zotero 软件,也可以配合 Zotero Box 插件在 Zotero 软件中丝滑地使用 DeepSeek 大模型
Zotero 软件 下载地址:https://www.zotero.org/download
Zotero Box 插件下载地址:https://www.scigreat.com/info/zotbox
ollama 软件 下载地址:https://pan.quark.cn/s/40bf367f8cc0
以上分享完毕,谢谢大家!