大语言模型学习--本地部署DeepSeek

ops/2025/3/6 14:41:39/

本地部署一个DeepSeek大语言模型 研究学习一下。

本地快速部署大模型的一个工具 先根据操作系统版本下载Ollama客户端

1.Ollama安装

ollama是一个开源的大型语言模型(LLM)本地化部署与管理工具,旨在简化在本地计算机上运行和管理大语言模型的流程。它支持多种主流开源模型(如Llama、Mistral、DeepSeek、Qwen等),并通过命令行工具、API接口及丰富的社区生态,为开发者、研究人员和爱好者提供了高效、灵活的本地AI应用开发环境。

下载地址

Download Ollama on Windows

官网地址下载较慢 可以使用以下地址 ollama官方下载最新版-ollama安装包下载v0.5.12.0 windows国内镜像中文版-2265安卓网

github地址

https://github.com/ollama/ollama

ollama可以用来快速安装各种模型

ollama可以安装的模型列表如下

https://github.com/ollama/ollama?tab=readme-ov-file

下载完 本地安装

2.DeepSeek安装

DeepSeek各版本说明

各模型版本硬件说明

B代表“billion”(十亿)

这里先安装模型 ollama run deepseek-r1  7B

安装完成 尝尝鲜

3.ChatBox安装

上述命令行交互太low  可以使用本地AI模型交互客户端 chatBox

官网地址 Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

按照说明配置一下

可以与本地大模型交互一下

至此本地DeepSeek模型就安装完成了


http://www.ppmy.cn/ops/163619.html

相关文章

prometheus搭建服务监控

Prometheus Server安装 创建目录 mkdir /apps解压安装包 tar xvf prometheus-2.55.0.linux-amd64.tar.gz创建软链接 ln -sv /apps/prometheus-2.55.0.linux-amd64 /apps/prometheus ‘/apps/prometheus’ -> ‘/apps/prometheus-2.55.0.linux-amd64’cd /apps/prometheus 检…

开放鸿蒙OpenHarmony 5.0.0 Release 兼容性测试实战经验分享

OpenHarmony 5.0版本的发布时间是2024年12月20日至21日。这个版本带来了许多新特性和改进。现在5.0出了两个release 版本,分别是5.0.0和5.0.1。 就在5.0版本发布不到2周的时间内,2025年01月01日起,不支持新产品基于老分支(OpenHar…

重塑用户体验:用户界面设计、交互设计及视觉体验优化的融合策略

在数字化时代,用户体验(UX)已成为衡量产品成功与否的关键指标之一。一个优秀的产品不仅需要在功能上满足用户需求,更需在用户界面设计(UI)、交互设计(IXD)以及视觉体验上达到高度的和…

PyCharm环境配置实战:从搭建到优化的完整指南

PyCharm作为Python开发的旗舰IDE,其环境配置的合理性直接影响开发效率。本文将结合2025年最新实践,详解环境搭建、虚拟环境管理、性能优化等全流程技巧,助你打造高效开发环境。 © ivwdcwso (ID: u012172506) 一、环境搭建基础篇 1. Python解释器安装 版本选择:推荐P…

【Python爬虫】爬取公共交通路网数据

程序来自于Github,以下这篇博客作为完整的学习记录,也callback上一篇爬取公共交通站点的博文。 Bardbo/get_bus_lines_and_stations_data_from_gaode: 这个项目是基于高德开放平台和公交网获取公交线路及站点数据,并生成shp文件,…

揭开Android View的神秘面纱:深入探索工作原理

引言:View 在 Android 世界的角色 在 Android 开发的广袤天地中,View 无疑是构建用户界面的基石,发挥着举足轻重的作用。从简单的文本显示、按钮点击,到复杂的动画效果、交互设计,View 无处不在,是连接用户…

中间件专栏之Redis篇——Redis中过期key删除和内存淘汰策略

在Redis中,过期键的删除和内存淘汰策略是管理Redis内存的重要机制,确保Redis可以高效地使用内存,并避免由于内存不足导致的性能问题。以下是这两个概念的详细介绍: 一、过期键删除机制 Redis支持对存储的键设置过期时间&#xf…

C#实现语音合成播报器——基于System.Speech的语音交互方案,在windows上实现语音播报指定文本

——基于System.Speech的语音交互方案,在windows上实现语音播报指定文本 一、语音合成播报应用场景 语音合成播报器广泛应用于以下领域: 工业控制:生产线异常报警、设备状态实时播报(如网页4中的WinCC语音报警插件)…