DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

news/2025/2/3 11:42:02/
aidu_pl">

🌈 个人主页:Zfox_
🔥 系列专栏:Linux

目录

  • 一:🔥 Ollama
    • 🦋 下载 Ollama
    • 🦋 选择模型
    • 🦋 运行模型
    • 🦋 使用 && 测试
  • 二:🔥 Chatbox
    • 🦋 创建你的专属 GPTs
  • 三:🔥 共勉

一:🔥 Ollama

🦋 下载 Ollama

🧑‍💻 https://ollama.com/

  • Ollama 是一个用于管理和部署机器学习模型的工具。
  • 目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。
    在这里插入图片描述

🦁 💻 安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标
在这里插入图片描述

🦋 选择模型

🧑‍💻 点击Search models 搜索框,第一条就是 deepseek-r1 模型。

在这里插入图片描述
这里我们发现了多个不同大小的模型,文件大小适配不同的设备

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

在这里插入图片描述
🎁 借助网上大佬们整理的表格供大家参考,来确认你的电脑可以运行哪个模型:
在这里插入图片描述

🦋 运行模型

运行模型很简单:确定模型后,复制这条指令到终端里
加粗样式
💻 当进度条跑满时,恭喜🎉,你的电脑已经拥有了顶级的推理能力

🦋 使用 && 测试

📚 这里我已经提前下好了,使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型,然后使用 ollama run 对应的模型 就可以了

在这里插入图片描述

输入 /bye即可退出

在这里插入图片描述

📚 ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any commandFlags:-h, --help      help for ollama-v, --version   Show version informationUse "ollama [command] --help" for more information about a command.

🧑‍💻 虽然这里终端已经可以使用了,但是还是不太方便。

  • 这里就有人要问博主了,你推荐的模型确实挺不错的,但是还是太吃操作了,有没有更加方便的使用方式呢?
  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二:🔥 Chatbox

🧑‍💻 浏览器搜索 Chatbox 并下载客户端或者网页版都可以

  1. 设置语言为中文并保存
    在这里插入图片描述
  2. 点击设置选择模型为 OLLAMA API
    在这里插入图片描述
    为了确保可以连接到本地服务,大家按照提供的教程设置一下,不同的操作系统设置不太一样,然后选择 R1模型并保存
  • 连接到本地服务教程跳转
    在这里插入图片描述
    🦁 现在你就可以在 浏览器/客户端 上流畅的使用 R1 了。

🦋 创建你的专属 GPTs

🧑‍💻 点击我的搭档,创建搭档,给ai角色设定人格,你也可以选择现有的搭档,一个资深的行业专家就出现了。
在这里插入图片描述

三:🔥 共勉

😋 以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具 的理解,觉得这篇博客对你有帮助的,可以点赞收藏关注支持一波~ 😉
在这里插入图片描述


http://www.ppmy.cn/news/1568942.html

相关文章

C语言--分支循环实践:猜数字游戏

在这次的实践项目中,需要编写一个可以在控制台运行的猜数字的游戏。 1. 游戏要求 电脑自动生成1~100的随机数玩家输入要猜的数字,猜数字的过程中根据猜的数字的大小给出猜大了猜小了的反馈,直到猜对游戏结束。 2. 游戏设计思路 2.1 游戏界…

JVM运行时数据区域-附面试题

Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干个不同的数据区域。这些区域 有各自的用途,以及创建和销毁的时间,有的区域随着虚拟机进程的启动而一直存在,有些区域则是 依赖用户线程的启动和结束而建立和销毁。 1. 程序计…

C++11—右值引用

目录 简介 左值和右值 左值 右值 右值引用 生命周期 引用折叠 实际应用 移动语义 移动构造函数 移动赋值运算符 完美转发 简介 之前我们曾学习过引用叫左值引用,但那是C98的,在C11中新增了一种引用叫右值引用。右值引用主要用于支持移动语…

LeetCode:474.一和零

跟着carl学算法,本系列博客仅做个人记录,建议大家都去看carl本人的博客,写的真的很好的! 代码随想录 LeetCode:474.一和零 给你一个二进制字符串数组 strs 和两个整数 m 和 n 。 请你找出并返回 strs 的最大子集的长度…

【赵渝强老师】K8s中Pod探针的TCPSocketAction

在K8s集群中,当Pod处于运行状态时,kubelet通过使用探针(Probe)对容器的健康状态执行检查和诊断。K8s支持三种不同类型的探针,分别是:livenessProbe(存活探针)、readinessProbe&#…

《LLM大语言模型+RAG实战+Langchain+ChatGLM-4+Transformer》

文章目录 Langchain的定义Langchain的组成三个核心组件实现整个核心组成部分 为什么要使用LangchainLangchain的底层原理Langchain实战操作LangSmithLangChain调用LLM安装openAI库-国内镜像源代码运行结果小结 使用Langchain的提示模板部署Langchain程序安装langserve代码请求格…

【Numpy核心编程攻略:Python数据处理、分析详解与科学计算】2.4 索引优化:避免意外复制的高效技巧

2.4 索引优化:避免意外复制的高效技巧 目录/提纲 #mermaid-svg-hmMAIqF8kFh46fbH {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-hmMAIqF8kFh46fbH .error-icon{fill:#552222;}#mermaid-svg-hmMAIqF8kF…

深度学习查漏补缺:2. 三个指标和注意力机制

一、bachsize, num_epochs, dataset 在训练卷积神经网络(CNN)或任何其他深度学习模型时,有几个关键参数和概念需要了解:batch size、num epochs 和 dataset。下面是对它们的详细解释: Batch Size(批量大小&…