Mac上本地部署DeepSeek并使用Ollama提供API与Chatbox交互

ops/2025/2/10 13:24:20/

本指南将带你一步步完成 DeepSeek 本地模型的部署,同时结合 Ollama 提供 API 支持,并使用 Chatbox 作为 UI 界面,实现流畅的离线 AI 交互。

目标:简单易懂,让零基础用户也能顺利完成部署。


1. 安装 Ollama 并运行 DeepSeek

首先,从 Ollama 官方网站下载并安装 Ollama:

  • 官网地址:https://ollama.com/

Ollama 现已支持 DeepSeek-R1 模型部署,进入官网后,你可以找到相关介绍:

Ollama DeepSeek-R1

点击 DeepSeek-R1 链接查看详情,目前 DeepSeek-R1 提供 1.5B、7B、8B、14B、32B、70B、671B 七种参数规模的模型。

由于我的设备性能有限,本次演示选择最小的 1.5B 版本:

DeepSeek 配置

选择建议:模型参数越大,效果越强,但对计算资源需求也更高,建议根据自身设备情况选择。

下载并安装 Ollama

在官网下载适用于自己操作系统的 Ollama:

下载 Ollama

本文演示使用 macOS 版,下载后得到 Ollama-darwin.zip,解压后运行安装:

安装 Ollama

按照提示,点击 Install 进行安装:

安装确认

安装完成后,打开终端(Command + Space 搜索 terminal),执行以下命令下载并运行 DeepSeek 1.5B 模型:

ollama run deepseek-r1:1.5b

下载并加载模型后,即可开始交互:

>>> Hi! Who are you?
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek.

至此,你已成功运行本地 DeepSeek 模型!


2. 安装 Chatbox 并连接本地 DeepSeek

Chatbox 是一个便捷的 AI 聊天 UI,支持连接本地 Ollama API。

  • 官网地址:https://chatboxai.app/en

下载安装后,按提示将其拖入 Applications 目录:

安装 Chatbox

配置 Chatbox 连接本地 DeepSeek

Chatbox 支持多种 API 连接方式,不要选择 DeepSeek API,而是选择 OLLAMA API,这样才能正确识别我们在本地运行的 DeepSeek-R1 1.5B 模型。

配置 Chatbox

配置完成后,即可在 Chatbox 里与本地 DeepSeek 流畅交流。


3. 无需联网,畅快对话

DeepSeek 本地部署的优势之一是可以在无网络状态下使用。例如,我正在撰写本文,可以让 AI 帮助生成多个吸引人的标题:

我正在写一篇文章,标题是“手把手教你部署 DeepSeek 本地模型”,请帮我生成 10 个更吸引人的标题。

AI 生成标题

DeepSeek 迅速返回 10 个备选标题,并给出了思考过程,响应速度即使在老旧设备上也十分流畅。


结语

通过本教程,你已经成功部署 DeepSeek 本地模型,并结合 Ollama 和 Chatbox 实现了完整的离线 AI 交互。希望本指南能帮助你轻松上手,体验强大的 AI 聊天能力!


http://www.ppmy.cn/ops/157257.html

相关文章

3. 【.NET 8 实战--孢子记账--从单体到微服务--转向微服务】--什么是微服务--微服务的核心特性与设计理念

微服务架构是一种将大型应用程序拆分为一组小型、自治服务的设计风格。每个服务围绕特定的业务功能构建,拥有独立的数据库和业务逻辑,并通过轻量级的通信机制相互协作。种架构模式强调服务的独立性、自治性和可独立部署性,旨在提高系统的可维…

物理服务器的硬件配置都是由哪些构成的?

物理服务器是有着实体的服务器,拥有着独立的硬件设备,能够为企业存储和处理数据信息,那么,物理服务器的硬件配置都是由哪些构成的呢?下面小编就来为大家具体介绍一下物理服务器的硬件配置吧! 首先&#xff…

Kotlin 的作用域函数:apply、let、also、run,以及 with、takeIf 和 takeUnless。函数的用法和使用场景

Kotlin中提供几个常用的作用域函数,如果能将它们熟练运用,那将会有效的提高开发效率,降低开发时间,同时保证程序的稳定。那分别是哪几个作用域函数? Kotlin 的作用域函数:apply、let、also、run,以及 with、takeIf 和 takeUnless。这些函数是编写简洁、富有表现力的 Ko…

PrimeFaces Poll组件实现周期性Ajax调用

在日常的Web开发中,我们常常需要实现一些周期性的功能,例如实时更新数据、轮询服务器状态等。PrimeFaces的Poll组件为我们提供了一种简单而强大的方式来实现这些功能。今天,我们就通过一个具体的例子来学习如何使用Poll组件来实现周期性的Aja…

CMake 小知识:CMAKE_INSTALL_PREFIX 与 option 变量的覆盖规则

1、CMAKE_INSTALL_PREFIX:安装路径的设置与使用 1.1、什么是CMAKE_INSTALL_PREFIX CMAKE_INSTALL_PREFIX 是 CMake 中用于指定项目安装路径的变量。当我们使用 make install 或 cmake --install 命令时,生成的文件(如可执行文件、库文件、头…

AIGC-辅助小说(斗破苍穹为例)创作智能体完整指令(DeepSeek,豆包,千问,Kimi,GPT)

Unity3D特效百例案例项目实战源码Android-Unity实战问题汇总游戏脚本-辅助自动化Android控件全解手册再战Android系列Scratch编程案例软考全系列Unity3D学习专栏蓝桥系列AIGC(GPT、DeepSeek、豆包、千问、Kimi)👉关于作者 专注于Android/Unity和各种游戏开发技巧,以及各种资…

动手学图神经网络(10):利用 PyTorch Geometric 进行图分类

利用 PyTorch Geometric 进行图分类 本文将详细介绍如何使用 PyTorch Geometric 库进行图分类任务,同时结合 Weights & Biases(W&B)工具对实验进行跟踪和可视化。 环境设置 首先, 需要安装一些必要的库,包括 PyTorch Geometric 用于实现图神经网络,plotly 用于…

DeepSeek-R1系列(1.5b/7b/8b/32b/70b/761b)大模型部署需要什么硬件条件

一、轻量级模型(1.5B-7B参数) 1.5B模型 CPU:最低4核(推荐Intel/AMD多核处理器) 内存:8GB+(纯CPU推理) 显卡:非必需,若需加速可选4GB+显存(如GTX 1650) 存储:3GB+(模型文件约1.5-2GB) 适用场景:低资源设备(如树莓派、旧笔记本)、简单文本生成或物联网设备 7B模…