Ollama+DeepSeek+NatCross内网穿透本地部署外网访问教程

ops/2025/3/17 15:17:09/

目录

一、Ollama 简介

二、下载Ollama

三、下载并运行 DeepSeek 模型

四、运行 DeepSeek 模型

五、NatCross免费内网穿透

六、配置 ChatBox 连接 Ollama

七、外网使用ChatBox体验


一、Ollama 简介

Ollama 是一个开源的本地大模型部署工具,旨在让用户能够在个人电脑上运行各种开源大型语言模型(如 Llama、DeepSeek 等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过 Ollama,开发者、研究者和爱好者可以快速部署私有化 AI 应用,无需依赖云端服务,同时享受高效、安全的本地 AI 体验。

二、下载Ollama

2.1、首先我们到Ollama官网去下载安装包,此处我们下载的是Windows版本的安装包,如下图所示:
 


2.2、选择windows版本,进行下载,如图:
 


2.3、双击安装程序,按照提示完成安装。
检查安装是否成功:打开命令提示符(cmd)或 PowerShell,输入以下命令:ollama --version
如果正确显示版本号,则安装成功。

三、下载并运行 DeepSeek 模型

3.1、选择MODELS,点击DEEPSEEK_R1 ,如图:
 


3.2、根据你服务器的配置选择模型,本次演示选择1.5b模型,如图:
 


3.3、复制右侧的命令ollama run deepseek-r1,在cmd中进行下载,如图:
 


这个下载过程可能会有点慢,有梯子的话会快一点。

四、运行 DeepSeek 模型

4.1、下载完成后,运行以下命令启动 DeepSeek 模型:ollama run deepseek-r1
此时,您可以通过命令行与 DeepSeek 模型进行交互。如果您想退出对话模式,只需输入“/bye”。
 


4.2、此时ollama访问地址为http://localhost:11434 ,无法通过chartbox实现外网访问,需要借助穿透工具实现。

五、NatCross免费内网穿透

5.1、访问官网https://www.natcross.com,点击登录或者注册,使用免费的内网穿透服务,如图:
 


5.2、登录后,选择左侧菜单内网穿透菜单,如图:
 


5.3、下载穿透客户端到本地,选择windows版本,如图:
 


5.4、选择免费内网穿透,添加映射,如图:
 


选择常规应用,TCP协议
内网主机:127.0.0.1
内网端口:11434
点击保存,生成外网访问的域名和端口

六、配置 ChatBox 连接 Ollama

6.1、配置ChatBox,点击设置,如图:
 


6.2、Natcross外网透传地址,如图:

七、外网使用ChatBox体验

7.1、测试聊天:在 ChatBox 输入框内输入问题,例如“你好,介绍一下 Ollama”,确保 ChatBox 正确响应:

到此,Ollama+DeepSeek+NatCross内网穿透本地部署实现简单对话应用就完成了!!!


http://www.ppmy.cn/ops/166528.html

相关文章

第五章-动态规划

第五章-动态规划 写在前面: 本笔记是根据acwing网站:算法基础课进行制作的,欢迎大家支持y总,听过y总的课,你绝对会对于算法产生更深的理解和更浓厚的兴趣! 本笔记可能会有部分视频的截图,我不知道是不是会造…

CF 230B. T-primes

题目 time limit per test:2 seconds;memory limit per test:256 megabytes We know that prime numbers are positive integers that have exactly two distinct positive divisors. Similarly, well call a positive integer t Т-prime,…

自动驾驶与车路协同

自动驾驶与车路协同 核心进展 2024年自动驾驶技术聚焦“城市NOA”(城市领航辅助驾驶)和纯视觉方案。比亚迪“天神之眼”系统通过多传感器融合(5R12V12U)实现无图城市领航,测试中高速路段零接管1012。特斯拉的端到端模…

微服务分层架构技术解析:从 API 到数据访问的全方位探秘

微服务分层架构技术解析:从 API 到数据访问的全方位探秘 前言 在当今复杂多变的软件开发领域,微服务架构已成为构建大型分布式系统的核心范式。它通过将系统分解为一组小型、独立且高度内聚的服务,实现了模块化开发、独立部署与扩展&#x…

前端vue3 setup,后端fastapi

介绍 在 Web 开发中,视频播放是一个常见的需求。HLS(HTTP Live Streaming)和 FLV(Flash Video)是两种常见的视频流媒体传输协议。以下是它们的详细介绍和实现方法。 FLV(Flash Video) 简介 F…

基于 Docker 搭建 FRP 内网穿透开源项目

有些配置项不知道该不该用,不知道该在哪用,不知道怎么用,所以我自己写个文章简单记录一下做个笔记 本文介绍的是基于 Docker 运行 frps 和 frpc,并通过 TCP 协议简单穿透 SSH 和 HTTP,在观看本文之前请确保你的机器已经安装 Docker 服务端搭建 frps# 连接拥有公网 IP 的…

二叉树的基本操作与实现:C语言深度剖析

目录 代码整体框架 1. #define _CRT_SECURE_NO_WARNINGS 2. 头文件引入 3. typedef int BTtype; 4. 二叉树节点结构体定义 二叉树的创建 1. BuyNode 函数 2. CreatNode 函数 二叉树的遍历 前序遍历 中序遍历 后序遍历 二叉树属性的计算 节点个…

securtiy_crt访问ubuntu报Key exchange failed问题

securityCRT 连接linux报错 Key exchange failed. No compatible key exchange method. The server supports these methods: curve25519-sha256,curve25519-sha256libssh.org,ecdh-sha2-nistp256,ecdh-sha2-nistp384,ecdh-sha2-nistp521,diffie-hellman-group-exchange-sha25…