自己安装一台DeepSeek的服务器

embedded/2025/2/22 3:25:06/

找一台还可以的Linux服务器,登录后执行:

curl -fsSL https://ollama.com/install.sh | sh

等待安装完成:

执行命令,根据服务器能力安装不同版本的AI模型:

ollama run llama3.2

下一步就开始对话吧:

llama3.2一点都不行呀

退出对话

Use Ctrl + d or /bye to exit.

 DeepSeek会有很多版本,大家都可以尝试:

版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b

安装 deepseek-r1:7b,服务器空间算力够,就安装更大的版本:

 

操作ollama服务器命令

systemctl restart ollama
systemctl start ollama
systemctl stop ollama
systemctl status ollama

查看已安装的ollama列表

ollama list

配置外网可以访问:

关闭防火墙

systemctl stop firewalld
systemctl disable firewalld

 设置ollama配置文件

vim /etc/systemd/system/ollama.service[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment=“PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin”
Environment=“OLLAMA_HOST=0.0.0.0:9999”[Install]
WantedBy=default.target

新增 Environment=“OLLAMA_HOST=0.0.0.0:9999”  其中端口可以随便更改,默认11434

重新启动 ollama 服务器

见    操作ollama服务器命令

验证9999端口是否可用

端口验证

netstat -tuln | grep 9999

如上图即可

curl验证

curl http://192.168.1.63:9999

失败:curl: (7) Failed connect to 192.168.1.63:9999; Connection refused

成功:Ollama is running

telnet验证

telnet 192.168.1.63 9999


http://www.ppmy.cn/embedded/164217.html

相关文章

高等数学(上)题型笔记(六)定积分的应用

目录 1 三角函数定积分的结论 2 定积分的微元法(元素法) 2.1 使用条件 2.2 使用步骤 3 定积分的几何应用 3.1 平面图形的面积 3.1.1 直角坐标系的情形 3.1.1.1 X型 3.1.1.2 Y型 3.1.1.3 双型 3.1.1.4 复合:分割型 3.1.1.5 引入参…

分布式电商系统中的API网关架构设计

在分布式电商系统中,API 网关扮演着至关重要的角色,它是系统对外的统一入口,负责请求路由、协议转换、安全认证、流量控制等功能。以下是关于分布式电商系统中 API 网关架构设计的详细内容: 设计目标 统一入口:为所有外…

中国科技新突破:发展态势与未来展望(哪吒2、deepseek、宇树科技等)

一、2025年中国科技领域的重大突破 进入2025年以来,中国在科技和文化领域取得了多项重大突破,这些成就不仅展示了中国在科技创新方面的实力,也为其未来的高质量发展奠定了坚实基础。 (一)《哪吒2》的巨大成功 1. 票…

OS-Genesis:基于逆向任务合成的 GUI 代理轨迹自动化生成

引言 近年来,图形用户界面(GUI)代理(GUI Agents) 在软件自动化、辅助测试和 AI 驱动的任务执行中扮演着越来越重要的角色。然而,当前的 GUI 代理训练仍然面临 高质量数据稀缺 的核心挑战。现有的方法主要依…

设计模式教程:责任链模式(Chain of Responsibility Pattern)

责任链模式(Chain of Responsibility Pattern)是一种常用的设计模式,它属于行为型模式,主要解决的是多个对象处理一个请求时,如何解耦请求的发送者和接收者,以及如何将请求的处理职责分配给不同的对象。 1…

Python----数据结构(栈:列表栈,链栈。初始化,入栈,出栈,获取栈长度,判断是否为空,访问栈顶元素)

一、栈 1.1、概念 栈(stack):又名堆栈,它是一种运算受限的线性表,是一种容器,可存入数据元素、访 问元素、删除元素,它的特点在于只能允许在容器的一端(成为栈顶top),进…

银河麒麟系统安装mysql5.7【亲测可行】

一、安装环境 cpu:I5-10代; 主板:华硕; OS:银河麒麟V10(SP1)未激活 架构:Linux 5.10.0-9-generic x86_64 GNU/Linux mysql版本:mysql-5.7.34-linux-glibc2.12-x86_64.ta…

时间序列预测实战:指数平滑法详解与MATLAB实现

摘要 本文系统讲解指数平滑法的核心理论与实战应用,涵盖一次、二次、三次及差分指数平滑技术。通过电器销售额预测、发电量趋势分析等案例,详细解析加权系数选择、初始值设定与误差修正机制,并提供完整的MATLAB实现代码。结合预测误差评估与…