Linux 安装 Ollama

news/2025/2/9 6:08:15/

1、下载地址 Download Ollama on Linux

2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令

3、下载慢的解决方法 

1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
2、sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
3、chmod +x ollama_install.sh
4、sh ollama_install.sh

4、修改端口和模型路径

 vim /etc/systemd/system/ollama.service

     这个是增加的变量

     "OLLAMA_MODELS=/mnt/ollama/models"       "OLLAMA_HOST=0.0.0.0:1001


[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/dat/java/jdk1.8.0_271/bin:/dat/java/jdk1.8.0_271/jre/bin:/root/bin" "OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001"[Install]
WantedBy=default.target

文件夹赋权限

1、 chomd 775 -R /mnt/ollama/models/
2、 chown ollama.ollama -R /mnt/ollama/models

保存之后执行,重载和重启命令

1、sudo systemctl daemon-reload
2、sudo systemctl restart ollama

4、查看状态启动成功

5、运行模型一定要用这个... 指定端口,因为改了端口。客户端找不到默认了,就会提示

could not connect to ollama app, is it running?(坑了好长一会...)

OLLAMA_HOST=127.0.0.1:1001 ollama listOLLAMA_HOST=127.0.0.1:44311 ollama psOLLAMA_HOST=127.0.0.1:44311 ollama run deepseek-r1:7b

6、感谢Ubuntu 24.04上报:Error: could not connect to ollama app, is it running?的解决方法-CSDN博客

Ubuntn下载Ollama慢或卡顿解决方案_ollama下载慢怎么办-CSDN博客


http://www.ppmy.cn/news/1570515.html

相关文章

人工智能图像分割之Mask2former源码解读

环境搭建: (1)首先本代码是下载的mmdetection-2022.9的,所以它的版本要配置好,本源码配置例如mmcv1.7,python3.7,pytorch1.13,cuda11.7。pytorch与python,cuda版本匹配可参考:https://www.jb51.net/python/3308342lx.htm。 (2)还有一个是先要安装一个vs2022版本或…

【模型部署】大模型部署工具对比:SGLang, Ollama, VLLM, LLaMA.cpp如何选择?

在选择大模型部署工具时,需要考虑多个因素,包括性能、支持的语言和模型、硬件支持、易用性以及社区支持等。以下是对比分析: 性能 VLLM (Virtual Tensor Language): VLLM 是一个高性能的推理库,特别适用于长序列任务。它通过虚…

Day38【AI思考】-彻底打通线性数据结构间的血脉联系

文章目录 **彻底打通线性数据结构间的血脉联系****数据结构家族谱系图****一、线性表(老祖宗的规矩)****核心特征** **二、嫡系血脉解析**1. **数组(规矩森严的长子)**2. **链表(灵活变通的次子)** **三、庶…

【Maven】项目管理工具-Maven

目录 1. Maven简介 1.1 项目管理 1.2 项目构建 1.3 项目构建工具 1.4 Maven的四大特征 1.4.1 依赖管理系统 1.4.2 多模块构建 1.4.3 一致的项目结构 1.4.4 一致的构建模型和插件机制 1.5 Maven模型 ​编辑 2.maven的安装配置 2.1 Maven的安装配置 2.1.1检测jdk的版…

C++RAII用法

思维导图 为什么要引入RAII 有一个简单的服务器例子。在Windows系统上写一个C程序,在客户端请求连接时,给客户端发一条"Hello World"消息,然后关闭连接。不需要保证客户端一定能收到。 程序实现流程 创建socket绑定IP地址和端口…

nas-群晖docker查询注册表失败解决办法(平替:使用SSH命令拉取ddns-go)

目录 前言必读 一、遇到问题 二、操作步骤 (一)打开群晖系统的SSH服务? (二)Windows电脑本地下载安装putty? 输入登录账号密码 开启root权限 例子:使用命令行下载ddns-go? 前言必读 读者手册(必…

【JVM详解一】类加载过程与内存区域划分

一、简介 1.1 概述 JVM是Java Virtual Machine(Java虚拟机)的缩写,是通过在实际的计算机上仿真模拟各种计算机功能来实现的。由一套字节码指令集、一组寄存器、一个栈、一个垃圾回收堆和一个存储方法域等组成。JVM屏蔽了与操作系统平台相关…

MoviePy,利用Python自动剪辑tiktok视频

Python剪辑视频是非常强大的,而且能流水线批量操作,可以使用MoviePy库实现。 最近看到一个Github项目,作者利用Python写了一个自动生成tiktok视频的脚本,受到热捧。 现在像抖音、tiktok上有很多流水线生产的视频,不少…