ollama实践笔记

server/2025/2/14 5:20:06/

目录

一、linux安装文件命令:

二、启动ollama

三、linux 如何把ollama serve做为服务方式启动

四、安装deepseek-r1

五、如何在网页中使用ollama?

‌5.1 安装Open WebUI【不推荐】

5.2 安装ollama-webui-lite

六、Ubuntu安装docker、只需要一句话即可

七、deepseekV3安装

八、通过API的方式请求Ollama

九、通过Postman API的方式请求Ollama 集成的模型API


git仓库地址:https://github.com/ollama/ollama.git

官网地址:https://github.com/ollama/ollama

一、linux安装文件命令:

curl -fsSL https://ollama.com/install.sh | sh

二、启动ollama

ollama serve

三、linux 如何把ollama serve做为服务方式启动

把下面的代码写到shell脚本中,运行脚本就可以做为后台服务了。nohup ollama serve > /var/log/ollama.log 2>&1 &

四、安装deepseek-r1

安装和运行都是相同的命令:
(1)首次运行就是安装;(2)再次运行就是使用
ollama run deepseek-r1

五、如何在网页中使用ollama?

‌5.1 安装Open WebUI【不推荐】

Ollama的网页端是通过Open WebUI实现的,它提供了一个清晰且用户友好的聊天界面,使得与大型语言模型的交互变得直观‌1。用户可以通过Open WebUI与Ollama模型进行交互,进行对话和管理模型。

【这个特别慢!!!!不建议用这个】
git clone https://github.com/open-webui/open-webui.git官方地址:https://github.com/open-webui/open-webui

5.2 安装ollama-webui-lite

仓库:GitHub - ollama-webui/ollama-webui-lite: This repo is no longer maintained, please use our main Open WebUI repo.

(1)安装nodejs:

sudo apt install nodejs

node -v

(2)安装npm

sudo apt install npm

npm -v

注意:node版本要安装最新的,否则无法运行,参考官方,安装最新的node

Node.js — Download Node.js®

(3)映射端口:

网站端口:3000

ssh -CNg -L 3000:127.0.0.1:3000 root@connect.westb.seetacloud.com -p 34016

ollama端口:11434

ssh -CNg -L 11434:127.0.0.1:11434 root@connect.westb.seetacloud.com -p 34016

参考安装文章:LLama3本地部署安装_llama安装-CSDN博客

(4)启动网站

npm run dev

六、Ubuntu安装docker、只需要一句话即可

apt install docker.io

docker --version
Docker version 24.0.7, build 24.0.7-0ubuntu2~22.04.1

安装docker好像也没啥用

七、deepseekV3安装

八、通过API的方式请求Ollama

curl --location 'http://localhost:11434/api/generate' \
--header 'Content-Type: text/plain' \
--data '{"model":"deepseek-r1","prompt": "请分别翻译成中文、韩文、日文 -> Meta Llama 3: 如何变得很有钱?","stream": false
}'

九、通过Postman API的方式请求Ollama 集成的模型API


http://www.ppmy.cn/server/167532.html

相关文章

Qt QComboBox 下拉列表偏移问题探究:多屏幕与高 DPI 环境下的 bug

一、问题背景与重现步骤 现象描述: 在 Qt 应用程序中,主界面包含 QComboBox 控件,并且启用了高 DPI 支持(例如在 main() 中调用 QCoreApplication::setAttribute(Qt::AA_EnableHighDpiScaling))。 当用户将窗口拖动到…

用大模型学大模型03-数学基础 概率论 随机变量 概率分布

deepseek.com:什么是概率,什么是随机变量?深度学习中常用概率的分布有哪些? 1. 什么是概率? 概率是描述事件发生的可能性的数值,范围在 0 到 1 之间: 0:事件不可能发生。1:事件必…

掌握 PHP 单例模式:构建更高效的应用

在 PHP 应用开发中,资源的高效管理至关重要。单例模式是一种能够帮助我们实现这一目标的设计模式。本文将深入探讨单例模式的概念、工作原理以及在 PHP 项目中何时应该(或不应该)使用它。 什么是单例模式? 单例模式是一种设计模…

荣耀手机Magic3系列、Magic4系列、Magic5系列、Magic6系列、Magic7系列详情对比以及最新二手价格预测

目录 荣耀Magic系列手机详细对比 最新二手价格预测 性价比分析 总结 以下是荣耀Magic系列手机的详细对比以及最新二手价格预测: 荣耀Magic系列手机详细对比 特性荣耀Magic3系列荣耀Magic4系列荣耀Magic5系列荣耀Magic6系列荣耀Magic7系列处理器骁龙888&#x…

mongoTemplate获取某列最大值

首先,MongoDB中获取某列的最大值通常是通过聚合框架中的$group和$max操作符来完成的。那在Spring Data中,应该怎么构建这个聚合查询呢? 首先,可能需要创建一个Aggregation对象,里面包含分组和求最大值的步骤。比如&…

Python 识别图片和扫描PDF中的文字

目录 工具与设置 Python 识别图片中的文字 Python 识别图片中的文字及其坐标位置 Python 识别扫描PDF中的文字 注意事项 在处理扫描的PDF和图片时,文字信息往往无法直接编辑、搜索或复制,这给信息提取和分析带来了诸多不便。手动录入信息不仅耗时费…

【练习】图论

F. Friendly Group 图中选择一个点-1 边两端点都选择1 边一个端点选择-1 添加链接描述 #include<iostream> using namespace std; #include<vector> #include<cstring> const int N300010; int n,m; vector<int> G[N]; int temp1,temp2; bool vis[N…

C# 上位机--枚举

一、引言 在 C# 上位机开发过程中&#xff0c;枚举&#xff08;Enum&#xff09;是一种非常实用的数据类型&#xff0c;它可以将一组相关的常量组织在一起&#xff0c;使代码更加清晰、易读和易于维护。 二、枚举的基本概念 枚举&#xff08;Enum&#xff09;是一种值类型&a…