大模型-Ollama使用相关的笔记

news/2025/1/2 5:47:16/

大模型-Ollama使用相关的笔记

  • 解决Ollama外网访问问题(配置ollama跨域访问)
  • Postman请求样例

Ollamaollama_3">解决Ollama外网访问问题(配置ollama跨域访问)

安装Ollama完毕后,

/etc/systemd/system/ollama.service

进行如下修改:

[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"[Install]
WantedBy=default.target

重新加载systemd守护进程并启用Ollama服务

sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

python API访问


from ollama import Client
client = Client(host='http://192.168.4.21:11434',headers={'Content-Type': 'application/json'})
response = client.chat(model='internlm/internlm2.5:20b-chat', messages=[{'role': 'user','content': '天为什么是蓝色的',},
])print(response['message']['content'])print("---------------------------------------------------------")import requests,jsonurl = 'http://192.168.4.21:11434/api/generate'headers = {"Content-Type": "application/json"
}
data = {'prompt': '做一个自我介绍吧?','model': 'internlm/internlm2.5:20b-chat','stream': False
}response = requests.post(url, headers=headers, data=json.dumps(data))
print(response.text)

在这里插入图片描述

Postman请求样例

在这里插入图片描述


http://www.ppmy.cn/news/1559483.html

相关文章

Oracle考试多少分算通过?

OCP和OCM认证的考试及格分数并不是固定的,而是根据考试的难度和考生的整体表现来确定。对于OCP认证,考生需要全面掌握考试要求的知识和技能,并在考试中表现出色才有可能通过。而对于OCM认证,考生则需要在每个模块中都达到一定的水…

Java爬虫实战:深度解析VIP商品详情获取技术

在数字化时代,数据的价值不言而喻。对于电商平台而言,掌握VIP商品的详细信息是提升服务质量、优化用户体验的关键。然而,这些信息往往被复杂的网页结构和反爬虫策略所保护。本文将带你深入了解如何使用Java编写爬虫,以安全、高效地…

KAN网络最新优化改进——基于小波变换的KAN网络

KAN网络概念 KAN网络(Kolmogorov-Arnold Networks)是一种革命性的神经网络架构,源于Kolmogorov-Arnold表示定理。 该定理表明,多变量连续函数可通过有限数量的单变量连续函数的嵌套加法表示 。KAN的核心创新在于将传统神经网络中的固定激活函数替换为可学习的单变量函数,…

《一文读懂卷积网络CNN:原理、模型与应用全解析》

《一文读懂卷积网络CNN:原理、模型与应用全解析》 一、CNN 基本原理大揭秘(一)从人类视觉到 CNN 灵感(二)核心组件详解 二、经典 CNN 模型巡礼(一)LeNet-5:开山鼻祖(二&a…

ESP-IDF学习记录(1)ESPIDF环境安装,框架了解,资料整理

以后只要有空就会进行学习记录,主要是自用,学到哪记录到哪,有时候东西记录下来能得到不通的理解。 最终的目的是为了用esp32驱动屏幕,学习设计LVGL界面,做一些小产品,有益于公司及个人。之前接触多的UI还是…

聊一聊 C#线程池 的线程动态注入

提高注入速度的两种方法 1. 降低GateThread的延迟时间 上一篇跟大家聊过 Result 默认情况下GateThread每秒会注入4个,底层逻辑是由 Blocking.MaxDelayMs250ms 变量控制的,言外之意就是能不能减少这个变量的值呢?当然可以的,这里我…

通过百度api处理交通数据

通过百度api处理交通数据 1、读取excel获取道路数据 //道路名称Data EqualsAndHashCode public class RoadName {ExcelProperty("Name")private String name; }/*** 获取excel中的道路名称*/private static List<String> getRoadName() {// 定义文件路径&…

计算机网络:IP地址相关知识总结

目录 一、IP地址的表现形式 1.1 十进制表示形式 1.2 二进制表示形式 1.3 转换示例介绍 二、IP地址的组成 2.1 网络ID 2.2 主机ID 2.3 示例 三、IP地址的分类 3.1 A类地址 3.2 B类地址 3.3 C类地址 3.4 D类地址 3.5 E类地址 四、常见的特殊IP地址 五、IP地址二进…