详解Ollama api (Windows环境)

server/2024/12/26 1:02:43/

Ollama可以像一个本地软件一样在Windows中运行。通常通过以下两种方法来使用Windows中的Ollama

  • cmdpowershell中输入命令
  • 基于本地主机http://localhost:11434的Ollama API

关于Ollama的安装和命令行的使用方法可以参考我的另一篇博文。这篇博文主要介绍api的使用方法。

llama_API_5">在powershell中获取Ollama API

下面是从powershell中获取Ollama API的一个简单示例(在cmd中同样如此):

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
  • Invoke-WebRequest定义一个网络请求,包括以下参数:
    • -method 定义网络请求的方式,分为POSTGET两种,这里使用POST
    • -Body请求的主体,其内容为一个字典字符串,字典包含以下字段:
      • model模型名称
      • prompt提示词
      • stream是否为流式输出(后面会详细解释)
    • -uri主机地址,这里为http://localhost:11434/api/generate
  • .Content取网络请求结果中的Content内容
  • ConvertFrom-json将json格式的内容转换成文本格式

运行结果如下:
powershell中O<a class=llama api的使用" />

llama_API_23">在Python中使用Ollama API

在Python中使用Ollama API与网络爬虫相似,只不过将网址和请求的表头换成了相应的Ollama参数而已。
以下代码参考了峰哥Python笔记中的代码

import requests
import jsonurl_generate = "http://localhost:11434/api/generate"def get_response(url, data):response = requests.post(url, json = data)response_dict = json.loads(response.text)response_content = response_dict["response"]return response_contentdata = {"model": "llama3.2","prompt": "Why is the sky blue?","stream": False}res = get_response(url_generate, data)
print(res)

运行部分结果如下:
Python中调用O<a class=llama API" />
同在powershell中调用Ollama API一样,重点是确定两个东西:

  • 主机地址:"http://localhost:11434/api/generate"
  • 请求主体:就是这里的data,其中包含的字段和powershell命令中的没什么差别。

只不过这里采用的是Python网络爬虫的方法,通过requests.post方式定义爬虫方式,然后json=data中定义请求主体。

总结

在Windows中调用Ollama API的基本思路其实就是网络爬虫,无论是在powershell中还是在Python中。

但是Ollama API的调用模式有很多种,基本上所有的Ollama模型操作都可以通过API来完成。具体可以参考Ollama的官方文档。


http://www.ppmy.cn/server/153187.html

相关文章

Linux搭建TRELLIS详细流程

TRELLIS是最新的3D生成模型,官网地址如下: https://github.com/microsoft/TRELLIS 下面是详细的搭建流程。 由于是在Ubuntu系统上搭建的,下面操作仅限Ubuntu系统查看。 不过Windows系统大同小异,而且青龙大佬已经做了相关整理。 Windows系统的可以去看青龙大佬的b站视…

Vue.js前端框架教程11:Vue监听器watch和watchEffect

文章目录 监听器(watchers)基本用法deep: trueimmediate: true总结watchEffect基本用法自动追踪依赖停止监听与 `watch` 的对比性能优化总结监听器(watchers) 在 Vue 中,监听器(watchers)是一种观察和响应 Vue 实例上的数据变动的机制。Vue 提供了 watch 属性,允许我们…

运算符重载(一)

知识图谱 一.需要重载的原因 正常情况下&#xff0c;C 的运算符( 、-、*、/ 等)只能用于对基本类型的常量或变量进行运算&#xff0c;而不能用于类对象之间的运算。 类的对象直接的运算虽然可以通过成员函数或全局函数去实现&#xff0c;如date.Add(1)&#xff0c;但这样的写法…

xshell下载和安装(超详细)

参考:https://blog.csdn.net/hffh123/article/details/135885175 一、xshell官网下载 下载官网&#xff1a;https://www.xshell.com/zh/free-for-home-school/ 二、安装步骤 &#xff08;一&#xff09;、直接打开.exe文件 &#xff08;二&#xff09;、点击下一步&#xff…

高并发处理 --- Caffeine内存缓存库

目录 一.什么是Caffeine&#xff1f; 使用场景&#xff1a; 二.如何使用Caffeine&#xff1f; 1.导入依赖&#xff1a; 2.在java项目中使用&#xff1a; 三.对缓存项的驱逐&#xff1a; 1.容量驱逐&#xff08;Maximum Size&#xff09;&#xff1a; 2.过期驱逐&#xff…

【开源库 | xlsxio】C/C++读写.xlsx文件,xlsxio 在 Linux(Ubuntu18.04)的编译、交叉编译

&#x1f601;博客主页&#x1f601;&#xff1a;&#x1f680;https://blog.csdn.net/wkd_007&#x1f680; &#x1f911;博客内容&#x1f911;&#xff1a;&#x1f36d;嵌入式开发、Linux、C语言、C、数据结构、音视频&#x1f36d; ⏰发布时间⏰&#xff1a; 2024-12-20 …

CASA模型相关遥感数据及MODIS NDVI、FPAR遥感产品数据时序重建

植被作为陆地生态系统的重要组成部分对于生态环境功能的维持具有关键作用。植被净初级生产力&#xff08;Net Primary Productivity, NPP&#xff09;是指单位面积上绿色植被在单位时间内由光合作用生产的有机质总量扣除自养呼吸的剩余部分。植被NPP是表征陆地生态系统功能及可…

Bazel CI

本文来自智谱清言 ------ “Bazel CI” 通常指的是使用 Bazel 构建工具的持续集成&#xff08;CI&#xff09;系统。Bazel 是一个由 Google 开发的开源构建和测试工具&#xff0c;它支持多种编程语言&#xff0c;并被设计用于构建大型代码库。在持续集成环境中&#xff0c;B…