深度学习-92-大语言模型LLM之基于langchain的模型IO的模型调用

news/2025/1/24 7:28:39/

文章目录

  • 1 Model的输入输出
  • 2 langchain支持的模型
  • 3 调用Ollama模型
    • 3.1 设置环境变量
    • 3.2 大语言模型LLM(OllamaLLM)
      • 3.2.1 生成文本补全
      • 3.2.2 流式生成文本补全
    • 3.3 聊天模型(ChatOllama)
      • 3.3.1 内置的消息类型
      • 3.3.2 HumanMessage和SystemMessage
      • 3.3.3 元组方式构成消息列表
      • 3.3.4 stream流式
    • 3.4 文本嵌入模型(OllamaEmbeddings)
  • 4 参考附录

在这里插入图片描述

1 Model的输入输出

LangChain的模型是框架中的核心,基于语言模型构建,用于开发LangChain应用。
通过API调用大模型来解决问题是LangChain应用开发的关键过程。

可以把对模型的使用过程拆解成三块: 输入提示(Prompt)、调用模型(Model)、输出解析(Parse)。
(1)提示模板: LangChain的模板允许动态选择输入,根据实际需求调整输入内容,适用于各种特定任务和应用。
(2)语言模型: LangChain提供通用接口调用不同类型的语言模型,提升了灵活性和使用便利性。
(3)输出解析: 利用LangChain的输出解析功能,精准提取模型输出中所需信息,避免处理冗余数据,同时将非结构化文本转换为可处理的结构化数据,提高信息处理效率。

这三块形成了一个整体,在LangChain中这个过程被统称为Model输入或输出。针对每块环节,LangChain都提供了模板和工具,可以帮助快捷的调用各种语言模型的接口。

langchain_14">2 langchain支持的模型

LangChain支持的模型有三大类ÿ


http://www.ppmy.cn/news/1565711.html

相关文章

【Trunk接口配置】

Trunk接口配置 Trunk即干道链路,用来在不同设备(交换机和交换机,交换机和路由器)间承载所有vlan数据。不属于任何一个具体的vlan,可以传输所有vlan的数据,也可以传输指定vlan的数据。 设备IPvlanPC110.1.…

ceph新增节点,OSD设备,标签管理(二)

一、访问客户端集群方式 方式一: 使用cephadm shell交互式配置 [rootceph141 ~]# cephadm shell # 注意,此命令会启动一个新的容器,运行玩后会退出! Inferring fsid c153209c-d8a0-11ef-a0ed-bdb84668ed01 Inferring config /var/lib/ce…

Qt 5.14.2 学习记录 —— 십구 事件

文章目录 1、事件的概念2、处理事件3、鼠标事件1、鼠标单击和双击2、鼠标移动3、鼠标滚轮滚动 4、键盘事件5、定时器事件6、窗口移动和大小改变事件 1、事件的概念 用户进行操作时会产生事件,事件可以关联处理函数。Qt封装了操作系统的事件机制,然后进一…

[STM32 - 野火] - - - 固件库学习笔记 - - -十一.电源管理系统

一、电源管理系统简介 电源管理系统是STM32硬件设计和系统运行的基础,它不仅为芯片本身提供稳定的电源,还通过多种电源管理功能优化功耗、延长电池寿命,并确保系统的可靠性和稳定性。 二、电源监控器 作用:保证STM32芯片工作在…

Haskell语言的区块链

Haskell语言的区块链探索 引言 随着区块链技术的兴起,越来越多的编程语言被广泛应用于区块链的开发中。Haskell作为一种函数式编程语言,以其高度抽象性、类型安全性和高可靠性著称,非常适合用来构建复杂的分布式系统和智能合约。在这篇文章…

从浏览器层面看前端性能:了解 Chrome 组件、多进程与多线程

一、 前言 现阶段的浏览器运行在一个单用户,多合作,多任务的操作系统中。一个糟糕的网页同样可以让一个现代的浏览器崩溃。其原因可能是一个插件出现bug,最终的结果是整个浏览器以及其他正在运行的标签被销毁。 现代操作系统已经非常健壮了&#xff0c…

基于先验领域知识的归纳式多实例多标签学习用于牙周病分类| 文献速递 -医学影像人工智能进展

Title 题目 Abductive multi-instance multi-label learning for periodontal diseaseclassification with prior domain knowledge 基于先验领域知识的归纳式多实例多标签学习用于牙周病分类 01 文献速递介绍 牙科疾病对口腔健康构成了重大挑战,影响了全球大量…

无数据库开源Wiki引擎WikiDocs

简介 什么是 WikiDocs ? WikiDocs 是一个无数据库的开源 Markdown 文件平面 Wiki 引擎。它旨在提供一个简单、灵活且易于使用的 Wiki 解决方案,允许用户创建和管理文档而无需依赖传统数据库。 主要特点 无数据库:使用纯文本文件存储数据&am…