【大语言模型】如何让ChatGPT等LLM拥有记忆

embedded/2024/9/24 22:24:15/

我们现在在跟ChatGPT等生成式人工智能聊天时,都需要我们给定一个上下文,生成式AI才会根据我们问题结合上下文给出回答,他们并没有任何记忆。想象一下未来我们有一个AI机器人在我们的身边,每天它的记忆都会归零,你必须跟它解释下过去发生了什么是多么痛苦的一件事。

这个问题需要引入Vector Database来解决,将向量数据库作为大型语言模型(LLM)如GPT-3或BERT的长期记忆使用是一种增强其功能的策略,特别适用于需要知识保留、上下文管理和从新信息中动态学习的任务。这种概念涉及利用向量数据库来存储和检索上下文和事实信息,这些信息可以在对话或任务中由LLM动态使用。

向量数据库是一种专门用于存储、索引和管理由机器学习模型生成的数据向量嵌入的数据库。这些向量嵌入是数据项(如文本、图像或声音)的高维表示,能够捕获它们的内容或特征的某些方面,以便计算机能够处理。这些嵌入通常由自然语言处理(NLP)或图像识别等现代AI模型生成。

向量数据库的关键特性

1. 高维索引:
向量数据库针对高维数据进行了优化,这些数据是许多现代AI模型的输出。与传统数据库可能难以处理维度的诅咒不同,向量数据库使用复杂的索引技术有效地在高维空间中进行查询。

2. 相似性搜索:
向量数据库的一个主要功能是执行相似性或接近性搜索。它们可以根据距离度量(如欧几里得距离、余弦相似度或曼哈顿距离)快速找到与给定查询向量最接近的向量。这对推荐系统、搜索引擎和异常检测等应用至关重要。

3. 可扩展性:
这些数据库旨在随着数据大小和维度的增长而扩展,能够处理数百万甚至数十亿个向量。

下面是一些常见的Vector Database:

如果大家感兴趣,我会在后面的文章详细讲解Vector的原理,给我留言。


http://www.ppmy.cn/embedded/10761.html

相关文章

【机器学习300问】76、早停法(Early Stopping)是如何防止过拟合的?

本文带大家介绍一个非常简单的防止过拟合的方法——早停(Early Stopping),首先给出概念,然后通过损失图像来加深对它的理解。 一、早停是什么呀? 早停(Early Stopping)是一种常用的深度学习模型…

stm32开发之netxduo组件之mqtt客户端的使用记录

前言 1使用mqtt协议的简单示例记录 代码 MQTT服务端(C# 编写,使用MQTTnet提供的示例代码) 主程序 namespace ConsoleApp1;public class Program {public static async Task Main(string[] args){await Run_Server_With_Logging();}}public static async Task Run_Server_Wi…

uniapp微信小程序(商城项目)

最近,闲来无事,打算学一下uniapp小程序 于是在跟着某站上学着做了一个小程序,主要是为了学uniapp和vue。某站黑马优购 完成的功能主要有:首页、搜索、分类和购物车。 有人问了为什么没有登录、和添加订单呢?问的很好…

Unity3D 分块编辑小AStar地图详解

前言 A算法是一种经典的寻路算法,能够帮助游戏中的角色找到最短路径。在本文中,我们将介绍如何在Unity3D中使用分块编辑的方式创建一个小的A地图,并实现A*算法来实现角色的寻路。 对惹,这里有一个游戏开发交流小组,希…

修复msvcp140.dll文件的靠谱方法分享,3分钟解决msvcp140.dll缺失问题

出现msvcp140.dll文件缺失的问题确实是一个常见的情况,因为很多软件在运行时都需要调用这个动态链接库(DLL)文件。如果这个文件丢失了,电脑上的相应程序可能就无法正常启动,这会对电脑用户的日常使用造成不便。若遭遇到…

.NET高级面试指南专题二十七【享元模式介绍,通过共享对象来最大程度地减少内存使用和提高性能】

享元模式是一种结构型设计模式,旨在通过共享对象来最大程度地减少内存使用和提高性能。 在享元模式中,对象被分为两种部分:内部状态(intrinsic state)和外部状态(extrinsic state)。内部状态是对…

鸿蒙开发模拟器的坑, No Devices

问题 我已经安装了模拟器,并且模拟器已经运行了 在Device Manager页面开启模拟器 No Devices 但是这里没有模拟器的选项 解决 添加环境变量 下面步骤 1、清除用户数据 2、 关闭Device Manager 3、 关闭ide 重启ide、开启模拟器 看到有模拟器的选项了

轻松记录收支明细,详细记录每一笔收支,通过借款日期快速查找借款信息

财务管理对于个人和企业来说都至关重要。一份清晰、详尽的收支明细记录,不仅能帮助我们了解资金流向,还能在需要时提供有力的证据。因此,高效记录收支明细并轻松掌握财务状况成为了每个人的必备技能 第一步进入晨曦记账本主页面,…