开源离线AI笔记应用

ops/2024/9/24 6:27:53/

前言

Reor 是一款人工智能驱动的桌面笔记应用程序,它能自动链接相关笔记、回答笔记中的问题并提供语义搜索。所有内容都存储在本地,支持 WindowsLinuxMacOSReor 站在 OllamaTransformers.jsLanceDB 等巨头的肩膀上,使 LLM 和嵌入模型都能在本地运行。此外,还支持连接 OpenAI 或与 OpenAI 兼容的 API(如 Oobabooga)。

基本原理

  • 你写的每篇笔记都会被分块并嵌入到内部向量数据库

  • 相关笔记会通过向量相似性(vector similarity)自动连接起来

  • LLM驱动的问答会对笔记语料库进行RAG(Retrieval Augmented Generation)检索增强生成分析

  • 所有内容都可以进行语义搜索

可以把 Reor 看作是一个有两个生成器的 RAG 应用程序:LLM 和我们人类。在问答的模式下,LLM会从语料库中获取上下文来帮助回答问题。同样,在编辑模式下,人类可以切换侧边栏,显示从语料库中检索的相关注释。通过将当前笔记中的观点与语料库中的相关观点进行交叉引用,这种扩充的思维方式非常强大。

离线安装

来到官方版本发布页 https://github.com/reorproject/reor/releases/,目前最新版本是 v0.2.6,根据自己的平台选择安装包下载

1cf0ffc76b446dc1e61c3fc6a255599e.jpeg

reor

0fc720aa7b204f75f2dd337e8b5fd384.jpeg

reor

绑定本地嵌入模型

要绑定本地嵌入模型(Embedding Model),需要使用 Git Large File Storage (LFS)Hugging Face 下载。

第一步安装git lfs,来到官方网站下载 https://git-lfs.com/

6b1a4882c080a4fc782a290ca635bc85.jpeg

git lfs

傻瓜式进行安装,安装完毕后,打开 powershell,输入 git lfs install 来验证一下是否安装成功

2f56e77e8903ce26c20197f9dcab43e5.jpeg

git lfs

如果命令有如上的输出,说明安装好了。

第二步,去下载模型,这里以 Xenova/bge-m3 模型为例,仓库地址 https://huggingface.co/Xenova/bge-base-en-v1.5

git clone https://huggingface.co/Xenova/bge-m3

如果 git clone 连接不上服务器的话,可以通过下面这个方法

# 安装huggingface-cli命令行工具,包含在huggingface_hub库里,不仅可以下载模型、数据,还可以可以登录huggingface、上传模型、数据
pip install -U huggingface_hub# 下载模型,支持续传,保存在本地文件夹bge-base-en-v1.5,即最后一个参数
huggingface-cli download --resume-download Xenova/bge-base-en-v1.5 --local-dir bge-base-en-v1.5


6d46f402a636543ba9c26c54217585c6.jpeg

huggingface_hub

第三步进行绑定,来到 Settings --> Embedding Models --> Attach Local Model

4c10077a179d29eb14cbcca84cc23fdc.jpeg

reor

选择刚刚下载好的模型文件夹

cb6076af9953c52a3fbad681eec564d2.jpeg

reor

选择新的模型

d03d964839b154150f2b28f1f3509ad1.jpeg

reor

可以开始向它提问了

77efc36d49f0937172a7f8f6c9265911.jpeg

reor

参考资料

  • https://github.com/reorproject/reor


http://www.ppmy.cn/ops/38442.html

相关文章

Adobe系列软件安装

双击解压 先运行Creative_Cloud_Set_Up.exe。 完毕后,运行AdobeGenP.exe 先Path,选路径,如 C:\Program Files\Adobe 后Search 最后Patch。 关闭软件,修图!

8款好用的电脑监控软件分享

在这个数码时代,电脑如同我们的得力助手,陪伴我们走过工作、学习和娱乐的每一个瞬间。然而,随着电脑使用频率的增加,电脑监控的需求也悄然崛起。别担心,市场上已经涌现出一大批出色的电脑监控软件,它们就像…

Makefile入门

1、Makefile编译过程 Makefile文件中的命令有一定规范,一旦该文件编写好以后在Linux命令行中执行一条make命令即可自动编译整个工程。不同厂家的make可能会稍有不同,并且语法上也有区别,不过基本思想都差不多,主要还是落在目标依赖…

JAVA随记——集合篇

注意:作者之前的Java基础没有打牢,有一些知识点没有记住,所以在学习中出现了许多零散的问题。现在特地写一篇笔记总结一下,所以有些知识点不是很齐全。 集合中各类名词的关系 Collection集合为单列集合。 集合存储数据类型的特点…

浅谈工商业储能发展下 防逆流互感器的优势

安科瑞 王盼盼 18721098782 随着新能源政策的推动和全球能源转型的需求,逆变器行业正在经历快速发展。其中,防逆流装置作为逆变器的重要组成部分,其互感器的选择对于逆变器的性能和稳定性至关重要。本文将从逆变器厂家制作防逆流装…

AI助力制造行业探索创新路径

近期,著名科技作家凯文凯利(K.K.)来到中国,发表了一场演讲,给广大听众带来了深刻的启示。他在演讲中强调了人工智能(AI)对全球经济的重大影响,并提出了AI发展的多个观点: AI的多样性…

线程池介绍

目录 线程池作用和目的Executor框架线程池的创建1. 手动创建2. 使用Executors工厂类方法创建 任务提交线程池执行流程线程池的关闭ScheduledThreadPoolExecutor介绍 线程池 介绍了为什么要使用线程和线程池:JAVA中线程池的定义及使用 Java线程池ExecutorService 有…

QGraphicsView实现简易地图12『平移与偏移』

前文链接:QGraphicsView实现简易地图11『指定层级-定位坐标』 提供地图平移与偏移功能。地图平移是指将地图的中心点更改为给定的点,即移动地图到指定位置。地图偏移是指将当前视口内的地图向上/下/左/右/进行微调,这里偏移视口宽/高的四分之…