AnyThingLLM本地私有知识库搭建

server/2025/2/2 2:14:17/
aidu_pl">

*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存:  16G
网络: 100M带宽

前置准备:  已安装ollama环境 + deepseek本地大模型
*****************************************************

*****************************************************
setup1: 安装 Nomic-Embed-Text 
用途: 基于 nomic-bert 架构开发文本嵌入模型模型,用于将文本中蕴含的语义信息编码到向量空间,便于计算机进行处理和分析
方法:  
通过ollama官网搜索nomic  或 直接进入 (https://ollama.com/library/nomic-embed-text) 
点击复制图标后,进入本地cmd命令行,粘贴 
等待完成后会出现 "success"
*****************************************************

*****************************************************
setup2:安装 AnyThingLLM
用途: 开源项目, 用于构建基于基于大语言模型的私有化应用程序, 支持源码定制开发,支持Docker容器化部署
本次通过桌面客户端方式构建
方法:
访问 AnythingLLM官网 (https://anythingllm.com/) 点击下载 选择对应系统版本
进入安装界面,默认安装, 下一步即可 ( 确保国际外网可访问 )
*****************************************************

*****************************************************
setup3: 配置 AnyThingLLM
首次进入: 创建工作空间

设置ollama作为llm供应商
设置ollama model为离线安装的deepseek-r1:14b

向量数据库使用默认配置
向量化引擎(Embedder首选项) 选择 ollama 后 ,使用 Nomic-Embed-Text 
*****************************************************


*****************************************************
setup4: 上传本地资料
点击工作空间
点击上传按钮
根据需求上传文件或连接你的数据库
保存并向量化
*****************************************************

基本以上步骤完成后即可

下面是搭建知识库前后效果对比:


http://www.ppmy.cn/server/164226.html

相关文章

一个 windows 自动语音识别案列

一个 windows 自动语音识别案列 之前给写过一段很有意思的代码,今天分享给大家 ! 文章目录 一个 windows 自动语音识别案列前言一、需要安装一些python 库二、代码如下三,测试总结下前言 一、需要安装一些python 库 speech_recognition:这是一个用于语音识别的库。它可以…

C语言编译过程全面解析

今天是2025年1月26日,农历腊月二十七,一个距离新春佳节仅一步之遥的日子。城市的喧嚣中,年味已悄然弥漫——能在这个时候坚持上班的人,真可称为“牛人”了吧,哈哈。。。。 此刻,我在重新审视那些曾被遗忘的…

PostgreSQL 数据库备份与还原

为了安全与数据共享等,创建好的数据库有时候需要备份操作和还原操作。数据库的备份与还原主要是三个命令:pg_dump、pg_dumpall 和 pg_restore 。 其中pg_dump用于备份单个数据库,它支持多种备份格式(SQL、自定义等)&a…

CRC校验详解

CRC校验即循环冗余校验(Cyclic Redundancy Check),是基于数据计算一组效验码,用于核对数据传输过程中是否被更改或传输错误。首先看两个概念,后续会用到。 模2除法:也叫模2运算,就是结果除以2后取余数。模2除法每一位除的结果不影响其它位,即不向上一位借位,所以实际…

大数据相关职位 职业进阶路径

大数据相关职位 & 职业进阶路径 📌 大数据相关职位 & 职业进阶路径 大数据领域涵盖多个方向,包括数据工程、数据分析、数据治理、数据科学等,每个方向的进阶路径有所不同。以下是大数据相关职位的详细解析及其职业进阶关系。 &#…

React第二十六章(createPortal)

createPortal 注意这是一个API&#xff0c;不是组件&#xff0c;他的作用是&#xff1a;将一个组件渲染到DOM的任意位置&#xff0c;跟Vue的Teleport组件类似。 用法 import { createPortal } from react-dom;const App () > {return createPortal(<div>小满zs<…

【Linux】从硬件到软件了解进程

个人主页~ 从硬件到软件了解进程 一、冯诺依曼体系结构二、操作系统三、操作系统进程管理1、概念2、PCB和task_struct3、查看进程4、通过系统调用fork创建进程&#xff08;1&#xff09;简述&#xff08;2&#xff09;系统调用生成子进程的过程〇提出问题①fork函数②父子进程关…

python3+TensorFlow 2.x(四)反向传播

目录 反向传播算法 反向传播算法基本步骤&#xff1a; 反向中的参数变化 总结 反向传播算法 反向传播算法&#xff08;Backpropagation&#xff09;是训练人工神经网络时使用的一个重要算法&#xff0c;它是通过计算梯度并优化神经网络的权重来最小化误差。反向传播算法的核…