LocalAi,Ollama+AnythingLLM搭建部署本地大模型AI知识库,汉化版本

ops/2024/11/14 13:07:53/

AnythingLLM 是一个全栈应用程序,您可以使用商业现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建私有 ChatGPT,无需任何妥协,您可以在本地运行,也可以远程托管并能够智能聊天以及您提供的任何文件。
AnythingLLM 将您的文档划分为名为workspaces.工作区的功能很像线程,但增加了文档的容器化。工作区可以共享文档,但它们不会相互通信,因此您可以保持每个工作区的上下文干净。
anything-llm:https://github.com/Mintplex-Labs/anything-llm
ollama: https://github.com/ollama/ollama

在本地启动并运行大型语言模型, 根据自己的需求去安装启动大模型

后面手动汉化迭代了一个版本,后续会发布github,需要请先关注收藏一下哈!

这个 monorepo 包含三个主要部分:
frontend:一个 viteJS + React 前端,您可以运行它来轻松创建和管理法学硕士可以使用的所有内容。
server:一个 NodeJS Express 服务器,用于处理所有交互并执行所有向量数据库管理和 LLM 交互。
docker:Docker 说明和构建过程+从源代码构建的信息。
collector:NodeJS Express 服务器,用于处理和解析来自 UI 的文档。

先来几张截图:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

本地环境运行,window和mac是有所不同的,踩坑系列后面补上来。


http://www.ppmy.cn/ops/9626.html

相关文章

物理机中没有VMNet1和VMNet8虚拟网卡

控制面板——网络连接——网络适配器 VMware Network Adapter VMnet1 VMware Network Adapter VMnet8 如果没有这两个虚拟网卡,虚拟机的网络会出现问题 # 解决办法-恢复虚拟网卡默认设置 1、下载并打开ccleaner,ccleaner官网:CCleaner M…

【InternLM 实战营第二期笔记04】XTuner微调LLM:1.8B、多模态、Agent

一、微调的原因 大模型微调(Fine-tuning)的原因主要有以下几点: 适应特定任务:预训练的大模型往往是在大量通用数据上训练的,虽然具有强大的表示学习能力,但可能并不直接适用于特定的下游任务。通过微调&…

【学习笔记】Vue3源码解析:第四部分- runtime-dom(2)

课程地址:【已完结】全网最详细Vue3源码解析!(一行行带你手写Vue3源码) 第四部分-:(对应课程的第27-28节) 第27节:《事件的处理》 1、在 event.ts 中编写如下代码:由于…

SEW减速机参数查询 2-2 实践

首先说说结论:在不和SEW官方取得沟通之前,你几乎无法直接通过查阅SEW官方文档得到相关减速机的所有技术参数:比如轴的模数和齿数,轴承的参数。我在周一耗费了一个上午,最终和SEW方面确认后才知晓相关技术参数需要凭借销…

针对窗口数量多导致窗口大小显示受限制的问题,使用滚动条控制窗口

建议:首先观察结果展示,判断是否可以满足你的需求。 目录 1. 问题分析 2. 解决方案 2.1 界面设计 2.2 生成代码 2.3 源码实现 3. 结果展示 1. 问题分析 项目需要显示的窗口数量颇多,主界面中,如果一次性显示全部窗口&#x…

rst文件是什么?如何阅读rst文件

左手编程,右手年华。大家好,我是一点,关注我,带你走入编程的世界。 公众号:一点sir,关注领取编程资料 如果有阅读过Python源码的同学一定知道,Python社区的相关的帮助文件是用rst结尾的文档格式…

kafka 的零拷贝原理

在实际应用中,如果我们需要把磁盘中的某个文件内容发送到远程服务器上,那么它必须经过几个拷贝的过程。 从磁盘中读取目标文件内容拷贝到内核缓冲区CPU 控制器再把内核缓冲区的数据赋值到用户空间的缓冲区中接着在应用程序中,调用 write(&am…

文心一言与GPT-4全面对比——人工智能语言模型的新纪元

随着人工智能领域的快速发展,各种高级语言模型相继问世,它们在文本生成、自然语言理解、对话系统等多个方面展示了惊人的能力。其中,最为瞩目的便是OpenAI发布的GPT-4和国内百度的文心一言。这两个模型都被设计用来处理复杂的语言理解和生成任…