操作教程丨MaxKB+Ollama:快速构建基于大语言模型的本地知识库问答系统

devtools/2024/9/18 12:15:42/ 标签: 开源, 面板, 1Panel, 运维, MaxKB, 大模型, Linux

2024年4月12日,1Panel开源项目组正式对外介绍了其官方出品的开源子项目——MaxKB(github.com/1Panel-dev/MaxKB)。MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

2024年4月16日,MaxKB成功登顶GitHub Trending主榜单,自项目发布后快速收获超过1,800个Star和超过5,000次下载。有社区用户反馈,已经成功将MaxKB部署到其产品官网,以低成本的方式打造出一个贴身的官方AI客服。
在这里插入图片描述

除了基于OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统外,MaxKB还支持与以Ollama为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。

本文为您详细介绍通过1Panel应用商店(apps.fit2cloud.com/1panel)快速部署MaxKB和Ollama,在MaxKB中接入Ollama的LLM模型,以及快速上线企业知识库小助手的具体方法。

1.MaxKB安装部署

部署方式一:通过1Panel应用商店,快速安装MaxKB应用。
在这里插入图片描述

部署方式二:命令行安装。

docker run -d --name=maxkb -p 8080:8080 -v
~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

用户名: admin

MaxKB123_22">密码: MaxKB@123…

2.Ollama安装部署

Ollama(github.com/ollama)是一个开源框架,它支持用户通过本地部署的方式构建大语言模型服务。目前,Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等。

通过1Panel应用商店,您可以快速安装Ollama。
在这里插入图片描述

3.在MaxKB中接入Ollama的大语言模型

第一步:登录至MaxKB系统

1Panel应用商店的“已安装”选项卡中,找到MaxKB应用面板,点击应用名下方的“服务端口”选项打开MaxKB应用页面,即可使用默认的账户名和密码登录至MaxKB
在这里插入图片描述

第二步:接入Ollama LLM模型

进入MaxKB的“系统设置”菜单,在“模型设置”页面中选择添加“Ollama”模型,并且填写模型的具体信息。点击“添加”按钮后,系统会自动下载部署Ollama模型。
在这里插入图片描述

除Ollama外,MaxKB还支持对接百度千帆大模型、Azure OpenAI和OpenAI模型,详细步骤可以参考MaxKB官方文档。

4.制作企业知识库小助手

我们以制作DataEase小助手为例,为您演示通过MaxKB和Ollama构建知识库问答系统的过程。

第一步:在MaxKB中创建DataEase在线知识库

DataEase在线文档地址为:https://dataease.io/docs/。

MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:
在这里插入图片描述

MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。
在这里插入图片描述

第二步:在MaxKB中创建DataEase小助手应用

MaxKB的“应用”菜单中,选择创建应用,并填写相关的应用信息,操作界面如下:
在这里插入图片描述
在这里插入图片描述

DataEase小助手创建完成后,可以在MaxKB“应用”菜单中的“应用”列表中点击对应应用的演示图标进行调试和预览。
在这里插入图片描述

DataEase小助手对话演示页面如下:
在这里插入图片描述

5.将企业小助手嵌入到第三方业务系统中

接下来,我们将DataEase小助手嵌入到DataEase在线文档中。

回到MaxKB“应用”菜单中,点击DataEase小助手应用面板,进入该应用的“概览”页面。在概览页面打开“嵌入第三方”选项。
在这里插入图片描述

复制“浮窗模式”下方的脚本,加入到DataEase在线文档的文件中,即可将DataEase小助手嵌入至对应的页面中。
在这里插入图片描述

DataEase小助手嵌入在线文档后的效果如下:
在这里插入图片描述


http://www.ppmy.cn/devtools/13739.html

相关文章

算法学习笔记Day9——动态规划初探

一、介绍 本文解决几个问题:动态规划是什么?解决动态规划问题有什么技巧?如何学习动态规划? 1. 动态规划问题的一般形式就是求最值。动态规划其实是运筹学的一种最优化方法,只不过在计算机问题上应用比较多&#xff…

Mysql全局优化总结

Mysql全局优化总结 从上图可以看出SQL及索引的优化效果是最好的,而且成本最低,所以工作中我们要在这块花更多时间 服务端系统参数 官方文档:https://dev.mysql.com/doc/refman/8.0/en/server-system-variables.html#sysvar_max_connections…

微软如何打造数字零售力航母系列科普01 --- Azure顾问(AZURE Advisor)简介

Azure顾问(AZURE Advisor)简介 目录 一、什么是AZURE顾问(AZURE Advisor)? 二、常见问题 三、接下来的步骤 一、什么是AZURE顾问? AZURE顾问是一种数字云助手,可帮助您遵循最佳实践来优化Az…

Ubuntu - 网络

本文简单介绍几个网络相关的命令 ip ip addr show 显示所有网卡的地址ip addr show ens33 显示ens33网卡地址ip addr add 192.168.13.143/24 dev ens33 为ens33网卡设置地址ip route show 显示所有网卡路由ip route get 110.242.68.3 展示110.242.68.3到本机的哪个网卡ip -s l…

SSRF题目进阶+SSRF正则绕过+进制绕过SSRF限制

[题目信息]: 题目名称题目难度SSRF题目进阶3 [题目考点]: SSRF绕过[Flag格式]: SangFor{h3bvbopR6L2EQOXv}[环境部署]: docker-compose.yml文件或者docker tar原始文件。 docker-compose up -d[题目writeup]: 1、实验主页 …

华为机考入门python3--(18)牛客18- 识别有效的IP地址和掩码并进行分类统计

分类:字符串 知识点: 字符串是否由数字组成 my_str.isdigit() 字符串填充 不足8位左侧填充0 my_str.zfill(8) 题目来自【牛客】 import sys def classify_ip(ip_mask): ip_class, is_private_ip, mask_class ignore_ip, 0, valid_mask# 解…

uniapp——组件多颜色模块展示、气泡框

一、自定义颜色&#xff1a; 样式 代码 <template><view class"content"><!-- 右上角 --><view class"coverStatus" :class"[itemClass, positionClass,cornerClass,sanJiaoCss,sanJiaoCss2]":style"dynamicStyle&q…

OpenHarmony鸿蒙南向开发案例:【智能猫眼(基于3518开发板)】

样例简介 本Demo是基于Hi3518开发板&#xff0c;使用开源OpenHarmony开发的RTSP协议流媒体应用。达到将Hi3518开发板中摄像头获取的数据通过RTSP协议传输到手机并显示 。 rtsp实现可参考文档&#xff1a;openharmony_1.0.1实现RTSPServer 运行效果 样例原理 如上图所示&…

【熵与特征提取】从近似熵,到样本熵,到模糊熵,再到排列熵,包络熵,散布熵,究竟实现了什么?(第六篇)——“散布熵”及其MATLAB实现

今天讲散布熵&#xff0c;之前用了几篇文章分别讲述了功率谱熵、奇异谱熵、能量熵、近似熵、样本熵、模糊熵、排列熵、包络熵这8种类型的熵&#xff1a; Mr.看海&#xff1a;【熵与特征提取】基于“信息熵”的特征指标及其MATLAB代码实现&#xff08;功率谱熵、奇异谱熵、能量…

[MoeCTF-2022]Sqlmap_boy

title:[MoeCTF 2022]Sqlmap_boy 查看网页源代码&#xff0c;得到提示 <!-- $sql select username,password from users where username".$username." && password".$password.";; --> 用万能密码绕过&#xff0c;用’"闭合 爆数据库…

力扣练习题(2024/4/21)

贪心算法是一种在每一步选择中都做出最佳选择的算法方法。它以尽量减少当前问题的复杂性为目标&#xff0c;在每一步选择中尽可能取得最佳结果。尽管贪心算法不能保证总是获得最优解&#xff0c;但在许多情况下&#xff0c;它是解决问题的高效方法。 1分发饼干 如果连续数字之…

机器学习运用-民宿价格

项目简介 随着旅游业的蓬勃发展&#xff0c;民宿市场迎来了前所未有的增长机遇。正好最近在参加拓尔思数据挖掘公益实习活动&#xff0c;我的项目将应用机器学习技术开发一个价格预测模型。可以达到更好地理解和预测民宿价格的目的&#xff0c;该模型综合考虑了从容纳人数、便…

python机器学习库中Scikit-learn和TensorFlow如何选择?

在Python机器学习库中&#xff0c;Scikit-learn和TensorFlow是两个非常流行的选择&#xff0c;但它们各自有不同的特点和适用场景。以下是根据搜索结果的一些考虑因素&#xff0c;帮助你做出选择&#xff1a; 1. 项目需求&#xff1a; 如果你的项目主要涉及传统的机器学习算…

Elasticsearch进阶篇(三):ik分词器的使用与项目应用

ik分词器的使用 一、下载并安装1.1 已有作者编译后的包文件1.2 只有源代码的版本1.3 安装ik分词插件 二、ik分词器的模式2.1 ik_smart演示2.2 ik_max_word演示2.3 standard演示 三、ik分词器在项目中的使用四、ik配置文件4.1 配置文件的说明4.2 自定义词库 五、参考链接 一、下…

python常见语法

变量赋值&#xff1a; my_var 10 基本数据类型&#xff1a; 整数&#xff08;int&#xff09;、浮点数&#xff08;float&#xff09;、字符串&#xff08;str&#xff09;、布尔值&#xff08;bool&#xff09;、列表&#xff08;list&#xff09;、元组&#xff08;tuple&…

【机器学习300问】68、随机初始化神经网络权重的好处?

一、固定的初始化神经网络权重可能带来的问题 在训练神经网络的时候&#xff0c;初始化权重如果全部设置为0或某个过大值/过小值。会导致一些问题&#xff1a; 对称权重问题&#xff1a;全为0的初始化权重会导致神经网络在前向传播时接收到的信号输入相同。每个神经网络节点中…

Amazon云计算AWS之[2]弹性计算云EC2

文章目录 说明EC2基本架构Amazon机器映象&#xff08;AMI&#xff09;实例&#xff08;Instance&#xff09;弹性块存储&#xff08;EBS&#xff09; EC2关键技术地理区域和可用区域EC2通信机制弹性负载均衡监控服务自动缩放服务管理控制台 EC2安全及容错机制EC2弹性IP地址 说明…

web server apache tomcat11-02-setup 启动

前言 整理这个官方翻译的系列&#xff0c;原因是网上大部分的 tomcat 版本比较旧&#xff0c;此版本为 v11 最新的版本。 开源项目 从零手写实现 tomcat minicat 别称【嗅虎】心有猛虎&#xff0c;轻嗅蔷薇。 系列文章 web server apache tomcat11-01-官方文档入门介绍 web…

Ubuntu查看端口状态

完蛋了&#xff0c;好像动心了&#xff0c;近一周吃啥东西都索然无味&#xff0c;这可如何是好&#xff01;&#xff01;&#xff01;不知道在期待什么&#xff0c;恐惧与窃喜—— 在Ubuntu系统中&#xff0c;查看某个端口是否被放行&#xff08;即允许流量通过&#xff09;&am…