本地搭建属于你自己的AI搜索引擎 支持多家AI模型

devtools/2024/9/24 4:39:41/

FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,并使用 MULTI LLM 生成答案,无需 GPU。用户可以提出问题,系统将进行多引擎搜索,并将搜索结果合并到LLM中,并根据搜索结果生成答案。全部免费使用。

项目简介

GitHub:https://github.com/nashsu/FreeAskInternet

我们可以直接可以进行提问,项目将使用 searxng 进行多引擎搜索,并将搜索结果与 ChatGPT3.5 LLM 结合,基于搜索结果生成答案。

所有过程在本地运行,可以完全不需要 GPU 或 OpenAI 或 Google API 密钥。

  • 🈚️完全免费(不需要任何API密钥)
  • 💻 完全本地化(无需GPU,任何计算机都可以运行)
  • 🔐完全私有(所有东西都在本地运行,使用自定义llm)
  • 👻 无需 LLM 硬件即可运行(无需 GPU!)
  • 🤩 使用免费的 ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API(无需 API 密钥!感谢 OpenAI)
  • 🐵 定制LLM(ollama,llama.cpp)支持,是的,我们喜欢ollama!
  • 🚀 使用 Docker Compose 快速轻松地部署
  • 🌐 Web 和移动友好界面,专为 Web 搜索增强的 AI 聊天而设计,允许从任何设备轻松访问。

本地搭建属于你自己的AI搜索引擎 支持多家AI模型插图

基于搜索的人工智能聊天:

本地搭建属于你自己的AI搜索引擎 支持多家AI模型插图1

多LLM模型和自定义LLM(如ollama)支持:

本地搭建属于你自己的AI搜索引擎 支持多家AI模型插图2

怎么运行的?

  1. 系统在FreeAskInternet UI界面(本地运行)中获取用户输入的问题,并调用searxng(本地运行)在多个搜索引擎上进行搜索。
  2. 抓取搜索结果链接内容并传递给ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama(通过使用自定义llm),让LLM根据此内容作为参考回答用户问题。
  3. 将答案传输到聊天 UI。
  4. 我们支持自定义LLM设置,因此理论上无限的LLM支持。

运行安装:

首先我们需要准备一台Linux服务器,这里我推荐伍六七云:https://www.vps567.com/ 香港2H2G 5M服务器只需要20元

还有国内外高防服务器,免费虚拟主机以及全球CDN加速挂机宝等业务。

并且我们需要在服务器上预先安装好Docker:Docker 一键安装脚本  再执行下面的安装命令。

git clone https://github.com/nashsu/FreeAskInternet.git

cd ./FreeAskInternet

docker-compose up -d

🎉 您现在应该能够在http://localhost:3000上打开 Web 界面。默认情况下不会公开任何其他内容。

注意:如果你的服务器不支持服务Chat GPT,那么你将无法使用免费的Chat GPT搜索结果和AI对话,只能在设置中自定义其他模型的AI接口和模型。伍六七云香港服务器完美支持链接到Chat GPT。

检查是否支持链接到gpt脚本:

bash <(curl -L -s check.unlock.media)

如何更新到最新

cd ./FreeAskInternet

git pull

docker compose down

docker compose rm backend

docker compose rm free_ask_internet_ui

docker image rm nashsu/free_ask_internet

docker image rm nashsu/free_ask_internet_ui

docker-compose up -d

原文链接:https://www.4awl.net/4898.html


http://www.ppmy.cn/devtools/9605.html

相关文章

CSS字体样式

字体样式包含字体的类型&#xff0c;大小&#xff0c;颜色等基本效果也包含字体粗细&#xff0c;下划线&#xff0c;斜体等特殊效果 字体的类型 CSS中font-family属性用来表示字体类型&#xff0c;基本格式&#xff1a;font-family:name。它可以指定多个字体&#xff0c;这些…

SpringBoot整合Mybatis

目录 一、引入依赖 二、创建实体类 三、编写mapper接口以及映射文件 Mapper接口 映射文件 四、编写application.yml配置文件 五、进行测试 之前搭建项目的时候&#xff0c;没有什么问题包括引入依赖&#xff0c;结果在测试的时候一直报错&#xff0c;后面原因竟然是引入…

设计模式:生活中的状态模式

让我们通过一个生活中的例子来深入理解状态模式&#xff1a;咖啡机的工作流程。想象一下&#xff0c;一个咖啡机有几种状态&#xff1a;无币状态、有币状态、制作咖啡状态和咖啡制作完成状态。用户在每个状态下与咖啡机的互动都是不同的。 状态模式在咖啡机中的应用 无币状态…

ElasticSearch:查询操作合集

先看下我的数据&#xff1a; 1、查询所有文档&#xff1a; GET /cartest/_search或者 GET /cartest/_search {"query": {"match_all": {}} }2、匹配查询&#xff1a; match匹配类型查询&#xff0c;会把查询条件进行分词&#xff0c;然后进行查询&…

Web3钱包开发获取测试币-Base Sepolia(二)

Web3钱包开发获取测试币-Base Sepolia(二) ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/b0c0ac86b04a496087471388532bc54a.png) 基于上篇 Web3钱包开发获取测试币-Polygon Mumbai(一) &#xff1a;https://suwu150.blog.csdn.net/article/details/137949473 我…

Baumer工业相机堡盟工业相机如何通过NEOAPI SDK使用CFMIME Encoder方法进行图像压缩保存(C++)

Baumer工业相机堡盟工业相机如何通过NEOAPI SDK使用CFMIME Encoder方法进行图像压缩保存&#xff08;C&#xff09; Baumer工业相机Baumer工业相机通过NEOSDK进行图像压缩的技术背景代码分析第一步&#xff1a;先引用对应的NET框架的DLL文件第二步&#xff1a;在回调函数里进行…

spi 收发流程

patch日期 收发流程的重大修改&#xff0c;来源于2012年的如下补丁 内核提交收发流程的patch spi: create a message queueing infrastructure - kernel/git/stable/linux.git - Linux kernel stable tree 源代码路径及功能 源码作用\drivers\spi\spi.cspi 通用接口&#x…

YOLOv8 测试 5-2:Linux 中 Dockerfile 部署 YOLOv8 项目一键运行,Python 封装 API 接口测试

一、前言 记录时间 [2024-4-15] 系列文章简摘&#xff1a; Docker 学习笔记&#xff08;二&#xff09;&#xff1a;在 Linux 中部署 Docker&#xff08;Centos7 下安装 docker、环境配置&#xff0c;以及镜像简单使用&#xff09; API 接口简单使用&#xff08;二&#xff09;…