2600 Stars 232 Forks 32 Issues 4 贡献者 Apache-2.0 License Python 语言

代码: https://github.com/rashadphz/farfalle

主页: Farfalle

演示: Farfalle

更多AI开源软件：https://www.aiinn.cn/sources

FarFalle 是一款开源的AI搜索引擎项目，类似Perplexity AI。 可使用本地或云 LLM 自托管。

​

​

主要功能

• 使用多个搜索提供商（Tavily、Searxng、Serper、Bing）进行搜索
• 使用云模型（OpenAI/gpt4-o、OpenAI/gpt3.5-turbo、Groq/Llama3）回答问题
• 使用本地模型（llama3、mistral、gemma、phi3）回答问题
• 通过LiteLLM回答任何自定义LLM的问题
• 与计划并执行搜索的代理一起搜索，以获得更好的结果

🏃🏿‍♂️开始使用

关键依赖

• Docker

• Ollama（如果运行本地模型）

• 下载任何支持的型号：**llama3**、**mistral**、**gemma**、**phi3**

• 启动ollama服务器ollama-server​

  获取API密钥

• Tavily（可选）

• Serper（可选）

• OpenAI（可选）

• 必应（可选）

• Groq（可选）

  快速入门：

git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env

使用API密钥修改.env（可选，如果使用Ollama则不需要） 启动应用程序：

docker compose-f docker-compose.dev.yaml up-d

等待应用程序启动，然后访问http://localhost:3000. 有关自定义设置说明，请参阅[/custom-setup-instructions.md]（/custom-setup-instructions.md）