2600 Stars 232 Forks 32 Issues 4 贡献者 Apache-2.0 License Python 语言
代码: https://github.com/rashadphz/farfalle
主页: Farfalle
演示: Farfalle
更多AI开源软件:https://www.aiinn.cn/sources
FarFalle 是一款开源的AI搜索引擎项目,类似Perplexity AI。 可使用本地或云 LLM 自托管。
主要功能
- 使用多个搜索提供商(Tavily、Searxng、Serper、Bing)进行搜索
- 使用云模型(OpenAI/gpt4-o、OpenAI/gpt3.5-turbo、Groq/Llama3)回答问题
- 使用本地模型(llama3、mistral、gemma、phi3)回答问题
- 通过LiteLLM回答任何自定义LLM的问题
- 与计划并执行搜索的代理一起搜索,以获得更好的结果
🏃🏿♂️开始使用
关键依赖
-
Docker
-
Ollama(如果运行本地模型)
-
下载任何支持的型号:**llama3**、**mistral**、**gemma**、**phi3**
-
启动ollama服务器ollama-server
获取API密钥
-
Tavily(可选)
-
Serper(可选)
-
OpenAI(可选)
-
必应(可选)
-
Groq(可选)
快速入门:
git clone https://github.com/rashadphz/farfalle.git
cd farfalle && cp .env-template .env
使用API密钥修改.env(可选,如果使用Ollama则不需要) 启动应用程序:
docker compose-f docker-compose.dev.yaml up-d
等待应用程序启动,然后访问http://localhost:3000. 有关自定义设置说明,请参阅[/custom-setup-instructions.md](/custom-setup-instructions.md)