更多AI开源软件：

AI开源 - 小众AIhttps://www.aiinn.cn/sources

35900 Stars 4400 Forks 739 Issues 253 贡献者 Apache-2.0 License Python 语言

代码: GitHub - lm-sys/FastChat: An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.

主页: https://chat.lmsys.org/

演示: https://chat.lmsys.org/

FastChat 这是一个用于训练、部署和评估大型语言模型的平台，你可以用它在本地部署和评估各种大模型。除此之外，它还提供了一个在线评估大模型的平台，用户可以向两个不同的大模型，问同一个问题，然后根据回答选出你认为更好用的大模型。在此过程中，你可以免费使用 Claude、ChatGPT 等对话机器人。

​

​

主要特性

• 最先进模型（例如，Vicuna、MT-Bench）的训练和评估代码。
• 具有 Web UI 和兼容 OpenAI 的 RESTful API 的分布式多模型服务系统。

开始使用 🚀

使用pip安装

pip3 install "fschat[model_worker,webui]"

使用源码安装

1. 克隆FastChat代码并进入项目目录

git clone https://github.com/lm-sys/FastChat.git
cd FastChat

Mac:

brew install rust cmake

1. 安装项目包

pip3 install --upgrade pip  # enable PEP 660 support
pip3 install -e ".[model_worker,webui]"