前言
Meta Llama 3 是由 Meta 公司发布的下一代大型语言模型，拥有 80 亿和 700 亿参数两种版本，号称是最强大的开源语言模型。它在多个基准测试中超越了谷歌的 Gemma 7B 和 Mistral 7B Instruct 模型。
安装
1.gpt4all
https://github.com/nomic-ai/gpt4all
直接选择系统点击安装，Windows就点Windows，下载完后直接安装即可！
内置模型点击Download即可选择你喜欢的大语言模型，8G显存选LLama3 8B即可，70B需要40G的显存才能正常使用。其他模型类似
C:\Users\admin\AppData\Local\nomic.ai\GPT4All #下载模型保存路径（如果看不到显示隐藏文件）
也可以下载大模型（或者你微调的模型）放入该路径，重新启动即可，当做一个webui界面
llama_28">2.open-webui+ollama
llama_30">ollama
https://github.com/ollama/ollama?tab=readme-ov-file
选择对应系统安装
安装完后cmd命令行窗口，运行
ollama run llama3 #下载Llama3 8b
ollama run llama3:70b #下载Llama3 70b 参考下图
模型保存在改路径下，
安装完Ollama后用open-webui可视化
open-webui
https://github.com/open-webui/open-webui?tab=readme-ov-file
使用docker安装
左下角搜索启用或关闭Windows功能，勾选适用于Linux的Windows子系统 ，确定，先不重启
安装docker
https://www.docker.com/products/docker-desktop/
下载完直接安装，重启，确定即可
打开ollama和docker，cmd命令行：（打开全局代理）
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
下载完后
http://127.0.0.1:3000
点击右上角设置，选择简体中文
下载模型 llama3:8b ，点击下载
最后可以愉快玩耍了
补：lmstudio（问题多）
https://lmstudio.ai/
国内安装显示没网，开全局代理也没用，版本更新也快，把huggingface换成国内镜像hf-mirror，没用，又把downloads.json文件更换下载地址，能下但是下载速度贼慢，
有兴趣可以看看https://www.bilibili.com/video/BV1dw4m1f7zQ/?spm_id_from=333.337.search-card.all.click&vd_source=69a72fa3fe0bf11ff1588ccaeb91737a
最好找个老版本
