前置条件
用Ollama在本地CMD窗口运行deepseek大模型-CSDN博客文章浏览阅读109次,点赞5次,收藏2次。首次运行需要下载deepseek的大模型包(大约5GB,根据本地网速的不同在半个小时到几个小时之间下载完成) ,并自动运行。第二次运行就直接输入命令。https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369https://blog.csdn.net/qq_37860634/article/details/145511369下载docker并安装Docker中文网 官网Docker中文网 官网.https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/https://docker.p2hp.com/
docker的安装过程全自动,不会提示选择安装目录,默认就安装在C盘了
如果不想安装在C盘,请在docker安装包所在目录运行CMD执行如下命令:
start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Program Files\Docker" --wsl-default-data-root="D:\Program Files\Docker\data" --windows-containers-default-data-root="D:\\Program Files\\Docker"
安装后重启电脑打开docker desktop(没有docker账号可以注册一个登录)
点击右下角的“>_Terminal” 输入命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
此时docker会开始安装open-webui相关依赖包,大概要持续30分钟左右(根据个人网速)
安装完成后会自动启动一个网页,如果没有自动启动网页,就退出docker重启电脑打开docker,在下图位置点击启动deepseek的网页。
启动后的效果,首次需要注册下
如果提示如上,这说明还没有运行大模型,
打开CMD窗口运行
ollama run deepseek-r1:7b
然后访问刚才的open-webui页面http://localhost:3000/ 刷新下网页,左上角就加载好deepseek大模型了
可以设置页面主题
可以用上面的方式部署到服务器端,提供给外网用户访问,每个用户都可以单独对自己的聊天窗口进行自定义