安装ubuntu系统
本机电脑系统ubuntu-20.04
#升级软件
sudo apt-get update
#安装curl
sudo apt-get install curl
通过以上两条指令,完成了curl命令的安装。
安装ollama
打开Ollama官网
选择Linux,
给出如上图方框所示的一条指令
curl -fsSL https://ollama.com/install.sh | sh
这条指令就是把ollama拖下来并执行安装。
ollama的下载速度很快,安装也很快。
然后运行
ollama -v
显示正常即表示安装成功,如:
下载deepseek-r1镜像
依然是在ollama的官网上,选择"Models",选择deepseek。
我的电脑是INVIDIA显卡,点击进来可以看得到各个版本的信息
1.5B的模型大概1.1G,
8B的模型大概4.9G,复制指令黏贴到命令行里,就可以自动开始下载了
这里测试8B模型
ollama run deepseek-r1:8b
测试
docker安装
我这里已经安装完毕,查看版本
docker --version
安装open-webui
open-webui是一个UI页面,支持ollama等多种工具的可视化。
sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
打开个浏览器,输入地址127.0.0.1:3000访问
随便配置个账号密码,邮箱和密码后面是需要用来登录使用的,然后点击创建管理员账号。 回车后需要稍微等一等加载
sudo vim /etc/systemd/system/ollama.service
添加
Environment="OLLAMA_HOST=0.0.0.0"
网页显示
sudo systemctl daemon-reload
sudo systemctl restart ollama
网页测试
参考:
https://blog.csdn.net/tizi666666/article/details/145414886