保姆级离线+windows环境+大模型前端UI安装(二)

server/2024/9/22 18:58:19/
aidu_pl">

看到很多文章采用docker在windows环境安装python或者是linux环境再装webui的,感觉比较麻烦,不够简洁,本文采用nodejs,来作为客户端引擎。

这篇只讲客户端安装,需要安装后端大模型及其运行的可以参考第一篇:

保姆级离线+windows环境+私有化部署大模型(一)-CSDN博客

Node.js 是一个开源的、跨平台的 JavaScript 运行时环境,允许开发者在服务器端运行 JavaScript 代码。它基于 Chrome 的 V8 JavaScript 引擎构建

一、安装思路

Ollama-webUI可以直接在有网环境下安装,把相关的依赖文件下载完成,复制安装好以后的WebUI文件目录到内网环境。

二、安装步骤

1、Node.js下载安装


进入Node官网下载Node,https://nodejs.org 

一步一步安装即可,安装完成以后,验证是否安装成功,可在windws命令窗口win+r,cmd,打开的页面,验证node的版本:

node -v

v20以上就没问题

2、下载ollama-webui代码

默认ollama安装后,对话只有黑色命令界面,交互体验较差。借助open-webui可以通过web界面连接ollama,从而实现类似chatGPT式的web交互体验。

下载地址:github.com

从github下载zip文件夹。解压到本地,如D:\ollama-webui-lite-main

windows+R输入cmd,进入dos命令界面

cd D:\ollama-webui-lite-main

进入ollama-webui文件夹,在此文件夹下进行以下所有的命令。首先,设置国内镜像源提速:

npm config set registry http://mirrors.cloud.tencent.com/npm/


3.安装Node.js依赖:

npm ci
npm install

如果报错说要audit,则依次进行即可:

npm audit
npm audit fix

4.启动webUI

启动Web界面:

npm run dev


打开Web页面,选择你的模型即可开始对话。

三、拷贝整个D盘的WebUI到内网环境

D:\ollama-webui-lite-main

在内网环境,cd到WebUI的文件夹,这文件夹下,直接启动

npm run dev


http://www.ppmy.cn/server/118319.html

相关文章

QT 串口上位机读卡显示

目录 一. QT创建工程 二. 软件更换图标 三. QT打包 一. QT创建工程 文件新建,选择创建一个桌面QT。 重命名RFID,并选择工程保存路径 RFID.pro QT core gui serialport #串行串口greaterThan(QT_MAJOR_VERSION, 4): QT widgetsTARGET RFID TE…

Leetcode—740. 删除并获得点数【中等】(unordered_map+set+sort)

2024每日刷题&#xff08;162&#xff09; Leetcode—740. 删除并获得点数 算法思想 实现代码 class Solution { public:int deleteAndEarn(vector<int>& nums) {unordered_map<int, int> freq;set<int> st;sort(nums.begin(), nums.end());int n num…

【STM32】esp8266连接wifi

1.配置stm32cubemx 使用串口二接收esp8266的数据&#xff0c;单片机接收&#xff0c;使用串口1将数据发送给串口助手 串口2波特率设置74880&#xff0c;串口1设置115200 在初始化的时候需要将复位引脚拉低20ms,然后再拉高20ms, 设置GPIOB的输出模式 对PB12做输出处理 2.…

在grafana上配置显示全部node资源信息概览

在grafana上配置显示全部node资源信息概览&#xff0c;便于巡检 1&#xff0c;注册grafana官网账号&#xff1a;Grafana dashboards | Grafana Labs&#xfeff; 2、寻找可以展示所有node资源概览信息的dashboard&#xff0c;并下载支持prometheus数据源的dashboard&#xff…

如何用 Helm Chart 安装指定版本的 GitLab Runner?

本分分享如何使用 Helm 来在 Kubernetes 集群上安装极狐GitLab Runner。整体步骤分为&#xff1a;Helm 的安装、vaules.yaml 文件的配置、Runner 的安装、Runner 的测试。 极狐GitLab 为 GitLab 在中国的发行版&#xff0c;中文版本对中国用户更友好。极狐GitLab 支持一键私有…

vue3补充

form表单重置 const { proxy } getCurrentInstance()!; // 获取挂载在全局的上下文proxy.resetForm(ruleFormRef); // 在el-form中清空ref为ruleFormRef的表单注&#xff1a;不推荐使用 不推荐的原因 类型安全问题&#xff1a; 当在 TypeScript 环境中使用时&#xff0c;…

【计算机网络】HTTP相关问题与解答

此篇文章内容会不定期更新&#xff0c;仅作为学习过程中的笔记记录 目录 一、HTTP请求和响应报文是怎样的&#xff1f; 1、请求报文 2、响应报文 二、HTTP请求方法有哪些&#xff1f; GET HEAD POST PUT DELETE PATCH OPTIONS TRACE CONNECT 三、GET请求与POST请…

Windows和Mac命令窗快速打开文件夹

Windows explorer . 和 macOS open . 命令详解 1. Windows explorer . explorer 是 Windows 上的文件资源管理器&#xff0c;用于通过命令行打开文件夹或文件。 常用命令格式&#xff1a; explorer [选项] [目标路径]. 表示当前目录&#xff0c;explorer . 打开当前工作目录…