不会写代码,也能部署一个独立ChatGPT?

news/2024/11/6 9:44:12/

在这里插入图片描述

本教程使用GPT-3模型接口模拟ChatGPT项目,虽然与真正的ChatGPT存在差异,但是演示了ChatGPT的工作原理。

(ChatGPT服务是基于GPT-3模型,经过大量的微调训练而来的,本教程暂时不包含训练内容,之后我们会讲如何进行二次训练)

部署的本地api接口使用了node-chatgpt-api这个库,库基于Node.js开发。项目地址:
https://github.com/waylaidwanderer/node-chatgpt-api

要求Node.js环境 >= 16.0.0
如果没有安装Node.js,可以到这里https://nodejs.org/en/下载安装
安装完成后,打开cmd,输入node,可以看到安装完成,版本符合要求

D:\>node
Welcome to Node.js v16.14.0.
Type ".help" for more information.
> .exit

另外还需要你有一个OpenAI的 API KEY,
可以在https://platform.openai.com/account/api-keys获取

然后同下载项目:

D:\dev2023>git clone https://github.com/waylaidwanderer/node-chatgpt-api.git
Cloning into 'node-chatgpt-api'...
remote: Enumerating objects: 576, done.
remote: Counting objects: 100% (330/330), done.
remote: Compressing objects: 100% (92/92), done.
Receiving objects: 100% (576/576), 232.08 KiB | 805.00 KiB/s, done.246 eceiving objects:  97% (559/576)Resolving deltas: 100% (351/351), done.

进入项目文件夹:

D:\dev2023>cd node-chatgpt-api

安装项目依赖:

D:\dev2023\node-chatgpt-api>npm i
npm WARN EBADENGINE Unsupported engine {
npm WARN EBADENGINE   package: '@waylaidwanderer/fetch-event-source@3.0.1',
npm WARN EBADENGINE   required: { node: '>=16.15' },
npm WARN EBADENGINE   current: { node: 'v16.14.0', npm: '8.5.2' }
npm WARN EBADENGINE }added 163 packages, and audited 164 packages in 5s38 packages are looking for fundingrun `npm fund` for detailsfound 0 vulnerabilities
npm notice
npm notice New major version of npm available! 8.5.2 -> 9.4.2
npm notice Changelog: https://github.com/npm/cli/releases/tag/v9.4.2
npm notice Run npm install -g npm@9.4.2 to update!

编辑配置文件:
将settings.example.js复制一份为settings.js

D:\dev2023\node-chatgpt-api>copy settings.example.js settings.js
已复制         1 个文件。

然后用编辑器打开settings.js文件进行编辑

export default {// OpenAI API 密钥openaiApiKey: process.env.OPENAI_API_KEY || '这里填写您的openai密钥',chatGptClient: {// (可选)在 https://platform.openai.com/docs/api-reference/completions 中描述的参数modelOptions: {// 默认情况下模型设置为 text-chat-davinci-002-20221122,但您可以在此处覆盖它和其他任何参数model: 'text-chat-davinci-002-20221122',},// (可选)设置自定义说明,而不是“您是 ChatGPT...”// promptPrefix: 'You are Bob, a cowboy in Western times...',// (可选)为用户设置自定义名称// userLabel: 'User',// (可选)为 ChatGPT 设置自定义名称// chatGptLabel: 'ChatGPT',// (可选)设置为 true 以启用 `console.debug()` 日志记录debug: false,},// Keyv 缓存的选项,详见 https://www.npmjs.com/package/keyv。// 这用于存储对话,并支持其他驱动程序(默认情况下,对话存储在内存中)cacheOptions: {},// API 服务器的选项apiOptions: {port: process.env.API_PORT || 3000,host: process.env.API_HOST || 'localhost',// (可选)设置为 true 以启用 `console.debug()` 日志记录debug: false,},// 如果设置,ChatGPTClient 将使用 `keyv-file` 将对话存储到此 JSON 文件中,而不是存储在内存中。// 但是,如果设置了 cacheOptions.store,它将覆盖此设置。

这里可以过时行很多配置,比如你可以给ChatGPT换一个名字,
比如:你叫小美…
完整的ChatGPT自定义说明:
"You are ChatGPT, a large language model trained by OpenAI. You answer as concisely as possible for each response (e.g. don’t be verbose). It is very important that you answer as concisely as possible, so please remember this. If you are generating a list, do not have too many items. Keep the number of items short. Knowledge cutoff: 2021-09 Current date: 2023-01-31
“你是 ChatGPT,一个由 OpenAI 训练的大型语言模型。对于每个响应,你的回答尽可能简洁(例如,不要冗长)。尽可能简洁地回答是非常重要的,所以请记住这一点。如果您正在生成一个列表,请不要有太多的项目。保持项目的数量短。知识截止日期: 2021-09 当前日期: 2023-01-31”
默认只需要填好密钥就可以进行使用了,
但是模型定义这里可能需要换成官方的付费模型text-davinci-003。
注意,此处的model默认填的 text-chat-davinci-002-20221122 这是一个泄露模型,使用不计费但是经常无法连接,所以如果你想换成正常的,可以填写 text-davinci-003,这个是计费的模型,使用会扣除帐户余额,每个帐户默认赠送18美元,用完之后需要绑定国外信用卡才能继续消费。
使用项目:
输入npm run cli启动对话

D:\dev2023\node-chatgpt-api>npm run cli> @waylaidwanderer/chatgpt-api@1.10.5 cli
> node bin/cli.js╔═══════════════╗║  ChatGPT CLI  ║╚═══════════════╝Type "!" to access the command menu.
? Write a message: !
❯ !editor - Open the editor (for multi-line messages)!resume - Resume last conversation!new - Start new conversation!copy - Copy conversation to clipboard!delete-all - Delete all conversations!exit - Exit ChatGPT CLI

输入!符号可以看到内置了几种命令
!

editor - Open the editor (for multi-line messages) - 打开编辑器(适用于多行消息)
!resume - Resume last conversation - 恢复上一次对话
!new - Start new conversation  - 开始新对话
!copy - Copy conversation to clipboard - 将对话复制到剪贴板
!delete-all - Delete all conversations  - 删除所有对话
!exit - Exit ChatGPT CLI - 退出ChatGPT CLI

我们可以尝试一下聊天:

Type "!" to access the command menu.
? Write a message: 你好┌ ChatGPT ───────────────────┐│  你好!我能为你做些什么?│└────────────────────────────┘

如果您熟悉Node.js开发,您可以将此项目嵌入到您的项目中进行开发。当然,它也可以作为一个纯粹的API接口来调用,以实现您自己的用户管理系统,管理不同用户的上下文,以及未来将要分享的自定义数据集模型训练以及训练后的使用。

// 启动一个node.js服务器
npm start 或者 npm run server 
// 启动一个docker服务器
docker-compose up

使用方法
发送消息:

{"message": "Hello, how are you today?","conversationId": "your-conversation-id (optional)","parentMessageId": "your-parent-message-id (optional)"
}

返回消息:

// HTTP/1.1 200 OK
{"response": "I'm doing well, thank you! How are you?","conversationId": "your-conversation-id","messageId": "response-message-id"
}

ChatGPT正在迅速走红,全球都在推广和关注这个项目,许多人也正在尝试从中变现获利。然而,他们所采用的方法往往都过于简单和低门槛,如“写作文”、“写求职信”等。为了实现更高水平的商业价值,我们希望尝试更复杂,更深度定制的方法。例如,我们可以通过收集数据库并进行二次训练,比如训练一个适合公司实际情况的客户服务的机器人。
因此,我们将在以后逐渐分享我们的研究步骤和操作方法,以帮助那些希望深入了解GPT模型训练的朋友。这样,他们就可以以更低的技术门槛实现更高级的商业价值。

更多精彩内容可以关注同名公众号


http://www.ppmy.cn/news/950958.html

相关文章

本地部署你的专属ChatGPT,不用想方设法翻墙了

自ChatGPT问世以来,由于安全问题ChatGTP始终没有在国内提供服务,那访问ChatGTP有条件的就通过专线到国外进行访问,没条件的但喜欢折腾的可以通过各种野路子科学上网,没条件不喜欢折腾的听听就行。 无意间在gitHub上发现了一个开源…

Chatgpt私有化部署(全流程)

前言 当下使用chatgpt来帮助完成工作已然成为主流,但想访问必须先面对地区的封锁,所以使用openai官方提供的API来部署至本地服务器从而更加便利的使用chatgpt。本文章主要介绍如何部署私有聊天机器人。 条件准备: 公网服务器一台&#xff0…

无需GPU无需网络“本地部署chatGPT”(更新StableVicuna)

想当初图像生成从DELL到stable diffusion再到苹果的移动部署过了两三年吧 聊天bot才发展几个月就可以边缘部署了,如果苹果更新silicon,npu和运存翻倍,争取apple watch也能本地内置,最快ios18 mac、ipad、iPhone能内置吧 又是一个平…

一键部署自己的ChatGPT

最近尝试了下ChatGPT-Next-Web项目,可以一键免费部署你的私人 ChatGPT 网页应用,整体过程非常丝滑,觉得有必要推荐给大家。 只要提供api key,即可在1分钟内完成一键部署。有自己的域名的话还可以无障碍访问和使用,速度…

部署了一个ChatGPT

部署了一个ChatGPT ChatGPT火爆了一段时间了,但是基于一些不可描述的原因,不能注册使用。为了方便大家体验,我部署了一个服务,能简单地体验一下ChatGPT的强大。话不多说,直接展示几个例子截图。文章最后放上体验地址和…

王炸!10分钟把ChatGPT部署成24小时微信机器人!

ChatGPT最近大家都是玩的风生水起,不亦乐乎!各种应用层出不穷,其中最接地气,也是最受小白欢迎的就是wx机器人,因为它能跟微信深入融合( 详细看文末专栏 用PythonChatGPT打造超强的微信机器人!),…

史上最简单的自建ChatGPT部署方案,只需要一个HTML文件

今天发现一个史上最简单的自建ChatGPT部署方案,只需要一个HTML文件,把它配置到Nginx就能跑起来。 效果如下: 他能做什么用? 平常我们使用chatgpt需要配魔法上网才能登上官方网站,对于很多人来说这是个很棘手的问题&a…

基于Docker如何快速部署自己的ChatGPT

背景 随着OpenAI在2022年底发布的LLM模型-ChatGPT展现出的强大效果,ChatGPT无疑成为了当下炙手可热的明星模型。 现有的基于GPT的开源项目已经非常多,本文以现有的高热度github开源项目chatgpt-web为例,教大家简单快速地搭建属于自己的Chat…