本地部署你的专属ChatGPT,不用想方设法翻墙了

news/2024/11/6 9:53:57/

        自ChatGPT问世以来,由于安全问题ChatGTP始终没有在国内提供服务,那访问ChatGTP有条件的就通过专线到国外进行访问,没条件的但喜欢折腾的可以通过各种野路子科学上网,没条件不喜欢折腾的听听就行。

        无意间在gitHub上发现了一个开源的项目,gpt4all,可以让使用者在本地部署一个ChatGPT,直接可以一键部署生成式的聊天工具。截止到本文已经达到33.8k的star了,关注度极高。

        先看看官方对此款产品的介绍:

                        Welcome to GPT4All Chat!

        GPT4All Chat is a locally-running AI chat application powered by the GPT4All-J Apache 2 Licensed chatbot. The model runs on your computers CPU, works without an internet connection and sends no chat data to external servers (unless you opt-in to have your chat data be used to improve future GPT4All models). It allows you to communicate with a large language model (LLM) to get helpful answers, insights, and suggestions. GPT4All Chat is available for Windows, Linux, and macOS. Running on your local computer, this model is not as powerful as those GPT models you can chat with over the internet by sending your data to large powerful servers and is not affiliated with them. NOTE: Windows and Linux require at least an AVX2 chipset. Both intel and arm macOS machines should work. A future update should allow non-AVX2 chipsets for older machines. Check back frequently and will announce here when it is ready.

        言简意赅就是该款产品是本地部署的,不需要网络就可以使用,也不会收集你的聊天信息发送到外边的服务器上(除非你允许你的聊天信息去提升未来GPT4all的模型) 。它允许您使用大型语言模型(LLM)进行交流,以获得有用的答案、见解和建议。该款产品可以在windows,linux和macos上部署。同时上面也提到了,本地部署的ChatGPT是不如通过网络接入的官方ChatGPT。后边就是你的电脑需要运行这款工具的配置了,一般新点的电脑都Ok。

        感兴趣的也可以去看看GPT4All发布的论文,里面详细的介绍了数据的收集和整理,以及模型的训练和用于训练的数据量。专业人士感兴趣可以看看

链接:https://static.nomic.ai/gpt4all/2023_GPT4All-J_Technical_Report_2.pdf

         下面直接进入正题

一:GPT4All安装

下载链接:GPT4All Chat

        

 上面提到GptAll可以在三个平台部署,我的是windows,就下载windows的安装包,为方便不能访问下载网页的同学,我已经将三个平台的安装包下载下来了,可以自取。链接:https://download.csdn.net/download/qq_27071221/87713268

进入安装界面

 有个设置按钮,好奇设计里面有啥,点进去看了看

 里面有个缓存的地方,默认放在C盘,由于我C盘空间紧张,我就改到了其他盘

然后一路点,就到了下面的安装界面了,这里就要死等了 ,没办法,要下载一个2.93GB的一个bin文件,应该就是训练好的模型包,此处我放那下载了一晚上。

 最后就是安装完成了

 二:GPT4All试用

 1,简单问侯语聊天,回答只能是英文

 2,尝试一下能不能写代码,第一次输入中文和英文发现不好使

 不死心又尝试了一遍,还真回答出来了,还用了好几种方法,由于篇幅就不贴出来了

 3,问一些敏感话题,回答很美国

 4,问一下历史知识,一本正经的胡说八道 

 三:总结

        以上就是GPT4All的安装和试用,安装最后要下载的文件比较大,另外速度也很慢,我放那下载了一晚上。试用的过程中,发现回答目前只支持英文,另外回答的质量也是不理想的。但是我们目前也不能要求太多,毕竟GPT4ALL训练的数据量和设备是不能和ChatGPT比较的,相信经过时间的积淀,会越来越好的,正如其名一样,gpt for all,让每个人都用得上AI。

        最后还是得提一下注意事项

注意事项

使用 GPT4All 时,请牢记作者的使用注意事项:

GPT4All 模型重量和数据仅用于研究目的并获得许可,禁止任何商业用途。GPT4All 基于 LLaMA,具有非商业许可。辅助数据是从 OpenAI 的 GPT-3.5-Turbo 收集的,其使用条款禁止开发与 OpenAI 进行商业竞争的模型。


http://www.ppmy.cn/news/950957.html

相关文章

Chatgpt私有化部署(全流程)

前言 当下使用chatgpt来帮助完成工作已然成为主流,但想访问必须先面对地区的封锁,所以使用openai官方提供的API来部署至本地服务器从而更加便利的使用chatgpt。本文章主要介绍如何部署私有聊天机器人。 条件准备: 公网服务器一台&#xff0…

无需GPU无需网络“本地部署chatGPT”(更新StableVicuna)

想当初图像生成从DELL到stable diffusion再到苹果的移动部署过了两三年吧 聊天bot才发展几个月就可以边缘部署了,如果苹果更新silicon,npu和运存翻倍,争取apple watch也能本地内置,最快ios18 mac、ipad、iPhone能内置吧 又是一个平…

一键部署自己的ChatGPT

最近尝试了下ChatGPT-Next-Web项目,可以一键免费部署你的私人 ChatGPT 网页应用,整体过程非常丝滑,觉得有必要推荐给大家。 只要提供api key,即可在1分钟内完成一键部署。有自己的域名的话还可以无障碍访问和使用,速度…

部署了一个ChatGPT

部署了一个ChatGPT ChatGPT火爆了一段时间了,但是基于一些不可描述的原因,不能注册使用。为了方便大家体验,我部署了一个服务,能简单地体验一下ChatGPT的强大。话不多说,直接展示几个例子截图。文章最后放上体验地址和…

王炸!10分钟把ChatGPT部署成24小时微信机器人!

ChatGPT最近大家都是玩的风生水起,不亦乐乎!各种应用层出不穷,其中最接地气,也是最受小白欢迎的就是wx机器人,因为它能跟微信深入融合( 详细看文末专栏 用PythonChatGPT打造超强的微信机器人!),…

史上最简单的自建ChatGPT部署方案,只需要一个HTML文件

今天发现一个史上最简单的自建ChatGPT部署方案,只需要一个HTML文件,把它配置到Nginx就能跑起来。 效果如下: 他能做什么用? 平常我们使用chatgpt需要配魔法上网才能登上官方网站,对于很多人来说这是个很棘手的问题&a…

基于Docker如何快速部署自己的ChatGPT

背景 随着OpenAI在2022年底发布的LLM模型-ChatGPT展现出的强大效果,ChatGPT无疑成为了当下炙手可热的明星模型。 现有的基于GPT的开源项目已经非常多,本文以现有的高热度github开源项目chatgpt-web为例,教大家简单快速地搭建属于自己的Chat…

ChatGLM 本地部署搭建及测试运行

这篇简要说下清华开源项目 ChatGLM 本地部署的详细教程。清华开源项目 ChatGLM-6B 已发布开源版本,这一项目可以直接部署在本地计算机上做测试,无需联网即可体验与 AI 聊天的乐趣。 项目地址:GitHub - THUDM/ChatGLM-6B: ChatGLM-6B&#xf…