就在昨天,我的同事推荐给我了一个第三方的公共大模型API,这个API集合了国际上上几乎所有知名的大模型,只需要很少的费用,就可以接入到这些大模型中并使用它们。成本之低,令人乍舌!包括我们现在无法试用的 GPT-4o也在其中。
考虑到平台规则,在这里我就不说这个公共API平台的名字了,简称A平台吧。
之前我写过一篇文章:大模型:把GPT搬回家 - chatGPT的本地化API -Node.js调用
在文章中,我介绍了如何实现GPT的本地化,但是前提是需要一台美国服务器,需要有openai的付费账号。
而现在,上面的这个公共API平台A平台,无需科学上网,也无需注册任何大模型的账号,直接就可以调用。所以,这让一切变得简单了很多。
所以我忽然突发奇想,能否让GTP ,用这个API 来设计一个GPT本地应用呢?
于是我我就开始尝试了,(需要说明的是,A平台也提供web版,我在这次测试中还是用了GTP的web对话来完整我上面的设想,主要是比较习惯)
于是我就问了GPT三轮 ,第一轮如图
然后第二轮和第三轮,我加了一些其他的条件,比如增加了loading效果之类的、增加新话题按钮等等。GTP全部妥妥地完成了,包括 html、css、js 全部都妥妥的完成了!(注意:GPT 官方web对话框目前已经升级了,会自动切换画面,并且会在原答案上迭代答案,不再是不管三七二十一的输出,非常实用。)
然后我就又用Node.js 做了个webServer, 这样 可以放静态HTML ,也可以用来做我本地地API接入A平台的API,模型设置为GPT-4o,(如何用Node.js 来做一个webserver,这个非常简单 不会的同学请看我之前地web开发文章主要是 node.js 的路由如何实现的文章。)
以下是本地API接入A平台API的代码
async gptPost(req, response) {try {const data = req.body;const options = {url: `${baseUrl}/chat/completions`,method: "POST",headers: {"Authorization": `Bearer ${apiKey}`,"Content-Type": "application/json",},data: {model: "gpt-4o",messages: data,},};const res = await axios(options);return res.data.choices;} catch (err) {console.error('Error creating Kalurecord:', err);return null;}}
这样不到10分钟时间,我就把一个GTP本地应用做好了,而且是手机PC自适应。效果如下:
这是一个基于GPT-4o的本地化应用,我自己有个服务器和域名,于是丢上去就可以直接用了,在这个上面稍微增加一些功能,就可以完全成为一个商业化的产品,可以给很多企业提供服务。比如说 在单API的基础上,开设多个分帐号,这样企业内每个用户都又自己单独的'GPT', 相互间不干扰,上面我的存储只用了本地localStorage,如果企业用,可以用一个数据库来代替。这样信息也本地化了。这个后面我们可以继续讨论这个话题,让这个case变得更丰富和充实。
这个案例也说明,在未来,程序员的核心竞争力,不再是编写代码,不再是编程思维,不再是算法,也不再是经验,而是在提问题的结构化能力,在对业务逻辑的理解和描述,这样才能让gpt充分理解你的需求,并且将需求细化、模块化,程序员最终进行组合,生成一个完整的产品。
可怕吗? 但这也是机会!
好吧,你学会了吗,赶紧动手吧!