Seal^_^【送书活动第8期】——《ChatGLM3大模型本地化部署、应用开发与微调》

embedded/2025/1/1 23:15:39/

Seal^_^【送书活动第8期】——《ChatGLM3大模型本地化部署、应用开发与微调》

  • 一、参与方式
  • 二、本期推荐图书
    • 2.1 作者建语
    • 2.2 编辑推建
    • 2.3 图书简介
    • 2.4 前 言
    • 2.5 目 录
  • 三、正版购买

大模型领域 既是繁星点点的未知宇宙,也是蕴含无数可能的广阔天地,

正是这一独特的魅力,令无数的探索者为之倾倒,为之奋斗。

随着大模型应用逐渐走入人们的日常生活,支撑它的深度学习技术也开始登上更为广阔和深远的人工智能大舞台。

一、参与方式

1、关注博主的账号。
2、点赞、收藏、评论博主的文章。
3、在文章下留下评论,每位参与者最多可以评论三次。
4、加入粉丝群,通过小程序自动抽奖。

📚 本次将 送出2本 书籍。

🕚 活动截止时间为 2024年7月10日晚上8点整

注意: 活动结束后,请留意查看您的私信消息。

加入粉丝群,通过小程序自动抽奖。

在这里插入图片描述

二、本期推荐图书

在这里插入图片描述

2.1 作者建语

王晓华,高校计算机专业讲师,研究方向为云计算、大数据与人工智能。著有《PyTorch语音识别实战》《从零开始大模型开发与微调:基于PyTorch与ChatGLM》《PyTorch 2.0深度学习从零开始学》《Python机器学习与可视化分析实战》《谷歌JAX深度学习从零开始学》《Spark 3.0大数据分析与挖掘:基于机器学习》《TensorFlow深度学习应用实践》《OpenCV+TensorFlow深度学习与计算机视觉实战》《TensorFlow知识图谱实战》《TensorFlow人脸识别实战》《TensorFlow语音识别实战》《TensorFlow+Keras自然语言处理实战》《TensorFlow 2.0卷积神经网络实战》《Keras实战:基于TensorFlow2.2的深度学习实践》《TensorFlow 2.0深度学习从零开始学》《深度学习的数学原理与实现》。

2.2 编辑推建

"通过多个实战案例,快速掌握大模型应用开发与微调技术

基于网页端的ChatGLM3部署
基于私有云服务的ChatGLM3部署
猫狗分类可视化训练与预测
搭建专业问答机器人
实战知识图谱抽取与智能问答
撰写剧情梗概、评论与宣传文案实战
多文本检索的增强生成实战
结合提示工程的网页搜索服务实战
基于ChatGLM3的思维链实战
GLM文本生成实战
单GPU微调ChatGLM3实战
个人助理之美妆助手实战
上市公司财务报表非结构化信息抽取实战
上市公司财务报表智能问答与财务预警实战

2.3 图书简介

ChatGLM3大模型本地化部署、应用开发与微调》作为《PyTorch 2.0深度学习从零开始学》的姊妹篇,专注于大模型的本地化部署、应用开发以及微调等。《ChatGLM3大模型本地化部署、应用开发与微调》不仅系统地阐述了深度学习大模型的核心理论,更注重实践应用,通过丰富的案例和场景,引导读者从理论走向实践,真正领悟和掌握大模型本地化应用的精髓。
全书共分13章,全方位、多角度地展示了大模型本地化实战的完整方案,内容包括大模型时代的开端、PyTorch 2.0深度学习环境搭建、基于gradio的云上自托管ChatGLM3部署实战、使用ChatGLM3与LangChain实现知识图谱抽取和智能问答、适配ChatGLM3终端的Template与Chain详解、ChatGLM3多文本检索的增强生成实战、构建以人为本的ChatGLM3规范化Prompt提示工程、使用ChatGLM3的思维链构建、GLM源码分析与文本生成实战、低资源单GPU微调ChatGLM3实战、会使用工具的ChatGLM3、上市公司财务报表非结构化信息抽取实战、上市公司财务报表智能问答与财务预警实战。

ChatGLM3大模型本地化部署、应用开发与微调》适合大模型的初学者、有一定基础的大模型研究人员、大模型应用开发人员。同时,《ChatGLM3大模型本地化部署、应用开发与微调》还可作为高等院校或高职高专相关专业大模型课程的教材,助力培养新一代的大模型领域人才。

2.4 前 言

大模型领域既是繁星点点的未知宇宙,也是蕴含无数可能的广阔天地,正是这一独特的魅力,令无数的探索者为之倾倒,为之奋斗。随着大模型应用逐渐走入人们的日常生活,支撑它的深度学习技术也开始登上更为广阔和深远的人工智能大舞台。

关于本书

本书将揭示大模型ChatGLM3的本地化实战应用,带领读者领略ChatGLM3的高级应用之美.书中不仅详细如何进行ChatGLM3的私有云部署、开发应用、构建思维链以及在有限资源条件下的微调方法,为了让读者更深入地了解ChatGLM3的模型架构,还将解析GLM系列模型的源码,并完成一项文本生成任务。本书的最后将通过实现基于自然语言的真实上市公司大规模年度财务报表非结构化信息抽取实战、智能问答与财务预警实战,展现大模型应用的美好前景。这两个实战案例将融合本书前面介绍的所有知识,从大模型程序应用入手,涉及微调以及工具的使用,并结合具体的业务知识背景,为读者带来一次深度学习的完整体验。

本书涉及的深度学习编程方法与技巧以PyTorch为主。PyTorch因其易用性和普及性而成为深度学习领域的翘楚。当然,本书只是围绕大模型的应用进行深入剖析,若想了解更多关于深度学习的内容,例如卷积神经网络、循环神经网络等模块的构建和使用方法,强烈推荐参阅《PyTorch 2.0深度学习从零开始学》。

本书作为《PyTorch 2.0深度学习从零开始学》的姊妹篇,不仅延续了《PyTorch 2.0深度学习从零开始学》中的核心理念与知识体系,更将深度学习引向了一个新的高度,专注于大模型的本地化研究与应用。本书将帮助读者深入理解深度学习与大模型的精髓,探寻其背后的思维逻辑和创新精神。在这个过程中,读者不仅能学习到理论知识,更能感受到大模型背后的力量与智慧,从而为自己在这一领域的研究和 实践提供有力的支撑。

2.5 目 录

1章  大模型时代的开端 11.1  大模型的历史与发展 11.1.1  大模型的“涌现” 11.1.2  深度学习与大模型的起源 31.1.3  大模型的概念与特点 41.1.4  大模型开启了深度学习的新时代 51.2  为什么要使用大模型 61.2.1  大模型与普通模型的区别 71.2.2  为什么选择ChatGLM 81.2.3  大模型应用场合与发展趋势 91.3  本章小结 102PyTorch 2.0深度学习环境搭建 112.1  安装Python开发环境 122.1.1  Miniconda的下载与安装 122.1.2  PyCharm的下载与安装 142.1.3  softmax函数练习 182.2  安装PyTorch 2.0 192.2.1  NVIDIA 10/20/30/40系列显卡选择的GPU版本 192.2.2  PyTorch 2.0 GPU NVIDIA运行库的安装 192.2.3  Hello PyTorch 222.3  Hello ChatGLM3 232.3.1  ChatGLM3简介与安装 232.3.2  CPU版本的ChatGLM3推演 252.3.3  GPUINT4INT8量化)版本的ChatGLM3推演 262.3.4  GPU(half或float量化)版本的ChatGLM3推演 282.3.5  离线状态的ChatGLM3的使用 292.3.6  ChatGLM的高级使用 302.4  本章小结 313章  基于gradio的云上自托管ChatGLM3部署实战 323.1  gradio的基本使用详解 323.1.1  从gradio的Interface开始 333.1.2  gradio输入与输出组件 353.1.3  启动gradio的launch 413.1.4  gradio中多样化的输入和输出组件 423.1.5  gradio中常用的几个组件 453.1.6  使用gradio搭建视频上色服务 573.2  基于gradio的猫狗分类可视化训练与预测实战 593.2.1  运行环境与数据集的准备 603.2.2  模型的设计 633.2.3  PyTorch模型训练的基本流程 643.2.4  可视化训练流程 653.2.5  使用训练好的模型完成gradio可视化图像分类 673.3  基于网页端的ChatGLM3部署和使用 693.3.1  使用gradio搭建ChatGLM3网页客户端 703.3.2  使用ChatGLM3自带的网页客户端 713.4  基于私有云服务的ChatGLM3部署和使用 723.4.1  使用FastAPI完成ChatGLM3私有云交互端口的搭建(重要) 733.4.2  基于streamlit的ChatGLM3自带的网页客户端 743.5  本章小结 744章  使用ChatGLM3LangChain实现知识图谱抽取和智能问答 754.1ChatGLM3遇见LangChain 764.1.1  LangChain的基本构成、组件与典型场景 764.1.2  确认统一地址的ChatGLM3部署方案 784.1.3  使用ChatGLM3构建LangChainLLM终端 784.1.4  从一个简单的提示模板开始 814.1.5  ChatGLM3格式化提示词的构建与使用 824.2  ChatGLM3+ LangChain搭建专业问答机器人 844.2.1  使用LangChainLLM终端完成文本问答 844.2.2  数据准备与基础算法分析 864.2.3  使用LangChain完成提示语Prompt工程 874.2.4  基于ChatGLM3LLM终端完成专业问答 884.3  使用ChatGLM3LLM终端搭建知识图谱抽取与智能问答 894.3.1  基于ChatGLM3LLM终端完成知识图谱抽取 894.3.2  基于ChatGLM3LLM终端完成智能问答 914.4  本章小结 925章  适配ChatGLM3终端的TemplateChain详解 935.1  基于输入模板的人机交互 935.1.1  提示模板的4种类型 945.1.2  可嵌套的提示模板 955.2  Template中示例的最佳选择 975.2.1  基于长度的输出示例 975.2.2  基于相似度的输出示例 995.3  使用Chain提高ChatGLM3的能力 1005.3.1  Chain的数学计算方法 1015.3.2  多次验证检查器 1015.4  LangChain中的记忆功能 1025.4.1  ConversationChain会话链的使用 1025.4.2  系统memory的使用 1035.5  基于ChatGLM3终端撰写剧情梗概、评论与宣传文案实战 1055.5.1  对过程进行依次调用的顺序链SimpleSequentialChain 1055.5.2  对过程进行依次调用的顺序链SequentialChain 1075.5.3  对顺序链添加额外参数的方法 1095.6  本章小结 1116ChatGLM3多文本检索的增强生成实战 1126.1  使用自然语言处理方法对目标进行查找 1136.1.1  数据集的准备 1136.1.2  分别基于BM25LLM终端进行目标查找的方法 1146.1.3  建立工业级标准化输出:LLM终端与BM25结合 1166.2  基于LLM终端完成文本内容抽取与文本问答 1186.2.1  读取目标内容 1186.2.2  LangChain对文档的读取与分割方法 1196.2.3  基于LangChain的文本分块 1236.2.4  找到最近似问题的文本段落 1246.2.5  使用LLM终端完成智能文本问答 1256.3  使用LLM终端完成反向问题推断 1276.3.1  文本问题提取实战 1276.3.2  存储提取后的内容 1306.4  本章小结 1317章  构建以人为本的ChatGLM3规范化Prompt提示工程 1327.1  提示工程模板构建的输入与输出格式 1327.1.1  提示模板的输入格式 1337.1.2  提示模板的输出格式 1357.2  提示工程模板高级用法 1387.2.1  提示模板的自定义格式 1387.2.2  提示模板的FewShotPromptTemplate格式 1397.2.3  部分格式化的提示模板详解 1407.3  结合提示工程的网页搜索服务实战 1427.3.1  网页搜索的API实现 1427.3.2  网页问答提示模板的实现 1437.3.3  结合网页搜索的LLM终端问答实战 1447.4  本章小结 1458章  使用ChatGLM3的思维链构建 1468.1  思维链初探 1468.1.1  思维链源于人类使用自然语言的概念来理解事物 1478.1.2  思维链的优势与应用场景 1478.2  思维链详解及其实战 1498.2.1  思维链详解 1498.2.2  基于ChatGLM3的思维链实战 1508.3  本章小结 1529GLM源码分析与文本生成实战 1539.1  GLM组件详解 1549.1.1  GLM模型架构重大突破:旋转位置编码 1549.1.2  添加旋转位置编码的注意力机制 1569.1.3  新型的激活函数GLU详解 1569.1.4  GLM“三角掩码”与“错位”输入输出格式详解 1579.2  GLM整体架构详解与文本生成实战 1599.2.1  调整架构顺序的GLMBlock 1599.2.2  自定义GLM模型(单文本生成版) 1629.3  本章小结 16710章  低资源单GPU微调ChatGLM3实战 16810.1  什么是大模型微调 16810.1.1  大模型微调的作用 16910.1.2  大模型微调技术有哪些 16910.1.3  参数高效微调详解 17010.2  ChatGLM3大模型微调的准备内容 17110.2.1  从数据准备看ChatGLM3微调:有监督微调详解 17210.2.2  从实施看ChatGLM3微调:LoRA详解 17310.2.3  适配ChatGLM3微调的辅助库:PEFT详解 17410.3  虚拟客服多轮问答实战 18010.3.1  ChatGLM3数据输入结构和处理函数 18110.3.2  ChatGLM3微调训练 18610.3.3  ChatGLM3微调推理 18910.4  加速的秘密:accelerate训练方法与模型量化详解 19110.4.1  加速器accelerate详解与完整代码编写 19210.4.2  加速的秘密1:大模型的量化技术 19510.4.3  加速的秘密2:大模型的INT8量化方案 19610.4.4  加速的秘密3:大模型ChatGLM3中的量化源码分析与实践 19810.5  更快的量化训练方案:QLoRA基础内容详解 20010.5.1  加速的秘密4:基于bitsandbytes的ChatGLM3量化QLoRA实现 20010.5.2  加速的秘密5QLoRA详解 20210.5.3  微调的目的:让生成的结果更聚焦于任务 20510.6  QLoRA微调文本生成实战 20710.6.1  数据处理 20710.6.2  损失函数设计 21010.6.3  基于QLoRAChatGLM3文本生成微调实战 21110.6.4  基于QLoRAChatGLM3文本生成 21310.7  本章小结 21511章  会使用工具的ChatGLM3 21611.1  ChatGLM3调用工具源码详解与实战 21611.1.1  Python调用工具详解 21711.1.2  ChatGLM3工具调用流程详解 21811.1.3  大模型ChatGLM3工具调用实战详解 22011.1.4  大模型ChatGLM3工具调用原理详解 22311.1.5  ChatGLM3消息传递方式详解 23011.2  ChatGLM3官方工具注册与调用源码分析与实战 23111.2.1  Python中的装饰器与回调函数 23111.2.2  ChatGLM3官方工具函数的注册源码分析详解 23311.2.3  大模型ChatGLM3官方工具调用的判定依据详解 23611.2.4  ChatGLM3官方工具函数的调用分析详解 23711.2.5  ChatGLM3调用工具分析与实战演示 23811.3  ChatGLM3实战:构建个人助理之美妆助手 24011.3.1  背景和参考资料设定 24011.3.2  美妆助手的使用实战 24611.4  本章小结 24712章  上市公司财务报表非结构化信息抽取实战 24912.1  超长文本处理功能的ChatGLM3与真实财务报表的处理 25012.1.1  ChatGLM3-6B-32K模型的获取与缓存 25012.1.2  超大规模的20202023年真实中国股票市场年度财务报表数据库的建立 25012.2  单报表非结构化信息抽取实战 25312.2.1  单报表数据探查与提取信息结构化处理 25312.2.2  单报表数据非结构化信息抽取的实现 25412.3  本章小结 25613章  上市公司财务报表智能问答与财务预警实战 25713.1  基于ChatGLM3的非结构化数据抽取与大规模财务报表数据库的建立 25713.1.1  逐行代码讲解使用ChatGLM3对关键数据进行抽取 25813.1.2  大规模上市公司财务报表目标字段抽取函数的建立 26013.1.3  大规模上市公司财务报表目标字段数据库的建立 26213.2  基于自然语言的上市公司财务报表智能问答与财务预警实战 26413.2.1  使用自然语言结合ChatGLM3实现上市公司财务报表智能问答与预警解决方案1 26413.2.2  使用自然语言结合ChatGLM3-6B实现上市公司财务报表智能问答与预警解决方案2 26713.2.3  使用自然语言结合ChatGLM3实现上市公司财务报表智能问答与预警解决方案3 27013.3  本章小结 272附录  大模型的“幻觉” 273

三、正版购买

在这里插入图片描述

有兴趣的朋友可以前往查看。 JD搜索关键词:

ChatGLM3大模型本地化部署、应用开发与微调,ChatGLM3大模型

🛒 链接直达:https://item.jd.com/14575684.html


http://www.ppmy.cn/embedded/149905.html

相关文章

windows C#-嵌套类型

在类、构造或接口中定义的类型称为嵌套类型。 例如 public class Container {class Nested{Nested() { }} } 不论外部类型是类、接口还是构造,嵌套类型均默认为 private;仅可从其包含类型中进行访问。 在上一个示例中,Nested 类无法访问外部…

【EtherCATBasics】- KRTS C++示例精讲(2)

EtherCATBasics示例讲解 目录 EtherCATBasics示例讲解结构说明代码讲解 项目打开请查看【BaseFunction精讲】。 结构说明 EtherCATBasics:应用层程序,主要用于人机交互、数据显示、内核层数据交互等; EtherCATBasics.h : 数据定义…

2025最新版Java面试八股文大全

一、Java并发面试题 1、 ThreadLocal 1.1 谈谈你对ThreadLocal的理解? ThreadLocal的作用主要是做数据隔离,填充的数据只属于当前线程,变量的数据对别的线程而言是相对隔离的。它不是针对程序的全局变量,只是针对当前线程的全局…

e3 1220lv3 cpu-z分数

e3 1220lv3 双核四线程,1.1G频率,最低可在800MHZ运行,TDP 13W。 使用PE启动后测试cpu-z分数。 现在e3 1220lv3的价格落到69元。

vue 集成 webrtc-streamer 播放视频流 - 解决阿里云内外网访问视频流问题

资料&#xff1a; 史上最详细的webrtc-streamer访问摄像机视频流教程-CSDN博客 webrtc目录 前端集成 html文件夹里的webrtcstreamer.js&#xff0c;集成到前端&#xff0c;可以访问webrtc&#xff0c;转换rtsp为webrtc视频流&#xff0c;在前端video中播放 <videoref&quo…

【Sentinel】流控效果与热点参数限流

目录 1.流控效果 1.1.warm up 2.2.排队等待 1.3.总结 2.热点参数限流 2.1.全局参数限流 2.2.热点参数限流 2.3.案例 1.流控效果 在流控的高级选项中&#xff0c;还有一个流控效果选项&#xff1a; 流控效果是指请求达到流控阈值时应该采取的措施&#xff0c;包括三种&…

银行多网点机房动环监控统一运维

在金融科技蓬勃发展的当下&#xff0c;银行作为经济运行的核心枢纽&#xff0c;其机房承载着保障业务连续性、数据安全性以及客户服务无中断的重任。每一个银行网点的机房&#xff0c;恰似繁星点点&#xff0c;散布于城市乡村的各个角落&#xff0c;它们虽规模各异&#xff0c;…

笔记:使用python对飞书用户活跃度统计的一个尝试

说明 一个python练习 代码 import json import time import openpyxl from openpyxl import load_workbook from datetime import datetime, timedelta import lark_oapi as lark from lark_oapi.api.admin.v1 import *def data_r(start_date, end_date):r_data []client la…