大模型学习笔记 - 大纲

embedded/2024/9/22 15:03:28/

LLM__1">LLM 大纲

  • LLM 大纲
    • 1. LLM 模型架构
      • LLM 技术细节 - 注意力机制
      • LLM 技术细节 - 位置编码
    • 2. LLM 预训练
    • 3. LLM 指令微调
      • LLM 高效微调技术
    • 4. LLM 人类对齐
    • 5. LLM 解码与部署
    • 6. LLM 模型LLaMA 系列
    • 7. LLM RAG

LLM__20">1. LLM 模型架构

大模型学习笔记 - LLM模型架构

LLM____23">LLM 技术细节 - 注意力机制

To Be added

LLM____25">LLM 技术细节 - 位置编码

To Be added

LLM__27">2. LLM 预训练

大模型学习笔记 - LLM 预训练

LLM__31">3. LLM 指令微调

大模型学习笔记 - LLM指令微调

LLM__33">LLM 高效微调技术

TO Be Added

LLM__35">4. LLM 人类对齐

大模型学习笔记 - LLM 之RLHF人类对齐的简单总结

LLM_InstructGPT_38">LLM InstructGPT

大模型学习笔记 - InstructGPT中的微调与对齐

LLM_PPO_42">LLM PPO算法

To Be added

LLM_DPO__45">LLM DPO 算法

To Be added

LLM__47">5. LLM 解码与部署

大模型学习笔记 - LLM 解码与部署

LLM_LLaMA__49">6. LLM 模型LLaMA 系列

To Be added

LLM_RAG_51">7. LLM RAG

To Be added


http://www.ppmy.cn/embedded/90716.html

相关文章

二维码生成原理及解码原理

☝☝☝二维码配图 二维码 二维码(Quick Response Code,简称QR码)是一种广泛使用的二维条形码技术,由日本公司Denso Wave在1994年开发。二维码能有效地存储和传递信息,广泛应用于商品追溯、支付、广告等多个领域。二维…

设计模式15-门面模式

设计模式15-门面模式 "接口隔离"模式典型模式1. 适配器模式(Adapter Pattern)2. 装饰模式(Decorator Pattern)3. 桥接模式(Bridge Pattern)4. 代理模式(Proxy Pattern)5. …

【组合数学】【Python】【小练习】一、斯特灵近似式求阶乘

一、问题介绍 斯特灵(Stirling)近似式,是数学分析中,用于求阶乘近似值的一个常用公式,其简单的表述形式为: 二、Python实现 使用Python,循环从n1至n98,分别输出n的阶乘值、斯特灵公…

Serverless Knative冷启动与自动扩缩容研究:从原理到实践

最近一个研究生网页的提问,然后就有了这篇博客! 大佬你好,我看到您的关于Serverless的文章于是十分冒昧的向您提问。我现在是一名在研究通过Serverless容器调度解决冷启动问题的本科生,导师放养,就让看论文但是后面的代…

【MySQL】慢sql优化全流程解析

定位慢sql 工具排查慢sql 调试工具:Arthas运维工具:Skywalking 通过以上工具可以看到哪个接口比较慢,并且可以分析SQL具体的执行时间,定位到哪个sql出了问题。 启用慢查询日志 慢查询日志记录了所有执行时间超过指定参数(lon…

使用uniapp+Django开发的在线工具网站

引言 在当今数字化时代,在线工具网站为用户提供了便捷的服务和功能,本文分享了我使用UniApp和Django开发的一款多平台在线工具网站。通过这个项目,我探索了跨平台开发与强大的后端框架结合的优势,实现了用户友好的界面和稳健的功…

24/8/4算法笔记 梯度下降

通过迭代地调整参数,沿着目标函数梯度的反方向(即最陡峭的下降方向)进行搜索,从而找到函数的局部最小值。 导入库 import matplotlib.pyplot as plt import numpy as np 构建方程和导数 #构建方程 f lambda x:(x-3.5)**2-4.…

【微服务】springboot 整合 SA-Token 使用详解

目录 一、前言 二、认证与授权介绍 2.1 什么是认证 2.1.1 认证的目的 2.1.2 认证基本步骤 2.2 什么是授权 2.2.1 常用的授权模型 三、微服务中常用的认证安全框架 3.1 Spring Security 3.1.1 Spring Security 特点 3.2 JWT (JSON Web Tokens) 3.2.1 JWT特点 3.3 其…