【机器学习理论】生成模型和判别模型

news/2025/2/2 8:41:24/

生成模型和判别模型是机器学习中两种不同的建模方式。生成模型关注的是联合概率分布 P ( X , Y ) P(X, Y) P(X,Y),即同时考虑数据 X X X和标签 Y Y Y的关系;判别模型则直接学习条件概率 P ( Y ∣ X ) P(Y|X) P(YX)或决策边界。

生成模型

生成模型的目标是学习联合概率分布 P ( X , Y ) P(X,Y) P(X,Y),即同时建模输入数据 X X X和标签 Y Y Y的联合分布。
核心公式:
P ( X , Y ) = P ( Y ) ⋅ P ( X ∣ Y ) P(X, Y) = P(Y) \cdot P(X|Y) P(X,Y)=P(Y)P(XY)
通过这个分布,模型可以:

  1. 推断标签的后验概率 P ( Y ∣ X ) P(Y|X) P(YX)(通过贝叶斯定理)。
  2. 生成新的数据样本(如生成图像、文本等)。

在垃圾邮件分类中,朴素贝叶斯会分别学习正常邮件和垃圾邮件的词频分布(即 P ( 词语 ∣ 正常 ) P(词语|正常) P(词语正常) P ( 词语 ∣ 垃圾 ) P(词语|垃圾) P(词语垃圾)),在结合后验概率 P ( 正常 ) P(正常) P(正常) P ( 垃圾 ) P(垃圾) P(垃圾),通过贝叶斯定理计算后验概率 P ( 类别 ∣ 邮件内容 ) P(类别|邮件内容) P(类别邮件内容)

判别模型

判别模型直接学习条件概率 P ( Y ∣ X ) P(Y∣X) P(YX) 或决策边界,即仅关注输入 X X X 和标签 Y Y Y 之间的映射关系。它的目标是最大化分类准确率,而非建模数据生成过程。
核心公式:
P ( Y ∣ X ) 或直接学习映射 f : X → Y P(Y|X) 或直接学习映射 f:X \rightarrow Y P(YX)或直接学习映射f:XY

例如:对于一个二分类问题,逻辑回归直接建模 P ( Y = 1 ∣ X ) = σ ( w T X + b ) P(Y=1|X)= \sigma (w^{T}X +b) P(Y=1∣X)=σ(wTX+b),(其中 σ \sigma σ是sigmoid函数, X X X是特征向量),找到最佳参数 w w w b b b,以最大化训练数据的似然函数,从而直接区分两类数据。


http://www.ppmy.cn/news/1568648.html

相关文章

Vue3 结合 .NetCore WebApi 前后端分离跨域请求简易实例

1、本地安装Vue3环境 参考:VUE3中文文档-快速上手 注意:初始安装vue时,需要安装router,否则后续也要安装 2、安装axios组件 比如:npm install axioslatest 或 pnpm install axioslatest 3、设置跨域请求代理 打开…

【玩转全栈】----Django模板的继承

先赞后看,养成习惯!!! 目录 模板继承的好处 模板继承的语法规则 更新代码 上文中的部门管理页面: 【玩转全栈】----Django制作部门管理页面-CSDN博客 大家会发现,由于定义了多个html文件,多个ht…

【精选】基于数据挖掘的招聘信息分析与市场需求预测系统 职位分析、求职者趋势分析 职位匹配、人才趋势、市场需求分析数据挖掘技术 职位需求分析、人才市场趋势预测

博主介绍: ✌我是阿龙,一名专注于Java技术领域的程序员,全网拥有10W粉丝。作为CSDN特邀作者、博客专家、新星计划导师,我在计算机毕业设计开发方面积累了丰富的经验。同时,我也是掘金、华为云、阿里云、InfoQ等平台…

青少年编程与数学 02-008 Pyhon语言编程基础 09课题、布尔与判断语句

青少年编程与数学 02-008 Pyhon语言编程基础 09课题、布尔与判断语句 一、布尔类型特点布尔运算符布尔函数应用场景 二、条件语句基本if语句if-elif-else语句示例条件表达式逻辑运算符嵌套if语句单行if语句 三、练习 课题摘要:本文介绍了Python中的布尔类型和条件语句。布尔类型…

Excel制作合同到期自动提醒!

大家好,我是小鱼。 今天分享一下如何利用Excel制作合同到期提醒表,实现Excel表格自动计算合同到期日和天数,根据合同状态和到期天数自动填充颜色提醒,超实用。先看一下效果,已经到期的合同会自动被填充为红色&#xf…

MySQL(高级特性篇) 14 章——MySQL事务日志

事务有4种特性:原子性、一致性、隔离性和持久性 事务的隔离性由锁机制实现事务的原子性、一致性和持久性由事务的redo日志和undo日志来保证(1)REDO LOG称为重做日志,用来保证事务的持久性(2)UNDO LOG称为回…

PHP中配置 variables_order详解

variables_order 是 PHP 配置文件 php.ini 中的一项配置指令,决定了 PHP 在处理请求时,哪些类型的变量将被注册到全局变量空间(如 $GLOBALS)中,以及这些变量的顺序。理解和正确配置 variables_order 对于开发和维护安全…

Python爬虫:requests模块深入及案例

* [案例二:输入单词获取百度翻译的结果](about:blank#_40)* [案例三:获取豆瓣电影的评分前几名的电影信息](about:blank#_87)* [案例四:通过在药监局网站中的企业id值获取企业信息](about:blank#id_121)案例一:获取CSDN关键…