蒙特卡洛及其衍生

news/2025/1/11 12:55:28/

这些方法都依赖于我们知道输入和输出,但只是不知道这个映射 f f f。很多时候需要计算关于 f f f的积分,逐个带点显然太费劲了。

蒙特卡罗抽样方法

假设我们要求积分 h ( θ ) = ∫ E h ( θ ) π ( θ ∣ x ) d θ h(\theta)=\int_E h(\theta)\pi(\theta | x)d\theta h(θ)=Eh(θ)π(θx)dθ
其中 π ( θ ∣ x ) \pi(\theta | x) π(θx)是某个后验分布
而h很难求出显式表达式,这时候可利用抽样方法对上式子进行近似。
整理一下知道:
h = ∫ E h ( θ ) π ( θ ∣ x ) d θ = E θ ∼ π ( θ ∣ x ) [ h ( θ ∣ x ) ] h=\int_E h(\theta)\pi(\theta | x)d\theta=E_{\theta \sim \pi(\theta | x)}[h(\theta | x)] h=Eh(θ)π(θx)dθ=Eθπ(θx)[h(θx)]
那么可利用大数定理,当从 θ ∼ π ( θ ∣ x ) \theta \sim \pi(\theta | x) θπ(θx)抽样足够多的 m m m,就有:
h ˉ = 1 M ∑ i = 1 m h ( θ i ) = ∫ E h ( θ ) π ( θ ∣ x ) d θ \bar{h}=\frac{1}{M}\sum_{i=1}^mh(\theta_i)=\int_E h(\theta)\pi(\theta | x)d\theta hˉ=M1i=1mh(θi)=Eh(θ)π(θx)dθ
特别的,当 π ( θ ∣ x ) = 1 \pi(\theta | x)=1 π(θx)=1退化为黎曼积分。

特别的,若要求积分 h ′ = ∫ E h ( θ ) d θ h'=\int_E h(\theta)d\theta h=Eh(θ)dθ,那么可自行构造一个分布,
h ′ = ∫ E h ′ ( θ ) p ( θ ∣ x ) ⋅ p ( θ ∣ x ) d θ h'=\int_E \frac{h'(\theta)}{p(\theta | x)} ·p(\theta | x)d\theta h=Ep(θx)h(θ)p(θx)dθ
此时记 h ′ ( θ ) = h ( θ ) p ( θ ∣ x ) h'(\theta)=h(\theta){p(\theta | x)} h(θ)=h(θ)p(θx)即可。
于是对于这类例子,从 x ∼ p ( x ) x\sim p(x) xp(x)中采样出n个样本 x 1 , x 2 , . . . , x n x_1, x_2, ..., x_n x1,x2,...,xn,然后有:
∫ E f ( x ) d x = 1 N ∑ i = 1 n f ( x i ) p ( x i ) \int_E f(x)dx=\frac{1}{N}\sum_{i=1}^n \frac{f(x_i)}{p(x_i)} Ef(x)dx=N1i=1np(xi)f(xi)

蒙特卡罗重要性采样

由于对于一些分布存在严重的拖尾效应或聚集问题。导致采样出来的样本质量很低。
所以可尝试从与后验分布近似的简单分布进行采样。但其实并没有解决问题。

马尔可夫蒙特卡罗方法

事实上很难找与后验分布近似的重要性函数,所以还是不得不从复杂的后验分布采样。
但前面提到,很难直接对其进行采样。但可以通过构造一个马尔科夫链,使其平稳分布就是该后验分布,从而就实现了从复杂的后验分布中采样,进一步可以计算相关的积分。
特点是太慢了。


http://www.ppmy.cn/news/262104.html

相关文章

什么是IT服务请求管理

什么是服务请求 用户每天都会提出各种 IT 请求。它可能是对新软件的请求、旧硬件的更换、对应用程序的访问或资产组件的更改。这些请求被归类为服务请求。 服务请求是向 IT 团队发出的请求,以满足最终用户的需求。理想情况下,请求是从服务请求目录中选择…

超级计算器

#main{border: 10px outset orange;margin: 30px auto;background: #ABABAB;box-shadow: 5px 5px #CCCCCC inset;padding-top: 20px; }/*设置最外层表格样式*/ th{height: 40px;border: 2px outset #CCCCCC; } #result{width: 100%;height: 100%;box-shadow: 3px 3px #…

英特尔傲腾 DC P4800X 固态盘

一. 传统数据中心的性能瓶颈 在传统的CPU、内存DRAM、固态盘SSD和磁盘的数据中心架构里面,存在一个巨大的瓶颈和鸿沟就是,NAND SSD的时延与DRAM内存的时延是一万倍级别的差距。 二.傲腾技术 为了解决这个SSD与内存均有的时延问题,英特尔推出…

C语言:自增运算符和自减运算符

自增运算符 自增运算符的符号是“”,他是单目运算符,结合性从右往左,经常与变量结合使用 自增运算符的作用是使变量增1。 自增运算符有两种情况: i; // 前置运算 先增加,后执行 i; //后置运算 先执行,后自…

c++语法学习总结

一. vector相关操作 vector() 的最大、最小值&#xff0c;及其对应下标 例 a[]{1,2,3,4,5,6}; 最大值&#xff1a;int maxValue *max_element(a,a6); 最小值&#xff1a;int minValue *min_element(a,a6); 例 vector<int> v; 最大值下标&#xff1a;int maxPositi…

情感分析实战(中文)-LDA篇

情感分析实战(中文)-无监督学习 k-means聚类分析 背景:该专栏的目的是将自己做了N个情感分析的毕业设计的一个总结版,不仅自己可以在这次总结中,把自己过往的一些经验进行归纳,梳理,巩固自己的知识从而进一步提升,而帮助各大广大学子们,在碰到情感分析的毕业设计时,提…

monkey测试关机/重启问题分析(二)

systemui关机dialog相关 1、systemui下拉关机按钮 通过Android 布局分析工具发现 按钮布局 base/packages/SystemUI/res-keyguard/layout/footer_actions.xml 按钮初始化和点击事件 frameworks/base/packages/SystemUI/src/com/android/systemui/qs/FooterActionsControlle…

为什么说程序员和产品经理一定要学一学PMP

要回答为什么说程序员和产品经理一定要学一学PMP&#xff1f;我们得先看一下PMP包含的学习内容。PMP新版考纲备考参考资料绝大多数涉及IT项目的敏捷管理理念。主要来源于PMI推荐的10本参考书&#xff1a; 《敏捷实践指南&#xff08;Agile Practice Guide&#xff09;》 《项目…