最大值的期望 与 期望的最大值

server/2025/2/7 9:17:57/

期望的最大值与最大值的期望

先上结论: m a x i E [ X i ] ≠ E [ m a x i X i ] max_i \mathbb{E}[X_i]\neq \mathbb{E}[max_i X_i] maxiE[Xi]=E[maxiXi]

情况一:最大值和数学期望都关于自变量 i i i

在这种情况下,最大值与期望都依赖于同一个随机变量。设有一个随机变量 X i X_i Xi,其中 i i i 是一个离散的索引集合,例如 i = 1 , 2 , … , n i = 1, 2, \dots, n i=1,2,,n

1.最大值的期望
假设我们有 n n n 个独立同分布的随机变量 X 1 , X 2 , … , X n X_1, X_2, \dots, X_n X1,X2,,Xn,我们关心的是它们的最大值的期望。
E [ max ⁡ ( X 1 , X 2 , … , X n ) ] = E [ max ⁡ i X i ] \mathbb{E}\left[\max \left(X_1, X_2, \ldots, X_n\right)\right]=\mathbb{E}\left[\max _i X_i\right] E[max(X1,X2,,Xn)]=E[imaxXi]

  1. 期望的最大值
    另一种情况是先计算每个随机变量的期望,然后取这些期望的最大值.
    max ⁡ i E [ X i ] \max _i \mathbb{E}\left[X_i\right] imaxE[Xi]

如果 X i X_i Xi 的分布相同,则有:
max ⁡ i E [ X i ] = E [ X ] \max _i \mathbb{E}\left[X_i\right]=\mathbb{E}[X] imaxE[Xi]=E[X]
但通常情况下,该条件不成立.

情况二:最大值关于非自变量,期望关于自变量

在这种情况下,最大值是关于一个非自变量的,而期望是关于自变量的。举个例子,假设我们有一个固定的随机变量 v v v,然后我们对一组随机变量 X i X_i Xi i i i 是自变量)进行最大化操作。

1.最大值的期望
这里的最大值是关于一个常数变量 v v v 的。数学表达式为:
max ⁡ v E [ X i ] \max _v \mathbb{E}\left[X_i\right] vmaxE[Xi]

  1. 期望的最大值
    在这种情况下,期望是关于自变量 i i i 的,而最大值则是关于常数 v v v 的:
    E [ max ⁡ v X i ] \mathbb{E}\left[\max _v X_i\right] E[vmaxXi]

下面给出一个反例,说明期望的最大值不等于最大值的期望:

假设有两个节点 v 1 v_1 v1 v 2 v_2 v2,每个节点的函数 L v ( x i ) L_v(x_i) Lv(xi) 是随机变量的函数。考虑以下情况:

假设
  1. L v 1 ( x i ) = x i L_{v_1}(x_i) = x_i Lv1(xi)=xi L v 2 ( x i ) = − x i L_{v_2}(x_i) = -x_i Lv2(xi)=xi,其中 x i x_i xi 是随机变量,且 E [ x i ] = 0 \mathbb{E}[x_i] = 0 E[xi]=0

  2. 计算 E [ max ⁡ v L v ( x i ) ] E[\max_v L_v(x_i)] E[maxvLv(xi)],即:
    E [ max ⁡ v L v ( x i ) ] = E [ max ⁡ ( x i , − x i ) ] . E[\max_v L_v(x_i)] = E[\max(x_i, -x_i)]. E[vmaxLv(xi)]=E[max(xi,xi)].
    假设 x i x_i xi 服从对称分布,比如 x i ∼ N ( 0 , 1 ) x_i \sim N(0,1) xiN(0,1),则:
    max ⁡ ( x i , − x i ) = ∣ x i ∣ . \max(x_i, -x_i) = |x_i|. max(xi,xi)=xi∣.
    因此,期望值为:
    E [ max ⁡ ( x i , − x i ) ] = E [ ∣ x i ∣ ] . E[\max(x_i, -x_i)] = E[|x_i|]. E[max(xi,xi)]=E[xi].
    对于标准正态分布, E [ ∣ x i ∣ ] E[|x_i|] E[xi] 是已知的常数,约为 0.798。

  3. 计算 max ⁡ v E [ L v ( x i ) ] \max_v E[L_v(x_i)] maxvE[Lv(xi)],即:
    max ⁡ v E [ L v ( x i ) ] = max ⁡ ( E [ x i ] , E [ − x i ] ) . \max_v E[L_v(x_i)] = \max(E[x_i], E[-x_i]). vmaxE[Lv(xi)]=max(E[xi],E[xi]).
    由于 E [ x i ] = 0 \mathbb{E}[x_i] = 0 E[xi]=0 E [ − x i ] = 0 \mathbb{E}[-x_i] = 0 E[xi]=0,因此:
    max ⁡ v E [ L v ( x i ) ] = 0. \max_v E[L_v(x_i)] = 0. vmaxE[Lv(xi)]=0.

结果:
  • E [ max ⁡ v L v ( x i ) ] = E [ ∣ x i ∣ ] ≈ 0.798 E[\max_v L_v(x_i)] = E[|x_i|] \approx 0.798 E[maxvLv(xi)]=E[xi]0.798
  • max ⁡ v E [ L v ( x i ) ] = 0 \max_v E[L_v(x_i)] = 0 maxvE[Lv(xi)]=0

结论

由于期望是对整个随机变量分布的平均,而最大值操作通常会使得期望值偏离,因此在一般情况下,交换顺序是不成立的


http://www.ppmy.cn/server/165641.html

相关文章

git bash添加tree命令

1 git bash环境没有自带tree命令 在git bash里面输入命令:tree,弹出错误如下,解决git Bash下安装使用tree 2 官网下载 官网下载:Tree for Windows 将下载的tree-1.5.2.2-bin.zip解压,将tree-1.5.2.2-bin\bin\tree.…

Go-Gin Web 框架完整教程

1. 环境准备 1.1 Go 环境安装 Go 语言(或称 Golang)是一个开源的编程语言,由 Google 开发。在开始使用 Gin 框架之前,我们需要先安装 Go 环境。 安装步骤: 访问 Go 官网下载页面:https://golang.org/dl…

app专项测试(网络测试流程)

一、网络测试的一般流程 step1:首先要考虑网络正常的情况 ① 各个模块的功能正常可用 ② 页面元素/数据显示正常 step2:其次要考虑无网络的情况 ① APP各个功能在无网络情况下是否可用 ② APP各个页面之间切换是否正常 ③ 发送网络请求时是…

langchain教程-3.OutputParser/输出解析

前言 该系列教程的代码: https://github.com/shar-pen/Langchain-MiniTutorial 我主要参考 langchain 官方教程, 有选择性的记录了一下学习内容 这是教程清单 1.初试langchain2.prompt3.OutputParser/输出解析4.model/vllm模型部署和langchain调用5.DocumentLoader/多种文档…

大模型—Dify本地化部署实战

Dify本地化部署实战 系统要求 安装 Dify 之前, 请确保你的机器已满足最低安装要求: CPU >= 2 CoreRAM >= 4 GiB本地部署 开始前先简单介绍下部署Dify需要用到的组件,稍微有点多,但放心,有Docker你怕啥? 关系数据库:postgres缓存:Redis向量数据库:支持weaviate…

现代C++多线程基础 - 忆苦思甜pthread

c 进程 线程 进程 概念 进程控制块 PCB 进程控制块就是用于保存一个进程信息的结构体,又称之为PCB process state 进程状态process number 进程由pid唯一标记。program counter PC值registers 寄存器的值memory limits 内存中的管理信息 (起始地址 空间 虚拟内…

1992-2025年中国计算机发展状况:服务器、电脑端与移动端的演进

1992-2025年中国计算机发展状况:服务器、电脑端与移动端的演进 一、1992-2000年:市场化转型与基础积累 背景:改革开放深化,计算机产业从科研导向转向市场化,但核心技术仍依赖进口。 1. 服务器领域 技术基础&#xff1…

电子电器架构 --- 电子电气架构设计要求与发展方向

我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 简单,单纯,喜欢独处,独来独往,不易合同频过着接地气的生活,除了生存温饱问题之外,没有什么过多的欲望,表面看起来很高冷,内心热情,如果你身…