一、期望

1、定义

        对随机变量可能取值的加权平均，其中权重是每个可能取值的概率。用E表示，如x是随机变量，则该期望为EX

2、离散型随机变量的期望

        对于离散随机变量 X ，其可能的取值为 x1,x2,…,xn，对应的概率为 E(X)=（ *  ）的累计之和。

例如1：三个人的体重分别为150、165、180，求体重的期望值

        EX = 1/3 * 150 + 1/3 * 165 +1/3 *180  = 165

例如2：学校举行歌唱比赛，假设给一个参赛选手打分，专业评委打分90，老师打分100，学生打分80，专业评委分数权重为0.9，老师权重为0.09，学生权重为0.01，求给该选手的打分期望值。

解：设x为打分值，则p(x) 为对应权重

则 EX=90*0.9 + 100*0.09+80*0.01 = 90.8

3、离散型随机变量函数的期望

        同离散型随机变量的期望一样，将x取值变更为y的取值（即 从x=1 变成y=3（y=3x）这样），EY=（ *   ）的累计之和。

例如：假设X的概率分布表如下，Y=4X+1，求Y的期望：

X	0	1	2
P	0.1	0.6	0.3

  解：EX=（4x+1）*p(x) = (4*0+1)*0.1 +(4*1+1)*0.6+(4*2+1)*0.3 = 0.1+3+2.7=5.8

4、连续型随机变量的期望

       连续随机变量 X ，其概率密度函数为 f(x) ，则 X 的数学期望定义为：E(X)=∫ x*f(x) dx

例如：已知概率密度函数，求期望值

解：EX= ∫ x * 2x dx = 2/3 *   =2/3

5、连续型随机变量函数的期望

        同上面例子，EY=∫ Y*f(x) dx = ∫ g(x)*f(x) dx。

例如：假设密度函数，函数Y=4X+1，求Y的期望

解：带入公式 EY==∫ Y*f(x) dx = ∫ g(x)*f(x) dx =   (4X+1)*1/2 dx = +1/2*x  = 5

6、二维离散型随机变量函数的期望

        同（3）定义，令Z=g(X,Y) ，概率变为 P(X=,Y=)= ，那么期望公式就变成了 EZ=(g(x,y) *  )的累计之和。

 例如：

假设X、Y联合概率分布表如下，求 Z=-Y 的期望

X\y	0	1	2
1	0.1	0.1	0.2
2	0.2	0.2	jie解：代入公式  EZ=(g(x,y) *  ++) = （ -Y） *  = （1*1-0） *0.1 +（2*2-0） *0.2+（1*1-1） *0.1+（2*2-1） *0.2+（1*1-2） *0.2+（2*2-2） *0.2 =0.1+0.8+0+0.6-0.2+0.4=1.7

7、二维连续型随机变量函数的期望

        同（5）定义，令Z=g(X,Y)，那么z的期望就是z的值乘上（x,y）的联合密度函数（概率）f(x,y)的累计之和，EZ=∫∫ z * f(x,y) dx dy = ∫∫ g(x,y) * f(x,y) dx dy 

例如： 假设X、Y的联合密度函数 ，求z=xy的期望

解：带入公式EZ=∫∫ z * f(x,y) dx dy = ∫∫ g(x,y) * f(x,y) dx dy =   xy * (x+y)  dx dy =  +   dx =  +  dx =    = 1/3

8、期望的公式定理

常数的期望等于常数，EC=C

E(X+C)=EX+C 

E(CX)=C*EX；可将常数*变量的期望可以变成 常数*只有变量期望 

E(kX+b)=k*EX+b ；同上面两个结合，常数不影响期望的计算

E(X±Y)=EX+EY (任何时候都成立 )

X、Y独立，E(XY)=EX*EY；

二、方差

1、定义        

        衡量随机变量或一组数据的离散程度，反映了数据点与其平均值之间的偏离程度（方差越大，数据点越分散；方差越小，数据点越集中）。 DX=E[]=E()-

        方差 DX ，平均差 二次根号DX

2、离散型随机变量的方差

        离散型随机变量 X，方差可以表示为 DX=( *P ) 的累计之和。

例如：假设存在随机变量的x的分布表如下，求DX：

X	-2	0	2
P	0.4	0.3	0.3

 解：EX=-2*0.4 + 0*0.3 +2*0.3 = -0.2

        E = -2 *-2 *0.4 +0*0*0.3 +2*2*0.3 = 1.6+0+1.2=2.8

 DX = E()- = 2.8-(-0.2)*(-0.2)=2.76

3、连续型随机变量的方差

         连续型随机变量 X，方差可以表示为： ∫ ⋅f(x) dx 

例如：假设密度函数： ，求方差DX：

解：EX = ∫ x * f(x)dx =  x *2x dx = 2/3

       E =  ∫  * f(x)dx =   *2x dx = 1/2

DX = E()-  = 1/2 - (2/3 * 2/3) =1/18

4、方差的公式定理

        DC = 0；

        D(X+C) = DX；

        D(CX) =DX；

        D(kX+b) = DX；

        X、Y独立,D(X±Y) = DX+DY

        X、Y不独立，D(X±Y) = DX+DY±2Cov(X,Y)； Cov(X,Y) 是协方差

三、常见离散型的期望与方差

1、 0-1分布        

X	0	1
p	1-p	p

 EX=p；

 DX = E-= p-= p *(1-p) 

2、 二项分布

 P(x=k) =   ，k=0,1,……n

E(X)=n⋅p
DX=n⋅p⋅(1−p)

3 几何分布

P(x=k) =  * p ，k=1,2,……

EX = 1/P
DX = (1-p)/

4 泊松分布

EX = λ
DX=λ 

四、常见连续型的期望与方差

1、 均匀分布

 EX = x * (1/（b-a) )  dx = (a+b)/2

 DX = /12

2、 指数分布

 EX = 1/λ
 DX = 1/λ*λ

3、 正态分布

EX = u
DX = σ^2

五、协方差

1、定义

        对于两个随机变量 X 和 Y ，协方差定义为  Cov(X,Y)=E[(X−EX)(Y−EY)] =E(XY)−EXEY 。

2、性质

        Cov(X,Y) = Cov(Y,X)；

        Cov(aX,bY) = abCov(X,Y)；

        Cov(+,Y) = Cov(,Y)+Cov(,Y)；

        Cov(C,X) = 0；

        X、Y独立，Cov(X,Y) = 0；

3、相关系数

        定义  ρ=Cov(X,Y) / =  *  ,相关系数的值在 -1 和 1 之间, -1 表示完全负相关，1 表示完全正相关，0 表示没有线性关系。

       正相关：如果相关系数为正，表明当一个变量的值增加时，另一个变量的值也倾向于增加。

       负相关：如果相关系数为负，表明当一个变量的值增加时，另一个变量的值倾向于减少。

       无相关：如果相关系数为零，表明两个变量之间没有线性关系。