2._依概率收敛

依概率收敛

X1,X2...XnX_1, X_2...X_n, 是随机变量序列,如果存在一个常数 cc ,使得对任意一个 ε>0\varepsilon>0 , 总有 limnP(Xnc<ε)=1\quad \lim _{n \rightarrow \infty} P\left(\left|X_n-c\right|<\varepsilon\right)=1, 那么称 X1,X2,X_1, X_2, \cdots 依概率收敛于 cc ,记作 XnPcX_n \stackrel{P}{\longrightarrow} cnn 充分大时 {Xn(cε,c+ε)}\left\{X_n \in(c-\varepsilon, c+\varepsilon)\right\} 几乎总是发生或等价地 limnP(Xncε)=0\quad \lim _{n \rightarrow \infty} P\left(\left|X_n-c\right| \geq \varepsilon\right)=0.

依概率收敛的通俗解释

假设随机扔一枚硬币,要判断正面向上的概率,我们很容易知道他的概率为12\frac{1}{2},也就是c=50%c=50\%

但是,当你真的进行实验时。 第一次:扔10次,可能正面的概率为 49%, 和真实的误差是1%1\% 第二次:扔100次,可能正面的概率为 50.8%, 和真实的误差是0.8%0.8\% 第三次:扔1000次,可能正面的概率为 49.5%, 和真实的误差是0.5%0.5\% 第四次:扔10000次,可能正面的概率为 49.9%, 和真实的误差是0.1%0.1\% 第五次:扔10000次,可能正面的概率为50.1%, 和真实的误差是0.1%0.1\% 第六次:扔100000次,可能正面的概率为50.001%,和真实的误差是0.001%0.001\% ... 可以看到,随着你扔硬币的次数越来越多,出现的概率越来越接近理论上的真实值。

如何定义“越来越接近”呢? 我们就把高等《高等数学》里极限那套理论搬过来使用:以上面数据为例,当你给定一个数, ①比如要求误差小于ε=0.01\varepsilon=0.01,那我只要扔超过100次就可以了。 ②如果要求误差小于ε=0.0005\varepsilon=0.0005,那我只要扔超过1000次就可以了。 总之,不论你给我的ε\varepsilon有多小,我扔的次数超过N,就能满足你的苛刻的要求。此时,我们就说他是依概率收敛。

依概率收敛的正反两种解释

再看一下这个式子 limnP(Xnc<ε)=1 \lim _{n \rightarrow \infty} P\left(\left|X_n-c\right|<\varepsilon\right)=1, 他的正面描述是:当你扔的次数变成无穷大,那么“硬币正面朝上的概率为50%”的可能性是100%(也就是1)

再看第二个式子 limnP(Xncε)=0 \lim _{n \rightarrow \infty} P\left(\left|X_n-c\right| \geq \varepsilon\right)=0. 他的反面解释是:你扔的次数变成无穷大,那么“硬币正面朝上的概率为50%”的可能性是0%(也就是0)

所以上面两个式子是等价的。

依概率收敛性具有下列性质:

定理1{Xn},{Yn}\left\{X_n\right\},\left\{Y_n\right\} 是两个随机变量序列,a, ba, ~ b 是两个常数.如果

XnPa,YnPb,X_n \xrightarrow{P} a, \quad Y_n \xrightarrow{P} b,

则有: (1)Xn±YnPa±bX_n \pm Y_n \xrightarrow{P} a \pm b ; (2)Xn×YnPa×bX_n \times Y_n \xrightarrow{P} a \times b ; (3)Xn÷YnPa÷b(b0)X_n \div Y_n \xrightarrow{P} a \div b(b \neq 0)

定理2 如果 XnPcYnPbX_n \stackrel{P}{\longrightarrow} c , Y_n \stackrel{P}{\longrightarrow} b ,且函数 g(x,y)g(x, y)(a,b)(a, b) 处连续

g(Xn,Yn)Pg(a,b)g\left(X_n, Y_n\right) \stackrel{P}{\rightarrow} g(a, b)

例如 XnP1YnP2X_n \stackrel{P}{\longrightarrow} 1 , Y_n \stackrel{P}{\longrightarrow} 2 ,则 Xn+YnP3X_n+Y_n \stackrel{P}{\longrightarrow} 3

这说明依概率收敛具有简单的可加性和可乘性。