9._李雅普诺夫中心极限定理

李雅普诺夫中心极限定理

设随机变量 X1,X2,X_1, X_2, \cdots 相互独立,分别具有数学期望和方差:

E(Xk)=μk,D(Xk)=σk20(k=1,2,).E\left(X_k\right)=\mu_k, D\left(X_k\right)=\sigma_k^2 \neq 0 \quad(k=1,2, \cdots) .

Bn2=k=1nσk2B_n^2=\sum_{k=1}^n \sigma_k^2 .若存在正数 δ\delta ,使得当 nn \rightarrow \infty 时,有

1Bn2+δk=1nE(Xkμk2+δ)0\frac{1}{B_n^{2+\delta}} \sum_{k=1}^n E\left(\left|X_k-\mu_k\right|^{2+\delta}\right) \rightarrow 0

则随机变量之和 k=1nXk\sum_{k=1}^n X_k 的标准化随机变量

Zn=k=1nXkE(k=1nXk)D(k=1nXk)=k=1nXkk=1nμkBnZ_n=\frac{\sum_{k=1}^n X_k-E\left(\sum_{k=1}^n X_k\right)}{\sqrt{D\left(\sum_{k=1}^n X_k\right)}}=\frac{\sum_{k=1}^n X_k-\sum_{k=1}^n \mu_k}{B_n}

的分布函数 Fn(x)F_n(x) 对任意 xx 都满足

limnFn(x)=limnP{k=1nXkk=1nμkBnx}=x12πet22dt.\lim _{n \rightarrow \infty} F_n(x)=\lim _{n \rightarrow \infty} P\left\{\frac{\sum_{k=1}^n X_k-\sum_{k=1}^n \mu_k}{B_n} \leqslant x\right\}=\int_{-\infty}^x \frac{1}{\sqrt{2 \pi}} e^{-\frac{t^2}{2}} d t .

这个定理说明,随机变量

Zn=k=1nXkk=1nμkBnZ_n=\frac{\sum_{k=1}^n X_k-\sum_{k=1}^n \mu_k}{B_n}

nn 很大时,近似地服从正态分布 N(0,1)N(0,1) 。因此,埐 nn 很大时,随机变量

k=1nXk=BnZn+k=1nμk\sum_{k=1}^n X_k=B_n Z_n+\sum_{k=1}^n \mu_k

近似地服从正态分布 N(k=1nμk,Bn2)N\left(\sum_{k=1}^n \mu_k, B_n^2\right)

这表明,无论随机变量 Xk(k=1,2,)X_k(k=1,2, \cdots) 具有怎样的分布,只要满足定理相互独立,并具有数学期望和方差条件,当 nn 很大时,它们的和 k=1nXk\sum_{k=1}^n X_k 就近似地服从正态分布。在许多实际问题中,所考虑的随机变量往往都可以表示为多个独立的随机变量之和,因而它们常常近似地服从正态分布。这就是正态随机变量在概率论与数理统计中占有重要地位的主要原因。

和列维-林德伯格定理相比, 他不再要求数据服从同一分布,也就是对要求进一步弱化。但是因为限制放宽了,也导致精确率降低,所以使用范围并没有 列维-林德伯格中心极限定理广。

三大中心极限定理区别与应用

独立同分布的中心极限定理 limnP(i=1nXinμnσ)x)=x12πet22dt=Φ(x)\left.\lim _{n \rightarrow \infty} P\left(\dfrac{\sum_{i=1}^n X_i-n \mu}{\sqrt{n} \sigma }\right) \le x \right)=\int_{-\infty}^x \frac{1}{\sqrt{2 \pi}} e ^{-\frac{t^2}{2}} d t=\Phi(x)

棣莫弗-拉普拉斯定理 limnP{Xnpnp(1p)x}=x12πet22dt=Φ(x)\lim _{n \rightarrow \infty} P \left\{\dfrac{X-n p}{\sqrt{n p(1-p)}} \leqslant x\right\}=\int_{-\infty}^x \frac{1}{\sqrt{2 \pi}} e ^{-\frac{t^2}{2}} dt =\Phi(x)

李雅普诺夫定理 limnP{i=1nXii=1nμik=1nσk2x}=x12πet22dt=Φ(x)\lim _{n \rightarrow \infty} P\left\{\dfrac{\sum_{i=1}^n X_i-\sum_{i=1}^n \mu_i }{\sqrt{\sum_{k=1}^n \sigma_k^2}} \leqslant x \right\}=\int_{-\infty}^x \frac{1}{\sqrt{2 \pi}} e ^{-\frac{t^2}{2}} d t=\Phi(x)

背景

首先,列维-林德伯格定理,也就是独立同分布的中心极限定理,适用于独立同分布的随机变量序列,只要期望和方差存在,标准化后的和趋近于正态分布。这个定理是中心极限定理中最经典的形式,应用广泛,比如在统计学中的大样本推断。

然后是棣莫弗-拉普拉斯定理,它其实是列维-林德伯格定理的一个特例,专门针对二项分布的情况。当试验次数n很大时,二项分布可以用正态分布来近似。这个定理在概率论早期由棣莫弗提出,后来拉普拉斯推广,所以名字是两个人的。

接下来是李雅普诺夫定理,属于独立不同分布情况下的中心极限定理。李雅普诺夫放宽了条件,允许随机变量不同分布,但需要满足李雅普诺夫条件,即存在某个δ>0,使得高阶矩的条件成立。这样,即使变量不同分布,只要满足条件,标准化后的和仍然趋近于正态分布。

核心条件与适用范围

定理独立性分布特征矩条件通俗理解
列维-林德伯格定理独立同分布同分布,存在期望和方差仅需一阶、二阶矩存在同分布数据的“平均化”效应,如多次测量取平均后趋近正态分布。
棣莫弗-拉普拉斯定理独立同分布二项分布(特殊同分布)仅需一阶、二阶矩存在二项分布中成功与失败的独立叠加,当试验次数极大时,整体结果呈现正态性。 是列维-林德伯格定理的特例 。
李雅普诺夫定理独立不同分布允许不同分布需满足李雅普诺夫条件(存在 δ>0\delta >0 ),高阶矩有界)独立不同分布随机变量序列的标准化和依分布收敛于标准正态分布 。

应用场景对比

场景适用定理典型问题
同分布数据列维-林德伯格定理大样本均值估计(如重复实验测量误差分析) 。
二项分布近似棣莫弗-拉普拉斯定理抛硬币、抽样调查中成功次数的正态近似 。
异质数据融合李雅普诺夫定理多源传感器数据叠加、金融风险模型中不同资产波动的综合影响 。

9._李雅普诺夫中心极限定理 - 概率论与数理统计 | OpenTech