中心极限定理

维基百科,自由的百科全书

跳转到: 导航, 搜索
本图描绘了多次抛掷硬币实验中出现正面的平均比率,每次实验均抛掷了大量硬币。
本图描绘了多次抛掷硬币实验中出现正面的平均比率,每次实验均抛掷了大量硬币。

中心极限定理,是概率论中讨论随机变量和的分布以正态分布极限的一组定理。这组定理是数理统计学和误差分析的理论基础,指出了大量随机变量之和近似服从正态分布的条件。

目录

[编辑] 历史

Tijms (2004, p.169) 写到:

中心极限定理有着有趣的历史。这个定理的第一版被法国数学家棣莫弗发现, 他在1733年发表的卓越论文中使用正态分布去估计大量抛掷硬币出现正面次数的分布。这个超越时代的成果险些被历史遗忘,所幸著名法国数学家拉普拉斯在1812年发表的巨著 Théorie Analytique des Probabilités中拯救了这个默默无名的理论.拉普拉斯扩展了棣莫弗的理论,指出二项分布可用正态分布逼近。但同棣莫弗一样,拉普拉斯的发现在当时并未引起很大反响。直到十九世纪末中心极限定理的重要性才被世人所知。1901年, 俄国数学家里雅普诺夫用更普通的随机变量定义中心极限定理并在数学上进行了精确的证明。如今, 中心极限定理被认为是(非正式地)概率论中的首席定理。

[编辑] 棣莫佛-拉普拉斯定理

棣莫佛-拉普拉斯(de Movire - Laplace)定理是中心极限定理的最初版本,讨论了服从二项分布的随机变量序列。它指出,参数为n, p的二项分布以np为均值、np(1-p)为方差的正态分布为极限。

[编辑] 内容

用正态分布逼近二项分布
用正态分布逼近二项分布

μnn次伯努利实验中事件A出现的次数,0 < p < 1,则对任意有限区间[a,b]:

(i)当a\leq{x_k} \equiv \frac{k-np}{\sqrt{npq}}\leq{b}n\to{\infty}时,一致地有

P\{\mu_n=k\}\div(\frac{1}{\sqrt{npq}}\cdot \frac{1}{\sqrt{2\pi}}e^{-\frac{1}{2}x^{2}_{k}})\to1

(ii)当n\to\infty时,一致地有

P\{a\le{\frac{\mu_n-np}{\sqrt{npq}}}<b\}\to\int_a^b\varphi(x) dx, 其中\varphi(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}(-\infty<x<\infty).

[编辑] 在高尔顿板问题上的应用

高尔顿绘制的高尔顿板模型,其中的小球显出钟形曲线。
高尔顿绘制的高尔顿板模型,其中的小球显出钟形曲线。

棣莫佛-拉普拉斯定理指出二项分布的极限为正态分布。高尔顿板可以看作是伯努利试验的实验模型。如果我们把小球碰到钉子看作一次实验,而把从右边落下算是成功,从左边落下看作失败,就有了一次p=\frac{1}{2}的伯努利试验。小球从顶端到底层共需要经过n排钉子,这就相当于一个n次伯努利试验。小球的高度曲线也就可以看作二项分布随机变量的概率密度函数。因此,中心极限定理解释了高密顿板小球累积高度曲线为什么是正态分布独有的钟形曲线。

[编辑] 林德伯格-列维定理

中心极限定理的动态展示,独立同分布随机变量之和趋近正态分布。
中心极限定理的动态展示,独立同分布随机变量之和趋近正态分布。

林德伯格-列维(Lindberg-Levy)定理,是棣莫佛-拉普拉斯定理的扩展,讨论独立同分布随机变量序列的中心极限定理。它表明,独立同分布、且数学期望和方差有限的随机变量序列的标准化和以标准正态分布为极限:

[编辑] 内容

设随机变量X1, X2,...,Xn独立同分布,且具有有限的数学期望方差E(Xi) = µD(Xi) = σ² ≠ 0 (i=1,2,...n)。记

\bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_{i}\zeta_n=\frac{\bar{X} -\mu}{\sigma/\sqrt{n}} ,则 \lim_{n\rightarrow\infty}P\left(  \zeta_n\leq
z\right)  =\Phi\left(  z\right)

其中Φ(z)是标准正态分布的分布函数。

[编辑] 证明

Xk − μ的特征函数为\varphi(t),则ζn的特征函数为{\left[\varphi{\left(\frac{t}{\sigma\sqrt{n}}\right)}\right]}^n.由于E(Xk) = μ,D(Xk) = σ2\varphi'(0)=0,\varphi''(0)=-\sigma^2.因此

\varphi(t)=1-\frac{1}{2}\sigma^2t^2+o(t^2)

所以

{\left[\varphi{\left(\frac{t}{\sigma\sqrt{n}}\right)}\right]}^n=\left[1-\frac{1}{2n}t^2+o\left(\frac{t^2}{n}\right)\right]^n\to{e^{-t^2/2}}

由于e^{-t^2/2}是连续函数,它对应的分布函数为Φ(Z),因此由逆极限定理

\lim_{n\rightarrow\infty}P\left(  \zeta_n\leq
z\right)  \to\Phi\left(  z\right)

定理证毕.

[编辑] 参考文献

李贤平,概率论基础(第二版),高等教育出版社

[编辑] 外部链接

个人工具