大数定律

维基百科,自由的百科全书
跳转至: 导航搜索
以特定掷单个骰子的过程来展示大数定律。随着投掷次数的增加,所有结果的均值趋于 3.5。不同时候做的这个实验会在投掷数量较小的时候(左部)会表现出不同的形状,当数量变得很大(右部)的时候,它们将会非常相似。

數學統計學中,大数定律又称大数法则、大数律,是描述相当多次数重复实验的结果的定律。根据这个定律知道,樣本數量越多,則其平均就越趨近期望值

大数定律很重要,因为它“保证”了一些随机事件的均值的长期稳定性。人们发现,在重複試驗中,随着试验次数的增加,事件发生的频率趋于一个稳定值;人们同时也发现,在对物理量的测量实践中,测定值的算术平均也具有稳定性。比如,我们向上抛一枚硬币,硬币落下后哪一面朝上本来是偶然的,但当我们上抛硬币的次数足够多后,达到上万次甚至几十万几百万次以后,我们就会发现,硬币每一面向上的次数约占总次数的二分之一。偶然必然中包含着必然。

切比雪夫定理的一个特殊情况、辛钦定理伯努利大数定律都概括了这一现象,都称为大数定律。

表现形式[编辑]

大数定律主要有两种表现形式:弱大数定律强大数定律。定律的两种形式都肯定无疑地表明,样本均值

\overline{X}_n=\frac1n(X_1+\cdots+X_n)

收敛于期望值

\overline{X}_n \, \to \, \mu \qquad\textrm{for}\qquad n \to \infty,

其中 X1, X2, ... 是独立同分布的,期望值 E(X1) = E(X2) = ...= µ 的,勒贝格可积的随机变量构成的无穷序列。Xj 的勒贝格可积性意味着期望值 E(Xj) 存在且有限。

方差 Var(X1) = Var(X2) = ... = σ2 < ∞ 有限的假设是非必要的。很大或者无穷大的方差会使其收敛得緩慢一些,但大数定律仍然成立。通常采用这个假设来使证明更加简洁。

强和弱之间的差别在所断言的收敛的方式。对于这些方式的解释,参见随机变量的收敛

弱大数定律[编辑]

弱大数定律也称为辛钦定理,陈述为:样本均值依概率收敛于期望值。[1]


    \overline{X}_n\ \xrightarrow{P}\ \mu \qquad\textrm{when}\ n \to \infty.

也就是说对于任意正数 ε,


    \lim_{n\to\infty}P\left(\,|\overline{X}_n-\mu| > \varepsilon\,\right) = 0.

切比雪夫定理的特殊情况[编辑]

a_1 , a_2 , ... , a_n , ... 为相互独立的随机变量,其数学期望为: E(a_i) = \mu (i = 1,2,...) 方差为: Var(a_i) = \sigma^2 (i=1,2,...)

则序列\overline{a}= \frac{1}{n} \sum_{i=1}^n a_i依概率收敛\mu(即收敛于此数列的数学期望E(a_i))。

换言之,在定理条件下,当n无限变大时,n个随机变量的算术平均将变成一个常数。

伯努利大数定律[编辑]

设在n次独立重复伯努利试验中,
事件X发生的次数为 n_x
事件X在每次试验中发生的母體機率为p
 n_x/n代表樣本發生事件X的频率。

大数定律可用機率極限值定義: 则对任意正数 \varepsilon >0 ,下式成立:

 \lim_{n \to \infty}{P{\left\{ \left|\frac{n_x}{n} - p \right| < \varepsilon \right\}}} = 1

定理表明事件发生的频率依機率收敛于事件的母體機率。
定理以严格的数学形式表达了频率的稳定性。
就是说当n很大时,事件发生的频率于母體機率有较大偏差的可能性很小。

参见[编辑]

参考文献[编辑]

  1. ^ Rick Durrett. Probability: Theory and Examples. Cambridge University Press. 2010: 61. ISBN 978-0-521-76539-8 (英文). 

外部連結[编辑]