弱大数定律¶

弱大数定律（英文：Weak law of large numbers，简写：WLLN）也称为辛钦定理，陈述为：样本均值依概率收敛于期望。相对地，还有强大数定律（英文：Strong law of large numbers，简写：SLLN）。

依概率收敛¶

设 \(X_1\)，\(X_2\)，\(\cdots\)，\(X_n\)，\(\cdots\) 是随机变量序列，\(X\) 是随机变量。如果 \(\forall \varepsilon > 0\)，有

\[ \lim_{n \to \infty} P \left ( \left | X_n - X \right | \ge \varepsilon \right ) = 0 \]

则称随机变量序列 \(\{ X_n \}\) 依概率收敛于 \(X\)，记为

\[ X_n \overset{P}{\longrightarrow} X, \ n \to \infty \]

若 \(X_i\) 相互独立，具有相同的数学期望（\(EX_i=\mu\)），且存在常数 \(C > 0\)，使得 \(DX_i \le C\) 则

\[ \frac{1}{n} \sum_{i=1}^{n} X_i \overset{P}{\longrightarrow} \mu, \ n \to \infty \]

若 \(\lim\limits_{n \to \infty} D \left [ \dfrac{1}{n} \displaystyle\sum\limits_{i=1}^{n} X_i \right ] = 0\) 则

\[ \frac{1}{n} \sum_{i=1}^{n} X_i \overset{P}{\longrightarrow} \frac{1}{n} \sum_{i=1}^{n} EX_i, \ n \to \infty \]

若 \(X_i\) 相互独立，同分布，具有有限的数学期望（\(EX_i=\mu\)）则

\[ \frac{1}{n} \sum_{i=1}^{n} X_i \overset{P}{\longrightarrow} \mu, \ n \to \infty \]

若 \(n_A\) 表示 \(n\) 重 Bernoulli 试验中事件 \(A\) 发生的次数，且 \(P(A)=p\) 则

\[ \frac{n_A}{n} \overset{P}{\longrightarrow} p, \ n \to \infty \]

Bernoulli LLN 说明：对于给定的任意小的正数 \(\varepsilon\)，当 \(n\) 充分大时，随机事件 \(\left\{ \left | \dfrac{n_A}{n} - p \right | < \varepsilon \right\}\) 几乎是必然要发生的。

频率不是概率。频率的极限可能不存在，所以更不是概率。但频率的稳定值是概率。在实际应用中，当试验次数很大时，可以用事件的频率 \(\dfrac{n_A}{n}\) 来代替事件的概率 \(p\)。