合聚咖

合聚咖

怎样理解和区分中心极限定理与大数定律

admin

深入理解中心极限定理与大数定律,让我们从另一个角度出发,通过类比微积分的泰勒展开,探索这两者之间的联系。

学习过微积分的泰勒展开,我们知道,在一个点的局部,我们可以用线性函数来近似连续可导的函数。表达式为[公式]。其中,[公式]表示零阶项,[公式]表示一阶修正,[公式]代表高阶小量。

类比到随机变量的局部近似,我们可以尝试对随机变量进行“局部的泰勒展开”。假设有[公式]个独立同分布的变量,通过大数定律和中心极限定理,我们得到[公式]。这里,期望[公式]相当于零阶项[公式],标准差[公式]相当于一阶导数[公式],标准正态分布[公式]相当于线性函数[公式],[公式]表示概率意义下的高阶小量。

通过这个类比,我们可以从不同角度理解大数定律与中心极限定理:

1、大数定律与中心极限定理可以视为随机变量的零阶与一阶“泰勒展开”。大数定律提供期望值的估计,中心极限定理则在大数定律基础上给出估计误差的标准差乘以标准正态分布。

2、大数定律负责给出估计结果——期望值,而中心极限定理则关注该估计的误差——标准差与标准正态分布的乘积。

3、泰勒展开的类比帮助我们直观理解中心极限定理的应用范围。为了使泰勒展开成立,即高阶小量[公式]在取平均(除以[公式]后)可忽略,通常需要样本量与方差处于同一量级或更小。

4、实际上,我们可以进行更高阶的展开,例如三阶展开对应统计量叫做skewness。然而,在实际应用中,中心极限定理已经足够,因此通常不进行更高阶的展开。