为什么样本方差要用 n - 1而不是 n 才是无偏估计？
为什么样本方差要用 $ n - 1 $ 而不是 $ n $ 才是无偏估计？
方差与标准差 - 国家统计局
也就是说，你想知道：
为什么样本方差 $ S^2 = \frac{1}{n-1} \sum_{i=1}^n (X_i - \bar{X})^2 $ 是总体方差 $ \sigma^2 $ 的无偏估计？
下面详细证明这一点。
🧮 一、定义与符号
设总体服从分布 $ X $，其均值为 $ \mu $，方差为 $ \sigma^2 $。
我们从总体中随机抽取一个容量为 $ n $ 的样本：
\[X_1, X_2, \dots, X_n
\]
样本均值为：
\[\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i
\]
样本方差有两个版本：
有偏方差（用 $ n $ 作分母）：
\[S^2 = \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X})^2
\]
无偏方差（用 $ n - 1 $ 作分母）：
\[S^2 = \frac{1}{n - 1} \sum_{i=1}^n (X_i - \bar{X})^2
\]
我们要证明的是：无偏方差的期望等于总体方差，即：
\[E\left( \frac{1}{n - 1} \sum_{i=1}^n (X_i - \bar{X})^2 \right) = \sigma^2
\]
🧮 二、证明过程
我们从样本方差的表达式出发：
\[\sum_{i=1}^n (X_i - \bar{X})^2
\]
展开平方项：
\[= \sum_{i=1}^n (X_i^2 - 2X_i \bar{X} + \bar{X}^2)
= \sum_{i=1}^n X_i^2 - 2\bar{X} \sum_{i=1}^n X_i + n \bar{X}^2
\]
注意到 $ \sum_{i=1}^n X_i = n \bar{X} $，代入得：
\[= \sum_{i=1}^n X_i^2 - 2\bar{X}(n \bar{X}) + n \bar{X}^2
= \sum_{i=1}^n X_i^2 - n \bar{X}^2
\]
所以：
\[\sum_{i=1}^n (X_i - \bar{X})^2 = \sum_{i=1}^n X_i^2 - n \bar{X}^2
\]
接下来求期望：
\[E\left( \sum_{i=1}^n (X_i - \bar{X})^2 \right)
= E\left( \sum_{i=1}^n X_i^2 - n \bar{X}^2 \right)
= \sum_{i=1}^n E(X_i^2) - n E(\bar{X}^2)
\]
由于 $ X_1, X_2, \dots, X_n $ 独立同分布，且 $ E(X_i) = \mu $ ，$ \text{Var}(X_i) = \sigma^2 $，所以：
$ E(X_i^2) = \text{Var}(X_i) + [E(X_i)]^2 = \sigma^2 + \mu^2 $
$ \bar{X} = \frac{1}{n} \sum_{i=1}^n X_i $，所以 $ E(\bar{X}) = \mu $ ，$ \text{Var}(\bar{X}) = \frac{\sigma^2}{n} $
因此：
\[E(\bar{X}^2) = \text{Var}(\bar{X}) + [E(\bar{X})]^2 = \frac{\sigma^2}{n} + \mu^2
\]
代入上式：
\[E\left( \sum_{i=1}^n (X_i - \bar{X})^2 \right)
= n(\sigma^2 + \mu^2) - n\left( \frac{\sigma^2}{n} + \mu^2 \right)
= n\sigma^2 + n\mu^2 - \sigma^2 - n\mu^2
= (n - 1)\sigma^2
\]
所以：
\[E\left( \frac{1}{n - 1} \sum_{i=1}^n (X_i - \bar{X})^2 \right) = \sigma^2
\]
✅ 结论
这就证明了：
样本方差 $ S^2 = \frac{1}{n - 1} \sum_{i=1}^n (X_i - \bar{X})^2 $ 是总体方差 $ \sigma^2 $ 的无偏估计。
而如果用 $ n $ 作分母，则得到的是有偏估计，其期望为：
\[E\left( \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X})^2 \right) = \frac{n - 1}{n} \sigma^2 < \sigma^2
\]
📌 总结
方差公式
是否无偏
为什么
\(\frac{1}{n}\sum(X_i-\bar{X})^2\)
❌ 有偏
低估了总体方差
\(\frac{1}{n-1}\sum(X_i-\bar{X})^2\)
✅ 无偏
修正了自由度，使得期望等于总体方差
其它：一些证明（可以忽略）
1 为什么$$ \text{Var}(\bar{X}) = \frac{\sigma^2}{n} $$
这个表示样本均值的方差。
✅ 为什么：
\[\text{Var}(\bar{X}) = \frac{\sigma^2}{n}
\]
📌 解释：
假设我们从一个总体中抽取一个大小为 $ n $ 的独立随机样本：
\[X_1, X_2, \dots, X_n
\]
每个 $ X_i $ 都来自同一个总体，具有相同的均值 $ \mu $ 和方差 $ \sigma^2 $。
样本均值为：
\[\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i
\]
那么它的方差为：
\[\text{Var}(\bar{X}) = \text{Var}\left( \frac{1}{n} \sum_{i=1}^n X_i \right)
\]
利用方差的性质：
常数因子可以提出：$ \text{Var}(aX) = a^2 \text{Var}(X) $
独立变量的方差可加：$ \text{Var}(X_1 + X_2 + \cdots + X_n) = \text{Var}(X_1) + \text{Var}(X_2) + \cdots + \text{Var}(X_n) $
所以：
\[\text{Var}(\bar{X}) = \frac{1}{n^2} \sum_{i=1}^n \text{Var}(X_i)
= \frac{1}{n^2} \cdot n \sigma^2
= \frac{\sigma^2}{n}
\]
🧠 直观理解：
样本均值 $ \bar{X} $ 是所有样本点的平均值。
平均值会比单个观测值更稳定，所以它的方差会更小。
方差缩小的比例是 $ \frac{1}{n} $，因为平均了 $ n $ 个独立的观测。
📌 小结
公式
含义
\(\text{Var}(\bar{X}) = \frac{\sigma^2}{n}\)
样本均值的方差是总体方差除以样本容量 $ n $