多元随机变量协方差矩阵的无偏估计

所谓的用自由度来解释为什么是 不是 的实在是不靠谱（

对于随机向量 ，我们可以定义它的期望和协方差矩阵：

假设有一组观测值：，我们或许会想要这样估计参数这样估计参数（例如多元正态分布的极大似然估计会给出如下的公式）：

这两个估计值本身也是随机变量，考虑它们的期望，这个期望告诉了我们在平均的意义下我们的估计究竟是多少。由于期望的线性性，期望的估计值的期望可以很方便地计算：

这说明这一估计是无偏的。

然而对于协方差矩阵，情况变得不一样起来。由于 是无关的，因此 ，而 与自身是相关的，所以刚才的式子不总是成立的。考虑协方差矩阵估计值的期望

拿出求和号中的一项来分析：

取期望:

因此

因此， 这一估计是有偏的，无偏估计应当是：