Wishart分布简介

首先我们介绍为什么要用Wishart分布。假设我们有从一元正态分布中抽取的n个独立的样本。那么这些样本的方差应该是服从一个自由度是$n-1$的$\chi^2$分布（具体介绍请参考如何抽取样本方差的分布）。Wishart分布是$\chi^2$分布在多元上的推广。因此，它可以用来描述多元正态分布样本的协方差矩阵。它在多元正态分布分布的贝叶斯推导中非常重要。

Wishart分布是根据John Wishart来的，他第一次提出了这个分布。Wishart分布是一组定义在对称、非负定矩阵的随机变量（随机矩阵）。这些分布在估计多元统计中的协方差的时候很有用。

定义

假设$X$是一个$n\times p$的矩阵，每一行都是从均值为0的$p$维正态分布中抽取的独立样本，即：

X_{(i)} = (x_i^1,\cdots,x_i^p) \sim N_p(\textbf{0},\Sigma)

那么，Wishart分布$S$就是这个这个$p\times p$的随机矩阵的概率分布：

S = \sum_{i=1}^nX_i^TX_i

它通常被称为散度矩阵，写法如下：

S \sim W_p(\Sigma,n)

这里的$n$是自由度。有时候也写成$W(\Sigma,p,n)$，那么对于$n \geq p$的矩阵$S$，如果$\Sigma$是可逆的，那么它也是可逆的。当$p=\Sigma=1$那么这个分布是一个自由度为$n$的$\chi^2$分布。同时，当协方差是单位矩阵的时候，也称之为标准Wishart分布。

另一种描述。

Wishart分布是用来为随机协方差矩阵建模的。它是定义如下：