Cov(X,Y)=E[(X−μx)(Y−μy)]; ковариационная матрица Σ для вектора хранит попарные ковариации, на диагонали — дисперсии. Σ должна быть PSD.
Разбор
- Корреляция = нормированная ковариация.
- Для многомерного гаусса Σ полностью задаёт зависимость.
- Выборочная Σ оценивается с 1/(n−1) (несмещённая).
- Сингулярная Σ — линейная зависимость признаков.
Итог
Ковариация описывает совместный разброс; матрица — полную вторую моментную структуру.