Chapter04:Matrix Decompositions

Matrix Decompositions

3. Cholesky Decomposition

Cholesky分解 : 一个对称，正定的矩阵$A$

能被因式分解成一个积：$A = L L^{T}$,$L$是一个有正的对角元素的下三角矩阵：

$\begin{bmatrix} a_{11} & \cdots & a_{1n} \\ \vdots & \ddots & \vdots \\ a_{n1} & \cdots & a_{nn} \end{bmatrix} =\begin{bmatrix} l_{11} & \cdots & 0 \\ \vdots & \ddots & \vdots \\ l_{n1} & \cdots & l_{nn} \end{bmatrix} \begin{bmatrix} l_{11} & \cdots & l_{n1} \\ \vdots & \ddots & \vdots \\ 0 & \cdots & l_{nn} \end{bmatrix}$

$L$被称作$A$科斯基因子，并且$L$是唯一的。

4. 特征分解和对角化

1. 对角阵（A diagonal matrix is a matrix that has value zero on all off-diagonal elements ）

$\begin{bmatrix} c_{1} & \cdots & 0 \\ \vdots & \ddots & \vdots \\ 0 & \cdots & c_{n} \end{bmatrix}$

2. 相似

Marices $A, D$ are similar if there exists an invertible matrix P, such that :

$\boldsymbol{D} =\boldsymbol{P}^{-1} \boldsymbol{A} \boldsymbol{P} \tag{1}$

3.对角化

Diagonalizable

矩阵$A \in \mathbb{R}^{n \times n}$如果相似于对角阵就能对角化。即：如果存在可逆矩阵$P \in \mathbb {R}^{n \times n}$如$D = P^{-1}AP$

注:

若 $A \in \mathbb{R}^{n \times n}, \quad \lambda_{1}, \cdots, \lambda_{n}$ 是标量的集合, $p_{1}, \cdots, p_{n}$ 是在 $\mathbb{R}^{n}$ 上的向量集合。定义： $P:=[p_{1}, \cdots, p_{n}]；\ D \in \mathbb{R}^{n \times n}\ 是含\lambda_{1}, \cdots,\lambda{n}$ 对角元素的对角阵。

则由公式1有：

$\begin{align} \boldsymbol{A}\boldsymbol{P} &= \boldsymbol{P}\boldsymbol{D} \tag{2} \\ \boldsymbol{A}\boldsymbol{P} &= \boldsymbol{A}[\boldsymbol{p}_{1}, \cdots, \boldsymbol{p}_{n}] =\begin{bmatrix} \boldsymbol{A}\boldsymbol{p}_{1}, \cdots, {A}\boldsymbol{p}_{n} \tag{3} \end{bmatrix} \\ \boldsymbol{P}\boldsymbol{D}&= \begin{bmatrix} \boldsymbol{p}_1, \cdots, \boldsymbol{p}_{n}\end{bmatrix} \begin{bmatrix} \lambda_{1} & \cdots & 0 \\ \vdots & \ddots & \vdots \\ 0 & \cdots & \lambda_{n} \end{bmatrix} = \begin{bmatrix} \lambda_{1}\boldsymbol{p}_{1}, \cdots, \lambda_{n}\boldsymbol{p}_{n}\tag{4} \end{bmatrix} \end{align}$

由（2）（3）（4）有：

$\begin{aligned} \boldsymbol{A} \boldsymbol{p}_{1} &=\lambda_{1} \boldsymbol{p}_{1} \\ & \vdots \\ \boldsymbol{A} \boldsymbol{p}_{n} &=\lambda_{n} \boldsymbol{p}_{n} \end{aligned}$

因此：$\boldsymbol{P}$的列必须是$\boldsymbol{A}$的特征向量。

$\boldsymbol{P}$ 必须是可逆的，而且是满秩。