30._矩阵的五种分解概述

矩阵的五种分解

为了处理矩阵，人们把矩阵进行了分解，主要包括五种分解： (1) A=CR (2) A=LU (3) A=QR (4) A=$Q \Lambda Q^T$ (5) A=$U \sum V^T$

$A=CR$

$\boldsymbol{A}=\boldsymbol{C} \boldsymbol{R}$ 所有一般的长矩阵 $A$ 都有相同的行秩和列秩．这个分解是理解这一定理最直观的方法．$C$ 由 $A$ 的线性无关列组成，$R$ 为 $A$ 的行阶梯形矩阵（消除了零行）．$A=C R$ 将 $A$ 化简为 $r$ 的线性无关列 $C$ 和线性无关行 $R$的乘积．

推导过程：从左往右看 $A$ 的列。保留其中线性无关的列，去掉可以由前者线性表出的列。则第1、2列被保留，而第三列因为可以由前两列之和表示而被去掉。而要通过线性无关的 $1 、 2$ 两列重新构造出 $A$ ，需要右乘一个行阶梯矩阵 $R$ ．

现在你会发现行的秩为 2 ，因为 $C$ 中只有 2 个线性无关列．而 $A$ 中所有的列都可以由 $C$ 中的 2 列线性表出．

$A=L U$

用高斯消除法求解 $A \boldsymbol{x}=\boldsymbol{b}$ 也被称为 $L U$ 分解。通常，是 $A$ 左乘一个初等行变换矩阵 $(E)$ 来得到一个上三角矩阵 $U$ 。

现在，求解 $A \boldsymbol{x}=\boldsymbol{b}$ 有2步：（1）求解 $L \boldsymbol{c}=\boldsymbol{b}$ ，（2）代回 $U \boldsymbol{x}=\boldsymbol{c}$ ．

在这里，我们直接通过 $A$ 计算 $L$ 和 $U$ ．

要计算 $L$ 和 $U$ ，首先分离出由 $A$ 的第一行和第一列组成的外积．余下的部分为 $A_2$ ．递归执行此操作，将 $A$ 分解为秩1矩阵之和．

由 $L$ 乘以 $U$ 来重新构造 $A$ 则相对简单。

$A=Q R$

$A=Q R$ 是在保持 $\boldsymbol{C}(A)=\boldsymbol{C}(Q)$ 的条件下，将 $A$ 转化为正交矩阵 $Q$ ． 在格拉姆－施密特正交化中，首先，单位化的 $\boldsymbol{a}_1$ 被用作 $\boldsymbol{q}_1$ ，然后求出 $\boldsymbol{a}_2$ 与 $\boldsymbol{q}_1$ 正交所得到的 $\boldsymbol{q}_2$ ，以此类推．

或者你也可以写作 $r_{i j}=\boldsymbol{q}_i^{\mathrm{T}} \boldsymbol{a}_j$ ：

原本的 $A$ 就可以表示为 $Q R$ ：正交矩阵乘以上三角矩阵．

$A$ 的列向量就可以转化为一个正交集合：$Q$ 的列向量．$A$ 的每一个列向量都可以用 $Q$ 和上三角矩阵 $R$ 重新构造出． 图释可以回头看 P1．

$S=Q \Lambda Q^{\mathrm{T}}$

所有对称矩阵 $S$ 都必须有实特征值和正交特征向量．特征值是 $\Lambda$ 的对角元素，特征向量在 $Q$ 中．

一个对称矩阵 $S$ 通过一个正交矩阵 $Q$ 和它的转置矩阵，对角化为 $\Lambda$ 。然后被分解为一阶投影矩阵 $P=q q^{\mathrm{T}}$的组合．这就是谱定理．

$A=U \Sigma V^{\mathrm{T}}$

包括长方阵在内的所有矩阵都具有奇异值分解（SVD）．$A=U \Sigma V^{\mathrm{T}}$ 中，有 $A$ 的奇异向量 $U$ 和 $V$ 。奇异值则排列在 $\Sigma$ 的对角线上．下图就是＂简化版＂的 SVD． 你可以发现，$V$ 是 $\mathbb{R}^n$（ $A^{\mathrm{T}} A$ 的特征向量）的标准正交基，而 $U$ 是 $\mathbb{R}^m$（ $A A^{\mathrm{T}}$ 的特征向量）的标准正交基．它们共同将 $A$ 对角化为 $\Sigma$ ．这也可以表示为秩 1 矩阵的线性组合．

注意：