线性映射与矩阵的代数关系

贡献者： Relo Stern; addis; Giacomo

预备知识　线性映射，矩阵及其运算，范数

　　在本页中，我们将所有 $m$ 行 $n$ 列的实矩阵组成的集合记为 $R^{m \times n}$ ，并记从 $R^{n}$ 到 $R^{m}$ 的一切线性变换全体构成的空间为 $L (R^{n}, R^{m}) .$

　　 $R^{m \times n}$ 中的矩阵与 $L (R^{n}, R^{m})$ 中的线性变换是代数同构的关系。矩阵可以看成线性变换，线性变换在取定一组基底后，可以表示为矩阵。

　　为明确起见，本页所说的线性变换都是指有限维空间之间的线性变换，即 $L (R^{n}, R^{m})$ 中的映射。

1. 矩阵的秩与线性变换的联系

定义 1　矩阵的秩

　　 矩阵的秩 既可以定义为其行向量组的秩（称为行秩）, 也可以定义为其列向量组的秩（称为列秩）, 这是因为矩阵的行秩和列秩被证明是相等的。

　　注：矩阵行向量组形成的空间称为 行空间, 行向量组的秩也正是行空间的维数; 列向量组形成的空间称为 列空间, 列向量组的秩也正是列空间的维数。

定义 2　线性变换的秩

　　 线性变换的秩 定义为其像空间的维数。

　　下面的定理表明，矩阵与线性变换的秩在某种意义下是等同的。

定理 1　像空间 $=$ 列空间

　　如果将矩阵看成线性变换，那么该变换的像空间的维数，恰是矩阵的列空间的维数。

　　证明：设 $A \in R^{m \times n}$ , $A$ 也可以看成从 $R^{n}$ 到 $R^{m}$ 的线性变换，那么取定 $R^{n}$ 的标准基 $(e_{1}, e_{2}, \dots, e_{n})$ 后， $A$ 的像空间就由 ${A e_{1}, A e_{2}, \dots, A e_{n}}$ 张成，因此像空间的维数就是 ${A e_{1}, A e_{2}, \dots, A e_{n}}$ 的极大无关组的个数，也就是 ${A e_{1}, A e_{2}, \dots, A e_{n}}$ 的秩; 而每个 $A e_{i}$ 正好又是矩阵 $A$ 的第 $i$ 列，这就说明了 $A$ 的像空间的维数等于它的列空间的维数。 $◻$

　　注：上述证明过程表明，对于看成线性变换的矩阵来说，其像空间正好就是其列空间。

矩阵是行满秩的，当且仅当其线性变换是满射。(行秩等于列秩，列空间等于像空间)

矩阵是列满秩的，当且仅当其线性变换是单射。(列空间等于像空间，维数定理，核空间为零)

方阵是满秩的，当且仅当它是可逆的，当且仅当其线性变换是双射。

　　在介绍线性方程组的解的结构性定理时，很多书是采用初等行变换来证明的，这显然是有利于初学者接受的，但是不够优雅. 这里我们仅需巧妙地运用定理 1 就能导出线性方程组的解的结构，并且能对齐次和非齐次线性方程组做统一的处理。

定理 2　线性方程组的解的结构性定理

　　设 $A \in R^{m \times n},$ $b \in R^{n \times 1}$ 且 $b \neq 0$ .

　　 ① $A x = 0$ 有唯一解（即零解） $\Leftrightarrow$ $\ker A = {0}$ $\Leftrightarrow$ $A$ 是单射 $\Leftrightarrow$ $A$ 列满秩 $\Leftrightarrow$ $rank$ $A = n .$

　　 ② $A x = 0$ 有无穷个解（即有非零解） $\Leftrightarrow$ $A$ 不是单射 $\Leftrightarrow$ $A$ 列不满秩 $\Leftrightarrow rank$ $A < n .$

　　 ③ $A x = b$ 无解 $\Leftrightarrow$ $b \notin Im A$ $\Leftrightarrow$ $b \notin$ { $A$ 的列空间} $\Leftrightarrow$ $b$ 无法被 $A$ 的列向量组线性表出 $\Leftrightarrow$ $rank$ $A <$ $rank$ $(A : b) .$

　　 ④ $A x = b$ 有解 $\Leftrightarrow$ $b \in Im A$ $\Leftrightarrow$ $b \in$ { $A$ 的列空间} $\Leftrightarrow$ $b$ 可以被 $A$ 的列向量组线性表出 $\Leftrightarrow$ $rank$ $A =$ $rank$ $(A : b) .$

　　 ⑤ $A x = b$ 有唯一解 $\Leftrightarrow$ $b \in Im A$ 且 $A$ 是单射 $\Leftrightarrow$ $rank$ $A =$ $rank$ $(A : b) = n$ (结合 ①、④)

　　 ⑥ $A x = b$ 有无穷多解 $\Leftrightarrow$ $b \in Im A$ 且 $A$ 不是单射 $\Leftrightarrow$ $rank$ $A =$ $rank$ $(A : b) < n$ (结合 ②、④)

　　注：以上结果展示了将矩阵和线性变换视作 代数同构 的强大作用。

习题 1　

　　对非齐次线性方程组 $A_{m \times n} x = b$ , 设 $rank A = r$ , 则（）

　　 $(A)$ $r = m$ 时，方程组 $A x = b$ 有解

　　 $(B)$ $r = n$ 时，方程组 $A x = b$ 有唯一解

　　 $(C)$ $n = m$ 时，方程组 $A x = b$ 有唯一解

　　 $(D)$ $r < n$ 时，方程组 $A x = b$ 有无穷多解

　　答案：见末尾¹

定理 3　

　　若 $A \in R^{n \times m}$ , $B \in R^{m \times n}$ , 且 $A B = I_{n}$ , 则 $A$ 作为线性算子是满射， $B$ 作为线性算子是单射。

　　证明：先证 $A$ 是满射。由已知得 $B \in L (R^{n}, R^{m})$ , $A \in L (R^{m}, R^{n})$ . 若 $A$ 不满， $Im A$ 真包含于 $R^{n}$ 中，但是 $A B = I_{n}$ 说明 $\dim (Im A) = n$ , 矛盾。

　　再证 $B$ 是单射。若 $B x = 0$ , 则 $x = I_{n} x = (A B) x = A (B x) = A 0 = 0$ , 说明 $Ker B = {0}$ . $◻$

　　上面的定理有如下两个推论：

矩阵有右逆，当且仅当其线性变换是满射。

矩阵有左逆，当且仅当其线性变换是单射。

2. 矩阵与线性变换的范数

　　线性空间上的范数是指其上的一个满足 非负正定性、正齐次性、三角不等式 的实值函数，记作 $‖ \cdot ‖$ （参见 “范数、赋范空间” 的定义 1 ）. 对 $R^{n}$ 中的一个向量 $x$ , 我们一般将其看成列向量，并用 $| x |$ 来表示它的 欧氏范数 (也称为模), 即 $| x | = \sqrt{x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2}}, \forall x \in R^{n} .$

定义 3　线性变换的范数

　　设 $A \in L (R^{n}, R^{m})$ , 定义 $‖ A ‖ = max_{| x | = 1} | A (x) | = max_{x \neq 0} \frac{| A (x) |}{x} .$

　　注：可以证明 $L (R^{n}, R^{m})$ 中的这个范数不仅满足非负正定性、正齐次性、三角不等式，还满足

　　 $(iv)$ 向量范数相容性： $‖ A (x) ‖ ⩽ ‖ A ‖ | x |$ ;

　　 $(v)$ 复合运算相容性： $‖ B \circ A ‖ ⩽ ‖ B ‖ ‖ A ‖$ .

定义 4　矩阵的范数

　　设 $A \in R^{m \times n}$ , 定义

\begin{matrix} (1) & ‖ A ‖ = max_{| x | = 1} | A x | = max_{x \neq 0} \frac{| A x |}{x} . \end{matrix}

　　注：可以证明矩阵的这个范数不仅满足非负正定性、正齐次性、三角不等式，还满足

　　 $(iv)$ 向量范数相容性： $‖ A x ‖ ⩽ ‖ A ‖ | x |$ ;

　　 $(v)$ 乘法运算相容性： $‖ B A ‖ ⩽ ‖ B ‖ ‖ A ‖$ .

定理 4　

　　矩阵 $A$ 的范数 $‖ A ‖$ 可由以下公式计算： $‖ A ‖ = \sqrt{μ_{1}},$ 其中 $μ_{1}$ 为矩阵 $A^{T} A$ 的最大本征值。

　　注：矩阵按定义 4 所定义的范数称为 矩阵的标准范数. 除此之外，矩阵 $A \in R^{m \times n}$ 还常用以下范数：矩阵按（式 1 ）定义的范数称为矩阵的标准范数。除此之外，矩阵 $A \in R^{m \times n}$ 常用以下范数： ${‖ A ‖}_{1} = max_{1 ⩽ j ⩽ m} {\sum_{i = 1}^{n} | a_{i j} |}, {‖ A ‖}_{\infty} = max_{1 ⩽ i ⩽ n} {\sum_{j = 1}^{n} | a_{i j} |}, {‖ A ‖}_{F} = {(\sum_{i, j = 1}^{n} | a_{i j} |^{2})}^{\frac{1}{2}}$ 分别称为矩阵的 列和范数、行和范数、Frobenius 范数 (简称 F 范数).

　　可以证明，矩阵的范数自然会满足（也应该满足）非负正定性、正齐次性、三角不等式，但是却不一定要满足 $(iv)$ 和 $(v)$ 。比如，矩阵的列和范数与行和范数都不满足 $(iv)$ ，但满足 $(v)$ ；而矩阵的 F 范数则既满足 $(iv)$ , 也满足 $(v)$ .

定理 5　

　　任意两个矩阵的范数是相互等价的。

　　注：等价范数的定义参见《范数、赋范空间》一节。

定理 6　

　　设 $A$ 是 $n \times n$ 方阵，且 $‖ A ‖ < 1$ , 则矩阵 $I - A$ 可逆，且 $I - A = \sum_{k = 0}^{\infty} A^{k},$ 即 $lim_{k \to \infty} ‖ I - A - \sum_{i = 0}^{k} A^{i} ‖ = 0.$ 并且此时成立不等式 $‖ (I - A)^{- 1} ‖ ⩽ \frac{1}{1 - ‖ A ‖} .$

　　注：这在形式上与等比级数非常像，比如 $\frac{1}{1 - x} = 1 + x + x^{2} + \dots + x^{k} + \dots = \sum_{k = 0}^{\infty} A^{k} | x | < 1,$

推论 1　

　　可逆矩阵的小扰动仍是可逆矩阵；等价地，可逆线性变换的小扰动仍是可逆线性变换。

　　注: 若矩阵 $A \in R^{n \times n}$ 可逆，取矩阵 $P \in R^{n \times n}$ 使其范数小于 $\frac{1}{‖ A^{- 1} ‖}$ , 则 $‖ A^{- 1} P ‖ ⩽ ‖ A^{- 1} ‖ ‖ P ‖ < ‖ A^{- 1} ‖ \cdot \frac{1}{‖ A^{- 1} ‖} = 1,$ 那么根据定理 1 知 $I + A^{- 1} P$ 可逆，从而 $A + P = A (I + A^{- 1} P)$ 也可逆。

推论 2　

　　可逆矩阵函数在连续点附近仍是可逆的。

1. ^ 选 $A$

致读者：小时百科一直以来坚持所有内容免费无广告，这导致我们处于严重的亏损状态。长此以往很可能会最终导致我们不得不选择大量广告以及内容付费等。因此，我们请求广大读者热心打赏 ，使网站得以健康发展。如果看到这条信息的每位读者能慷慨打赏 20 元，我们一周就能脱离亏损，并在接下来的一年里向所有读者继续免费提供优质内容。但遗憾的是只有不到 1% 的读者愿意捐款，他们的付出帮助了 99% 的读者免费获取知识，我们在此表示感谢。

线性映射与矩阵的代数关系

1. 矩阵的秩与线性变换的联系

定义 1 矩阵的秩

定义 2 线性变换的秩

定理 1 像空间 = 列空间

定理 2 线性方程组的解的结构性定理

习题 1

定理 3

2. 矩阵与线性变换的范数

定义 3 线性变换的范数

定义 4 矩阵的范数

定理 4

定理 5

定理 6

推论 1

推论 2

定义 1　矩阵的秩

定义 2　线性变换的秩

定理 1　像空间 $=$ 列空间

定理 2　线性方程组的解的结构性定理

习题 1　

定理 3　

定义 3　线性变换的范数

定义 4　矩阵的范数

定理 4　

定理 5　

定理 6　

推论 1　

推论 2　