矩阵的秩

贡献者：叶月2_; addis; JierPeter; ACertainUser

预备知识 1　行列式，线性相关、线性无关

未完成：列向量（或者矩阵）版本的线性相关、线性无关

1. 秩的概念

定义 1　线性相关性

　　给定一组 $n \times m$ 的矩阵 $V_{1}, V_{2}, \dots, V_{n}$ ，如果存在不全为零的系数 $a_{1}, a_{2}, \dots, a_{n}$ 使得 $a_{1} V_{1} + a_{2} V_{2} + \dots + a_{n} V_{n}$ 是零矩阵，那么称这组矩阵线性相关（linearly dependent）；否则，称其线性无关（linearly independent）。

　　线性相关性的概念源自向量坐标的唯一性。以几何向量为例，当给定一组向量 $v_{1}, v_{2}, \dots, v_{n}$ ，其线性组合 $a_{1} v_{1} + a_{2} v_{2} + \dots + a_{n} v_{n}$ 也是一个向量，我们可以称列矩阵 ${(\begin{matrix} a_{1} & a_{2} & \dots & a_{n} \end{matrix})}^{T}$ 为该向量的坐标。两个向量相加后的坐标，就是两个向量的坐标矩阵直接相加。零向量显然有一个坐标，即零矩阵 ${(\begin{matrix} 0 & 0 & \dots & 0 \end{matrix})}^{T}$ ；如果零向量还有一个非零的坐标 ${(\begin{matrix} x_{1} & x_{2} & \dots & x_{n} \end{matrix})}^{T}$ ，那么任何向量也都会有无穷多个坐标。比如说，有一个坐标为 ${(\begin{matrix} 1 & 2 & \dots & n \end{matrix})}^{T}$ 的向量，其坐标值也可以是 ${(\begin{matrix} 1 + x_{1} & 2 + x_{2} & \dots & n + x_{n} \end{matrix})}^{T}$ ，乃至 ${(\begin{matrix} 1 + 2 x_{1} & 2 + 2 x_{2} & \dots & n + n x_{n} \end{matrix})}^{T}$ 。各向量的坐标唯一，当且仅当零向量的坐标唯一，而零向量的坐标唯一等价于 “对于不全为零的系数 $a_{1}, a_{2}, \dots, a_{n}$ ，线性组合 $a_{1} v_{1} + a_{2} v_{2} + \dots + a_{n} v_{n}$ 不可能是零向量”，这便是线性无关的定义。

　　上段所解释的是几何向量线性相关性的定义，但把对象从几何向量改为 $n \times m$ 矩阵，也可以类似推广出矩阵线性相关性的定义。

定义 2　矩阵的行秩、列秩

　　定义矩阵的列秩（column rank）等于其线性无关的列数，行秩（row rank）等于线性无关的行数。

定理 1　

　　初等变换不改变矩阵的行秩与列秩。

　　 证明：

　　转置矩阵后有：初等行变换不改变行秩 $\Leftrightarrow$ 初等列变换不改变列秩，以及初等行变换不改变列秩 $\Leftrightarrow$ 初等列变换不改变矩阵行秩。因此我们只需要分别证明一种情况。

　　首先证明初等行变换不改变行秩。易知交换若干行不改变行秩。设行秩为 $m$ ，这意味着有 $m$ 行线性无关，设这部分行向量组为 $e_{1}, e_{2} . . . e_{m}$ 。则 i 行的 k 倍加到 j 行后行向量组为 $e_{1} . . . e_{i}, . . . k e_{i} + e_{j}$ ，合并 $e_{i}$ 项，则行变换不改变 ${e_{i}}_{i = 1}^{m}$ 的线性相关性。易证将某行乘以 $k$ 倍也不改变行秩。

　　然后证明初等行变换不改变列秩。设该初等变换矩阵为 $M$ ，列向量组为 ${θ_{i}}$ ，列秩为 $n$ 相当于有 $n$ 列线性无关，设为前 n 列并取这部分进行观察。

　　则对该向量组进行初等行变换相当于： $M (θ_{1}, θ_{2} . . . θ_{n}) = (A θ_{1}, A θ_{2} . . . A θ_{n} . . .)$ 。由于初等变换可逆，则这是一个一一映射， ${A θ_{i}}_{i = 1}^{n}$ 依然线性无关。所以初等行变换不改变列秩。

　　经过初等变换，我们总可以把任意矩阵 $M$ 变换为对角矩阵，这个过程为：

\begin{matrix} (1) & P_{i} . . . P_{2} P_{1} M Q_{1}, Q_{2} . . . Q_{s} = (\begin{array}{lllll} 1 \\ 1 \\ 1 \\ ⋱ \\ 0 \end{array}) . \end{matrix}

　　则可知矩阵的行秩等于列秩，因此可以被定义为矩阵的秩。

定义 3　

　　由于任意的矩阵的行秩和列秩相等，因此可以直接称之为矩阵的秩（rank），记为 $rank (A)$ 。由于矩阵是线性映射在特定基下的表示，设任意向量 $x = x^{i} e_{i}$ ，矩阵为线性映射 $f$ 的表示，则第 $j$ 列为 $f (e_{j})$ 且有 $M x = f (x^{i} e_{i}) = x^{i} f (e_{i})$ 。所以矩阵的秩等价于象的维度。

2. 秩的性质

定理 2　

　　根据定义，一个矩阵的秩 $R$ 必定小于或等于矩阵的行数 $M$ 以及列数 $N$ （取较小者）：

\begin{matrix} (2) & R \leq min (M, N) . \end{matrix}

例 1　

　　矩阵

\begin{matrix} (3) & (\begin{matrix} 1 & 1 & 4 \\ 1 & 0 & 2 \\ 0 & 1 & 2 \end{matrix}) \end{matrix}

中，如果我们把矩阵看做是三个列矢量

v_{1}, v_{2}, v_{3}

组成，那么

v_{1}, v_{2}

显然是线性无关的（不共线），而

v_{3}

可以表示为

v_{1}, v_{2}

的线性组合，即

\begin{matrix} (4) & v_{3} = 2 v_{1} + 2 v_{2}, \end{matrix}

所以它们之中只有两个矢量线性无关，该矩阵的秩为 2。

　　当然，我们也可以认为 $v_{2}, v_{3}$ 线性无关，排除 $v_{1}$ ，同样得到秩为 2。一般来说，若有

\begin{matrix} (5) & \sum_{i} c_{i} v_{i} = 0 (c_{i} \neq 0) . \end{matrix}

我们就可以把任意一个

v_{i}

排除，再次求解上式，直到上式无解，那么可以确定剩下的矢量就是线性无关的，他们的数量就是矩阵的秩。这种方法计算量过大，后面我们会介绍更简单的方法。

　　关于秩，有两个常用性质：

定理 3　

　　对于矩阵 $A, B$ 有：

\begin{matrix} (6) & R (A B) \leq \min {R (A), R (B)} . \end{matrix}

　　 证明：¹

　　设行秩为 $L_{r}$ ，列秩为 $L_{c}$ 。设 $x$ 为任意列向量，任意列向量 $y \in Im A B$ ，即 $y = A B x$ 。所以 $y \in Im A$ （象空间为列空间），则 $L_{c} (A B) \leq L_{c} (A)$ 。

　　设 $z$ 为任意行向量，同理得： $z A B = y^{T} \in Im B$ （象空间为行空间），所以 $L_{r} (A B) \leq L_{r} (B)$ 。又因为 $L_{c} = L_{r} = R$ ，综合上述得： $R (A B) \leq \min {R (A), R (B)}$ 。

定理 4　

　　对于方阵 $A, B$ ，若有 $A B = 0$ ，则 $R (A) + R (B) \leq n$ 。

　　 证明：

　　设 $x$ 为任意向量，则 $A B x = 0$ ，也就是说 $Im B = \ker A$ 。结合秩定理： $\dim V = \dim Im f + \ker f$ 及象维度等于矩阵的秩便可得该定理。

定义 4　满秩矩阵

　　若 $n$ 阶方阵的秩为 $n$ ，我们就称其为满秩矩阵（full rank matrix）。满秩矩阵意味着矩阵中所有行（列）都线性无关。

　　从运算可知，n 阶方阵是 n 维空间的线性变换，因此若方阵满秩，也可称该线性变换满秩。

　　判断一个方阵是否为满秩矩阵的一种常见方法是计算方阵的行列式，若结果不为零，则矩阵是满秩的，否则不是（定理 7 ）。注意非满秩的情况下行列式并不能判断秩具体是多少。另一种更简单的方法是使用下面的高斯消元法。

3. 高斯消元法计算秩

预备知识 2　高斯消元法

　　要确定任意矩阵秩的大小，我们可以先用高斯消元法将矩阵变换为梯形矩阵。矩阵的秩数就是梯形矩阵中不为零的行数。这是因为行变换不会改变矩阵的秩。

　　证明：如果通过行变换可以把矩阵的某行变为零，那么就说明该行必定可以表示为其他行的线性组合；而梯形矩阵中每一个不为零的行都无法通过行变换变为零，所以他们都是线性无关的（具体证明留作习题）。证毕。

例 2　

　　我们用高斯消元法计算式 3 的秩，该矩阵经过行变换 $r_{2} \leftrightarrow r_{1}$ ， $r_{2} - r_{1}$ ， $r_{3} - r_{2}$ 后变为梯形矩阵

\begin{matrix} (7) & (\begin{matrix} 1 & 0 & 2 \\ 0 & 1 & 2 \\ 0 & 0 & 0 \end{matrix}) \end{matrix}

有两个不为零的行，所以矩阵的秩为 2。

　　同理，我们也可以把矩阵先做转置再用高斯消元法计算其线性无关的列。这么做可以验证给定矩阵的行秩等于列秩。

1. ^ 另一种思路的证明可见 Jier Peter 的《代数学基础》，把 $A, B$ 都表示为包含初等变换及对角矩阵的形式即可。 $A = . . . P_{i}^{- 1} I_{A} Q_{s}^{- 1} . . .$ 。

矩阵的秩

1. 秩的概念

定义 1 线性相关性

定义 2 矩阵的行秩、列秩

定理 1

定义 3

2. 秩的性质

定理 2

例 1

定理 3

定理 4

定义 4 满秩矩阵

3. 高斯消元法计算秩

例 2

定义 1　线性相关性

定义 2　矩阵的行秩、列秩

定理 1　

定义 3　

定理 2　

例 1　

定理 3　

定理 4　

定义 4　满秩矩阵

例 2　