矩阵的秩

                     

贡献者： 叶月2_; addis; JierPeter; ACertainUser

预备知识 1　行列式，线性相关、线性无关

　　

未完成：列向量（或者矩阵）版本的线性相关、线性无关

1. 秩的概念

定义 1　线性相关性

　　 给定一组 $n\times m$ 的矩阵 $\mathcal{V}_1, \mathcal{V}_2, \cdots, \mathcal{V}_n$，如果存在不全为零的系数 $a_1, a_2, \cdots, a_n$ 使得 $a_1\mathcal{V}_1+a_2\mathcal{V}_2+\cdots+a_n\mathcal{V}_n$ 是零矩阵，那么称这组矩阵线性相关（linearly dependent）；否则，称其线性无关（linearly independent）。

　　 线性相关性的概念源自向量坐标的唯一性。以几何向量为例，当给定一组向量 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2, \cdots, \boldsymbol{\mathbf{v}} _n$，其线性组合 $a_1 \boldsymbol{\mathbf{v}} _1+a_2 \boldsymbol{\mathbf{v}} _2+\cdots+a_n \boldsymbol{\mathbf{v}} _n$ 也是一个向量，我们可以称列矩阵 $ \begin{pmatrix}a_1&a_2&\cdots&a_n\end{pmatrix} ^{\mathrm{T}}$ 为该向量的坐标。两个向量相加后的坐标，就是两个向量的坐标矩阵直接相加。零向量显然有一个坐标，即零矩阵 $ \begin{pmatrix}0&0&\cdots&0\end{pmatrix} ^{\mathrm{T}}$；如果零向量还有一个非零的坐标 $ \begin{pmatrix}x_1&x_2&\cdots&x_n\end{pmatrix} ^{\mathrm{T}}$，那么任何向量也都会有无穷多个坐标。比如说，有一个坐标为 $ \begin{pmatrix}1&2&\cdots&n\end{pmatrix} ^{\mathrm{T}}$ 的向量，其坐标值也可以是 $ \begin{pmatrix}1+x_1&2+x_2&\cdots&n+x_n\end{pmatrix} ^{\mathrm{T}}$，乃至 $ \begin{pmatrix}1+2x_1&2+2x_2&\cdots&n+nx_n\end{pmatrix} ^{\mathrm{T}}$。各向量的坐标唯一，当且仅当零向量的坐标唯一，而零向量的坐标唯一等价于 “对于不全为零的系数 $a_1, a_2, \cdots, a_n$，线性组合 $a_1 \boldsymbol{\mathbf{v}} _1+a_2 \boldsymbol{\mathbf{v}} _2+\cdots+a_n \boldsymbol{\mathbf{v}} _n$ 不可能是零向量”，这便是线性无关的定义。

　　 上段所解释的是几何向量线性相关性的定义，但把对象从几何向量改为 $n\times m$ 矩阵，也可以类似推广出矩阵线性相关性的定义。

定义 2　矩阵的行秩、列秩

　　 定义矩阵的列秩（column rank）等于其线性无关的列数，行秩（row rank）等于线性无关的行数。

定理 1　

　　 初等变换不改变矩阵的行秩与列秩。

　　 证明：

　　 转置矩阵后有：初等行变换不改变行秩 $\Leftrightarrow$ 初等列变换不改变列秩，以及初等行变换不改变列秩 $\Leftrightarrow$ 初等列变换不改变矩阵行秩。因此我们只需要分别证明一种情况。

　　 首先证明初等行变换不改变行秩。易知交换若干行不改变行秩。设行秩为 $m$，这意味着有 $m$ 行线性无关，设这部分行向量组为 $ \boldsymbol{\mathbf{e}} _1, \boldsymbol{\mathbf{e}} _2... \boldsymbol{\mathbf{e}} _m$。则 i 行的 k 倍加到 j 行后行向量组为 $ \boldsymbol{\mathbf{e}} _1... \boldsymbol{\mathbf{e}} _i,...k \boldsymbol{\mathbf{e}} _i+ \boldsymbol{\mathbf{e}} _j$，合并 $ \boldsymbol{\mathbf{e}} _i$ 项，则行变换不改变 $\{ \boldsymbol{\mathbf{e}} _i\}^m_{i=1}$ 的线性相关性。易证将某行乘以 $k$ 倍也不改变行秩。

　　 然后证明初等行变换不改变列秩。设该初等变换矩阵为 $M$，列向量组为 $\{ \boldsymbol{\mathbf{\theta}} _i\}$，列秩为 $n$ 相当于有 $n$ 列线性无关，设为前 n 列并取这部分进行观察。

　　 则对该向量组进行初等行变换相当于：$M( \boldsymbol{\mathbf{\theta}} _1, \boldsymbol{\mathbf{\theta}} _2... \boldsymbol{\mathbf{\theta}} _n)=(A \boldsymbol{\mathbf{\theta}} _1,A \boldsymbol{\mathbf{\theta}} _2...A \boldsymbol{\mathbf{\theta}} _n...)$。由于初等变换可逆，则这是一个一一映射，$\{A \boldsymbol{\mathbf{\theta}} _i\}_{i=1}^n$ 依然线性无关。所以初等行变换不改变列秩。

　　 经过初等变换，我们总可以把任意矩阵 $M$ 变换为对角矩阵，这个过程为：

\begin{equation} P_i...P_2P_1MQ_1,Q_2...Q_s= \left(\begin{array}{lllll} 1 & & & & \\ & 1 & & & \\ & & 1 & & \\ & & & \ddots & \\ & & & & 0 \end{array}\right)~. \end{equation}

　　 则可知矩阵的行秩等于列秩，因此可以被定义为矩阵的秩。

定义 3　

　　 由于任意的矩阵的行秩和列秩相等，因此可以直接称之为矩阵的秩（rank），记为 $ \operatorname {rank}( \boldsymbol{\mathbf{A}} )$。由于矩阵是线性映射在特定基下的表示，设任意向量 $ \boldsymbol{\mathbf{x}} =x^i \boldsymbol{\mathbf{e}} _i$，矩阵为线性映射 $f$ 的表示，则第 $j$ 列为 $f( \boldsymbol{\mathbf{e}} _j)$ 且有 $M \boldsymbol{\mathbf{x}} =f(x^i \boldsymbol{\mathbf{e}} _i)=x^if( \boldsymbol{\mathbf{e}} _i)$。所以矩阵的秩等价于象的维度。

2. 秩的性质

定理 2　

　　 根据定义，一个矩阵的秩 $\mathcal R$ 必定小于或等于矩阵的行数 $M$ 以及列数 $N$（取较小者）：

\begin{equation} \mathcal R\leq \min (M, N)~. \end{equation}

例 1　

　　 矩阵

\begin{equation} \begin{pmatrix}1 & 1 & 4\\ 1 & 0 & 2\\ 0 & 1 & 2\end{pmatrix} ~ \end{equation}
中，如果我们把矩阵看做是三个列矢量 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2, \boldsymbol{\mathbf{v}} _3$ 组成，那么 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2$ 显然是线性无关的（不共线），而 $ \boldsymbol{\mathbf{v}} _3$ 可以表示为 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2$ 的线性组合，即
\begin{equation} \boldsymbol{\mathbf{v}} _3 = 2 \boldsymbol{\mathbf{v}} _1 + 2 \boldsymbol{\mathbf{v}} _2~, \end{equation}
所以它们之中只有两个矢量线性无关，该矩阵的秩为 2。

　　 当然，我们也可以认为 $ \boldsymbol{\mathbf{v}} _2, \boldsymbol{\mathbf{v}} _3$ 线性无关，排除 $ \boldsymbol{\mathbf{v}} _1$，同样得到秩为 2。一般来说，若有

\begin{equation} \sum_i c_i \boldsymbol{\mathbf{v}} _i = \boldsymbol{\mathbf{0}} \qquad (c_i \ne 0)~. \end{equation}
我们就可以把任意一个 $ \boldsymbol{\mathbf{v}} _i$ 排除，再次求解上式，直到上式无解，那么可以确定剩下的矢量就是线性无关的，他们的数量就是矩阵的秩。这种方法计算量过大，后面我们会介绍更简单的方法。

　　 关于秩，有两个常用性质：

定理 3　

　　 对于矩阵 $A,B$ 有：

\begin{equation} \mathcal R(AB)\le \operatorname {min}\{\mathcal R(A),\mathcal R(B)\}~. \end{equation}

　　 证明：1

　　 设行秩为 $L_r$，列秩为 $L_c$。 设 $ \boldsymbol{\mathbf{x}} $ 为任意列向量，任意列向量 $ \boldsymbol{\mathbf{y}} \in \operatorname {Im}AB$，即 $ \boldsymbol{\mathbf{y}} =AB \boldsymbol{\mathbf{x}} $。所以 $ \boldsymbol{\mathbf{y}} \in \operatorname {Im}{A}$（象空间为列空间），则 $ L_c(AB)\leq L_c(A)$。

　　 设 $ \boldsymbol{\mathbf{z}} $ 为任意行向量，同理得：$ \boldsymbol{\mathbf{z}} AB= \boldsymbol{\mathbf{y}} ^T\in \operatorname {Im}B$（象空间为行空间），所以 $L_r(AB)\leq L_r(B)$。 又因为 $L_c=L_r=\mathcal R$，综合上述得：$\mathcal R(AB)\le \operatorname {min}\{\mathcal R(A),\mathcal R(B)\}$。

定理 4　

　　 对于方阵 $A,B$，若有 $AB=0$，则 $\mathcal R(A)+\mathcal R(B)\le n$。

　　 证明：

　　 设 $ \boldsymbol{\mathbf{x}} $ 为任意向量，则 $AB \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $，也就是说 $ \operatorname {Im}B= \operatorname {ker}A$。结合秩定理：$ \operatorname {dim}V= \operatorname {dim} \operatorname {Im}f+ \operatorname {ker}f$ 及象维度等于矩阵的秩便可得该定理。

定义 4　满秩矩阵

　　 若 $n$ 阶方阵的秩为 $n$，我们就称其为满秩矩阵（full rank matrix）。满秩矩阵意味着矩阵中所有行（列）都线性无关。

　　 从运算可知，n 阶方阵是 n 维空间的线性变换，因此若方阵满秩，也可称该线性变换满秩。

　　 判断一个方阵是否为满秩矩阵的一种常见方法是计算方阵的行列式，若结果不为零，则矩阵是满秩的，否则不是（定理 7 ）。注意非满秩的情况下行列式并不能判断秩具体是多少。另一种更简单的方法是使用下面的高斯消元法。

3. 高斯消元法计算秩

预备知识 2　高斯消元法

　　 要确定任意矩阵秩的大小，我们可以先用高斯消元法将矩阵变换为梯形矩阵。矩阵的秩数就是梯形矩阵中不为零的行数。这是因为行变换不会改变矩阵的秩。

　　 证明：如果通过行变换可以把矩阵的某行变为零，那么就说明该行必定可以表示为其他行的线性组合；而梯形矩阵中每一个不为零的行都无法通过行变换变为零，所以他们都是线性无关的（具体证明留作习题）。证毕。

例 2　

　　 我们用高斯消元法计算式 3 的秩，该矩阵经过行变换 $ \boldsymbol{\mathbf{r}} _2 \leftrightarrow \boldsymbol{\mathbf{r}} _1$，$ \boldsymbol{\mathbf{r}} _2 - \boldsymbol{\mathbf{r}} _1$，$ \boldsymbol{\mathbf{r}} _3 - \boldsymbol{\mathbf{r}} _2$ 后变为梯形矩阵

\begin{equation} \begin{pmatrix}1 & 0 & 2\\ 0 & 1 & 2\\ 0 & 0 & 0\end{pmatrix} ~ \end{equation}
有两个不为零的行，所以矩阵的秩为 2。

　　 同理，我们也可以把矩阵先做转置再用高斯消元法计算其线性无关的列。这么做可以验证给定矩阵的行秩等于列秩。

1. ^ 另一种思路的证明可见 Jier Peter 的《代数学基础》，把 $A,B$ 都表示为包含初等变换及对角矩阵的形式即可。$A=...P^{-1}_iI_AQ^{-1}_s...$。

                     

© 小时科技 保留一切权利