矩阵的秩

                     

贡献者: 叶月2_; addis; JierPeter; ACertainUser

预备知识 1 行列式线性相关、线性无关

  

未完成:列向量(或者矩阵)版本的线性相关、线性无关

1. 秩的概念

定义 1 线性相关性

   给定一组 $n\times m$ 的矩阵 $\mathcal{V}_1, \mathcal{V}_2, \cdots, \mathcal{V}_n$,如果存在不全为零的系数 $a_1, a_2, \cdots, a_n$ 使得 $a_1\mathcal{V}_1+a_2\mathcal{V}_2+\cdots+a_n\mathcal{V}_n$ 是零矩阵,那么称这组矩阵线性相关(linearly dependent);否则,称其线性无关(linearly independent)

   线性相关性的概念源自向量坐标的唯一性。以几何向量为例,当给定一组向量 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2, \cdots, \boldsymbol{\mathbf{v}} _n$,其线性组合 $a_1 \boldsymbol{\mathbf{v}} _1+a_2 \boldsymbol{\mathbf{v}} _2+\cdots+a_n \boldsymbol{\mathbf{v}} _n$ 也是一个向量,我们可以称列矩阵 $ \begin{pmatrix}a_1&a_2&\cdots&a_n\end{pmatrix} ^{\mathrm{T}}$ 为该向量的坐标。两个向量相加后的坐标,就是两个向量的坐标矩阵直接相加。零向量显然有一个坐标,即零矩阵 $ \begin{pmatrix}0&0&\cdots&0\end{pmatrix} ^{\mathrm{T}}$;如果零向量还有一个非零的坐标 $ \begin{pmatrix}x_1&x_2&\cdots&x_n\end{pmatrix} ^{\mathrm{T}}$,那么任何向量也都会有无穷多个坐标。比如说,有一个坐标为 $ \begin{pmatrix}1&2&\cdots&n\end{pmatrix} ^{\mathrm{T}}$ 的向量,其坐标值也可以是 $ \begin{pmatrix}1+x_1&2+x_2&\cdots&n+x_n\end{pmatrix} ^{\mathrm{T}}$,乃至 $ \begin{pmatrix}1+2x_1&2+2x_2&\cdots&n+nx_n\end{pmatrix} ^{\mathrm{T}}$。各向量的坐标唯一,当且仅当零向量的坐标唯一,而零向量的坐标唯一等价于 “对于不全为零的系数 $a_1, a_2, \cdots, a_n$,线性组合 $a_1 \boldsymbol{\mathbf{v}} _1+a_2 \boldsymbol{\mathbf{v}} _2+\cdots+a_n \boldsymbol{\mathbf{v}} _n$ 不可能是零向量”,这便是线性无关的定义。

   上段所解释的是几何向量线性相关性的定义,但把对象从几何向量改为 $n\times m$ 矩阵,也可以类似推广出矩阵线性相关性的定义。

定义 2 矩阵的行秩、列秩

   定义矩阵列秩(column rank)等于其线性无关的列数,行秩(row rank)等于线性无关的行数。

定理 1 

   初等变换不改变矩阵的行秩与列秩。

   证明:

   转置矩阵后有:初等行变换不改变行秩 $\Leftrightarrow$ 初等列变换不改变列秩,以及初等行变换不改变列秩 $\Leftrightarrow$ 初等列变换不改变矩阵行秩。因此我们只需要分别证明一种情况。

   首先证明初等行变换不改变行秩。易知交换若干行不改变行秩。设行秩为 $m$,这意味着有 $m$ 行线性无关,设这部分行向量组为 $ \boldsymbol{\mathbf{e}} _1, \boldsymbol{\mathbf{e}} _2... \boldsymbol{\mathbf{e}} _m$。则 i 行的 k 倍加到 j 行后行向量组为 $ \boldsymbol{\mathbf{e}} _1... \boldsymbol{\mathbf{e}} _i,...k \boldsymbol{\mathbf{e}} _i+ \boldsymbol{\mathbf{e}} _j$,合并 $ \boldsymbol{\mathbf{e}} _i$ 项,则行变换不改变 $\{ \boldsymbol{\mathbf{e}} _i\}^m_{i=1}$ 的线性相关性。易证将某行乘以 $k$ 倍也不改变行秩。

   然后证明初等行变换不改变列秩。设该初等变换矩阵为 $M$,列向量组为 $\{ \boldsymbol{\mathbf{\theta}} _i\}$,列秩为 $n$ 相当于有 $n$ 列线性无关,设为前 n 列并取这部分进行观察。

   则对该向量组进行初等行变换相当于:$M( \boldsymbol{\mathbf{\theta}} _1, \boldsymbol{\mathbf{\theta}} _2... \boldsymbol{\mathbf{\theta}} _n)=(A \boldsymbol{\mathbf{\theta}} _1,A \boldsymbol{\mathbf{\theta}} _2...A \boldsymbol{\mathbf{\theta}} _n...)$。由于初等变换可逆,则这是一个一一映射,$\{A \boldsymbol{\mathbf{\theta}} _i\}_{i=1}^n$ 依然线性无关。所以初等行变换不改变列秩。

   经过初等变换,我们总可以把任意矩阵 $M$ 变换为对角矩阵,这个过程为:

\begin{equation} P_i...P_2P_1MQ_1,Q_2...Q_s= \left(\begin{array}{lllll} 1 & & & & \\ & 1 & & & \\ & & 1 & & \\ & & & \ddots & \\ & & & & 0 \end{array}\right)~. \end{equation}

   则可知矩阵的行秩等于列秩,因此可以被定义为矩阵的秩。

定义 3 

   由于任意的矩阵的行秩和列秩相等,因此可以直接称之为矩阵的秩(rank),记为 $ \operatorname {rank}( \boldsymbol{\mathbf{A}} )$。由于矩阵是线性映射在特定基下的表示,设任意向量 $ \boldsymbol{\mathbf{x}} =x^i \boldsymbol{\mathbf{e}} _i$,矩阵为线性映射 $f$ 的表示,则第 $j$ 列为 $f( \boldsymbol{\mathbf{e}} _j)$ 且有 $M \boldsymbol{\mathbf{x}} =f(x^i \boldsymbol{\mathbf{e}} _i)=x^if( \boldsymbol{\mathbf{e}} _i)$。所以矩阵的秩等价于象的维度

2. 秩的性质

定理 2 

   根据定义,一个矩阵的秩 $\mathcal R$ 必定小于或等于矩阵的行数 $M$ 以及列数 $N$(取较小者):

\begin{equation} \mathcal R\leq \min (M, N)~. \end{equation}

例 1 

   矩阵

\begin{equation} \begin{pmatrix}1 & 1 & 4\\ 1 & 0 & 2\\ 0 & 1 & 2\end{pmatrix} ~ \end{equation}
中,如果我们把矩阵看做是三个列矢量 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2, \boldsymbol{\mathbf{v}} _3$ 组成,那么 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2$ 显然是线性无关的(不共线),而 $ \boldsymbol{\mathbf{v}} _3$ 可以表示为 $ \boldsymbol{\mathbf{v}} _1, \boldsymbol{\mathbf{v}} _2$ 的线性组合,即
\begin{equation} \boldsymbol{\mathbf{v}} _3 = 2 \boldsymbol{\mathbf{v}} _1 + 2 \boldsymbol{\mathbf{v}} _2~, \end{equation}
所以它们之中只有两个矢量线性无关,该矩阵的秩为 2。

   当然,我们也可以认为 $ \boldsymbol{\mathbf{v}} _2, \boldsymbol{\mathbf{v}} _3$ 线性无关,排除 $ \boldsymbol{\mathbf{v}} _1$,同样得到秩为 2。一般来说,若有

\begin{equation} \sum_i c_i \boldsymbol{\mathbf{v}} _i = \boldsymbol{\mathbf{0}} \qquad (c_i \ne 0)~. \end{equation}
我们就可以把任意一个 $ \boldsymbol{\mathbf{v}} _i$ 排除,再次求解上式,直到上式无解,那么可以确定剩下的矢量就是线性无关的,他们的数量就是矩阵的秩。这种方法计算量过大,后面我们会介绍更简单的方法。

   关于秩,有两个常用性质:

定理 3 

   对于矩阵 $A,B$ 有:

\begin{equation} \mathcal R(AB)\le \operatorname {min}\{\mathcal R(A),\mathcal R(B)\}~. \end{equation}

   证明:1

   设行秩为 $L_r$,列秩为 $L_c$。 设 $ \boldsymbol{\mathbf{x}} $ 为任意列向量,任意列向量 $ \boldsymbol{\mathbf{y}} \in \operatorname {Im}AB$,即 $ \boldsymbol{\mathbf{y}} =AB \boldsymbol{\mathbf{x}} $。所以 $ \boldsymbol{\mathbf{y}} \in \operatorname {Im}{A}$(象空间为列空间),则 $ L_c(AB)\leq L_c(A)$。

   设 $ \boldsymbol{\mathbf{z}} $ 为任意行向量,同理得:$ \boldsymbol{\mathbf{z}} AB= \boldsymbol{\mathbf{y}} ^T\in \operatorname {Im}B$(象空间为行空间),所以 $L_r(AB)\leq L_r(B)$。 又因为 $L_c=L_r=\mathcal R$,综合上述得:$\mathcal R(AB)\le \operatorname {min}\{\mathcal R(A),\mathcal R(B)\}$。

定理 4 

   对于方阵 $A,B$,若有 $AB=0$,则 $\mathcal R(A)+\mathcal R(B)\le n$。

   证明:

   设 $ \boldsymbol{\mathbf{x}} $ 为任意向量,则 $AB \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $,也就是说 $ \operatorname {Im}B= \operatorname {ker}A$。结合秩定理:$ \operatorname {dim}V= \operatorname {dim} \operatorname {Im}f+ \operatorname {ker}f$ 及象维度等于矩阵的秩便可得该定理。

定义 4 满秩矩阵

   若 $n$ 阶方阵的秩为 $n$,我们就称其为满秩矩阵(full rank matrix)。满秩矩阵意味着矩阵中所有行(列)都线性无关。

   从运算可知,n 阶方阵是 n 维空间的线性变换,因此若方阵满秩,也可称该线性变换满秩。

   判断一个方阵是否为满秩矩阵的一种常见方法是计算方阵的行列式,若结果不为零,则矩阵是满秩的,否则不是(定理 7 )。注意非满秩的情况下行列式并不能判断秩具体是多少。另一种更简单的方法是使用下面的高斯消元法。

3. 高斯消元法计算秩

预备知识 2 高斯消元法

   要确定任意矩阵秩的大小,我们可以先用高斯消元法将矩阵变换为梯形矩阵。矩阵的秩数就是梯形矩阵中不为零的行数。这是因为行变换不会改变矩阵的秩。

   证明:如果通过行变换可以把矩阵的某行变为零,那么就说明该行必定可以表示为其他行的线性组合;而梯形矩阵中每一个不为零的行都无法通过行变换变为零,所以他们都是线性无关的(具体证明留作习题)。证毕。

例 2 

   我们用高斯消元法计算式 3 的秩,该矩阵经过行变换 $ \boldsymbol{\mathbf{r}} _2 \leftrightarrow \boldsymbol{\mathbf{r}} _1$,$ \boldsymbol{\mathbf{r}} _2 - \boldsymbol{\mathbf{r}} _1$,$ \boldsymbol{\mathbf{r}} _3 - \boldsymbol{\mathbf{r}} _2$ 后变为梯形矩阵

\begin{equation} \begin{pmatrix}1 & 0 & 2\\ 0 & 1 & 2\\ 0 & 0 & 0\end{pmatrix} ~ \end{equation}
有两个不为零的行,所以矩阵的秩为 2。

   同理,我们也可以把矩阵先做转置再用高斯消元法计算其线性无关的列。这么做可以验证给定矩阵的行秩等于列秩。


1. ^ 另一种思路的证明可见 Jier Peter 的《代数学基础》,把 $A,B$ 都表示为包含初等变换及对角矩阵的形式即可。$A=...P^{-1}_iI_AQ^{-1}_s...$。


致读者: 小时百科一直以来坚持所有内容免费无广告,这导致我们处于严重的亏损状态。 长此以往很可能会最终导致我们不得不选择大量广告以及内容付费等。 因此,我们请求广大读者热心打赏 ,使网站得以健康发展。 如果看到这条信息的每位读者能慷慨打赏 20 元,我们一周就能脱离亏损, 并在接下来的一年里向所有读者继续免费提供优质内容。 但遗憾的是只有不到 1% 的读者愿意捐款, 他们的付出帮助了 99% 的读者免费获取知识, 我们在此表示感谢。

                     

友情链接: 超理论坛 | ©小时科技 保留一切权利