第8章：秩

---

一个向量空间的线性子空间是该空间的一个子集，它本身也是一个线性空间。 要证明一个线性空间的子集是一个线性子空间，只需检查三件事。 这由以下定理捕捉。

---

这意味着齐次方程组的解集合构成一个线性空间。

这意味着一组向量的线性组合所构成的集合是一个线性空间。

---

正如我们在 第 5.5 节 中所见，形如 $\mx{A}\vc{x}=\vc{0}$ 的方程组称为齐次系统。下面我们将展示这类系统的解如何揭示矩阵 $\mx{A}$ 的若干有用性质。首先从一个例子出发。 假设有如下矩阵

\begin{equation} \mx{A} = \begin{pmatrix} 2 & \hid{-}5 & \hid{-}3 \\ 4 & \hid{-}2 & \hid{-}1 \\ 2 & -3 & -2 \end{pmatrix}, \end{equation}

(8.1)

并且我们要求解 $\mx{A}\vc{x}=\vc{0}$，其中 $\vc{x}=(x_1,x_2,x_3)$ 是一个 列向量。 这就是 方程 (5.34) 中的相同例子，即：

\begin{equation} \begin{cases} \begin{array}{rrrl} 2 x_1 + 5 & \bs x_2 + 3 & \bs x_3 = 0, \\ 4 x_1 + 2 & \bs x_2 +\hid{3}& \bs x_3 = 0, \\ 2 x_1 - 3 & \bs x_2 - 2 & \bs x_3 = 0, \\ \end{array} \end{cases} \end{equation}

(8.2)

经过若干步的 高斯消元，我们得到

\begin{equation} \begin{cases} \begin{array}{rrrl} 2 x_1 + 5 & \bs x_2 + 3 & \bs x_3 = 0, \\ 8 & \bs x_2 + 5 & \bs x_3 = 0, \\ & & \bs 0 = 0. \\ \end{array} \end{cases} \end{equation}

(8.3)

接下来令 $x_3=t$，则 $x_2=-\frac{5}{8}t$，最终得 $x_1=\frac{1}{16}t$，即

\begin{equation} \vc{x}(t) = \begin{pmatrix} x_1 \\ x_2 \\ x_3 \end{pmatrix} = \begin{pmatrix} \frac{1}{16}t \\ -\frac{5}{8}t \\ t \end{pmatrix} \end{equation}

(8.4)

如上所示，该解是一条仅由一个参数 $t$ 决定的直线。有时用 $\vc{x}_\mathrm{h}$ 来表示它，以表明这是齐次系统 $\mx{A}\vc{x}=\vc{0}$ 的解。整个解集称为矩阵 $\mx{A}$ 的零空间，在本例中零空间的维数为 1，因为解只依赖于一个参数 $t$。我们也把向量 $(1/16,-5/8,1)$ 称为零向量。接下来将给出形式化的定义。

按定义，零空间是 $\R^n$ 的一个子空间，因此 $\nullity(\mx{A})\le n$。它是一个线性子空间（参见 示例 8.2）。该子空间的维数很重要，下面给出相应定义。

由于零空间是 $\R^n$ 的子空间，我们有 $\nullity(\mx{A})\le n$。那么零空间比原来少了多少维呢？这可以从方程组 $\mx{A}\vc{x}=\vc{0}$ 中的约束数量来大致理解，但需注意并非简单地用行数 $m$ 去减维就能得到结论：存在 $m$ 条方程并不必然意味着 $\nullity(\mx{A})=n-m$。矩阵中实际有效约束的数量正是由矩阵的秩（rank）来刻画的。我们稍后将证明 $\nullity(\mx{A})=n-r$，也就是说维数被降了 $r$（即 $\mx{A}$ 的秩）。

通过高斯消元可以得到零空间的一个基，从而确定零空间的维数。解中独立参数的个数决定了零空间的维数。

---

对于一个 $m\times n$ 矩阵 $\mx{A}$，回顾 定义 6.2 中对行 $\vc{a}_{i,}^\T$（$i=1,\dots,m$）与列 $\vc{a}_{,j}$ 的访问方式，即

\begin{equation} \mx{A} = \bigl(\vc{a}_{,1} \,\,\, \vc{a}_{,2} \,\,\,\dots\,\,\, \vc{a}_{,n}\bigr) = \left( \begin{array}{c} \vc{a}_{1,}^\T\\ \vc{a}_{2,}^\T\\ \vdots \\ \vc{a}_{m,}^\T\\ \end{array} \right). \end{equation}

(8.10)

另外，重申本书中列向量与行向量的记法：默认情况下所有向量都视为列向量。若需要使用一个行向量，可将列向量 $\vc{x}$ 转置得到行向量 $\vc{x}^\T$。 例如，$(x_1,x_2,x_3)$（用逗号分隔）也表示一个列向量，而 $(x_1 \spc x_2 \spc x_3)$ 则表示一个行向量，详见 定义 2.5。

现在我们已经知道了零空间，可以引入两个相关概念：列空间和行空间。

下面我们注意到，矩阵与向量相乘 $\mx{A}\vc{x}$ 可以表示为

\begin{equation} \mx{A}\vc{x}= \left(\vc{a}_{,1}\,\,\, \vc{a}_{,2}\,\,\, \dots\,\,\, \vc{a}_{,n}\right)\vc{x} = x_1\vc{a}_{,1} + x_2\vc{a}_{,2} + \dots +x_n\vc{a}_{,n}, \end{equation}

(8.11)

也就是说，它可以看作是一个 线性组合（参见 定义 5.1) 是矩阵 $\mx{A}$ 的 列向量。 也就是说，列空间由矩阵列向量的线性组合生成（参见 定义 5.1）。 换言之，列空间包含所有可以由取第一个列向量乘以某一常数、再加上第二个列向量乘以另一常数、以此类推所生成的向量。 注意，按定义列空间是 $\\R^m$ 的一个子空间，因为矩阵 $\mx{A}$ 的所有列向量都具有 $m$ 个分量。

与 列空间 类似，我们也可以将其写成向量-矩阵相乘的形式，不过这次使用 a 行向量 $\vc{x}^\T$，它有 $m$ 个分量并从右侧与矩阵相乘，即：

\begin{equation} \vc{x}^\T\mx{A}= \vc{x}^\T \left(\begin{array}{c} \vc{a}_{1,}^\T\\ \vc{a}_{2,}^\T\\ \vdots \\\vc{a}_{m,}^T \end{array}\right) = \left(\begin{array}{c} x_1\ \ x_2\ \ \dots\ \ x_m \end{array}\right) \left(\begin{array}{c} \vc{a}_{1,}^\T\\ \vc{a}_{2,}^\T\\ \vdots \\\vc{a}_{m,}^T \end{array}\right) = x_1\vc{a}_{1,}^\T + x_2 \vc{a}_{2,}^\T + \dots + x_m \vc{a}_{m,}^\T. \end{equation}

(8.12)

因此，这也是由行向量的线性组合所生成的集合（参见 定义 5.1）。不过这次所用的是矩阵 $\mx{A}$ 的行向量。 换言之，行空间包含所有可以由取第一个行向量乘以某一常数、再加上第二个行向量乘以另一常数、以此类推所生成的向量。 注意，按定义行空间是 $\\R^n$ 的一个子空间，因为矩阵 $\mx{A}$ 的所有行向量都具有 $n$ 个分量。

接下来我们将逐步介绍一些步骤，最终可以方便地得到矩阵的列（或行）空间中的列向量/行向量。 下面给出第一个引导性的定理。

---

注意：定理 8.2 仅适用于 行空间， 不适用于 列空间。

下面我们需要一个专门术语来描述高斯消元得到的矩阵。下列定义给出该术语（行阶梯形）。

注意：通过对矩阵进行 高斯消元（直至无法再约简），可将该矩阵化为行阶梯形。 这会产生一种类似三角形的结构，例如下式所示：

\begin{equation} \left( \begin{array}{rrrrr} \underline{2} & 0 & 1 & -2 & 1 \\ 0 & \underline{1} & 4 & 2 & 1 \\ 0 & 0 & 0 & \underline{1} & 2 \\ 0 & 0 & 0 & 0 & 0 \\ \end{array} \right). \end{equation}

(8.21)

因此，这类矩阵有时被称为矩阵 $\mx{A}$ 的“阶梯等价”形式。 前述方阵中加下划线的首个非零系数称为主元。有些教材要求把这些主元化为 1，这可以通过将整行除以该主元来实现，但在这里我们不作此要求。

下面给出一个定理，说明如何从行阶梯形矩阵中直接找出行空间的基向量，并由此确定行空间的维数。

---

注意，行/列空间的 基向量 的数量等于对应的 行/列秩。

接下来我们将证明 行空间 的维数（即 行秩）与 列空间 的维数（即 列秩）相同。 在下面的定理之后，我们将举例说明如何找到行空间与列空间的 基向量。

---

此后我们无需再区分 $\rowrank(\mx{A})$ 与 $\colrank(\mx{A})$，通常统一称之为矩阵的秩，记为 $\rank(\mx{A})$。该定理亦可表示为 $\rank(\mx{A})=\rank(\mx{A}^\T)$。 因此若要找到矩阵 $\mx{A}$ 的列空间基，可先对其转置为 $\mx{A}^\T$，再使用 定理 8.3 得到对应的基。 下面给出一个例子，说明如何找到列空间的基。

---

下面我们给出一个定理，为矩阵乘积的秩提供一个上界。

---

---

现在我们知道 $\vc{x}_h$ 属于矩阵 $\mx{A}$ 的 零空间，而 $\vc{y}$ 必须属于 $\mx{A}$ 的 列空间，否则它不能成为方程 $\mx{A}\vc{x}=\vc{y}$ 的解。在 交互式图示 8.3 中， 我们演示了这两类解如何相互作用。 下面的维数定理非常有用：如果你已知 零空间 的维数或矩阵的 秩，那么（在已知矩阵行数的前提下）就可以求出另一个。

---

回顾一下，$\nullity(\mx{A})$ 表示描述齐次线性系统 解 $\mx{A}\vc{x}=\vc{0}$ 所需的参数个数，而 $\rank(\mx{A})$ 则表示当 $\mx{A}\vc{x}=\vc{y}$ 有解时，右端向量 $\vc{y}$ 中线性无关的个数。 最后，这两个数之和等于 $n$，也就是矩阵 $\mx{A}$ 的列数。

注意，矩阵 $\mx{A}$ 可以被看作一种变换或线性映射（参见 第 9 章）， 且 $n$ 是 $\mx{A}$ 的定义域（domain）的维数。 由此，$\rank(\mx{A})$ 可视为经过 $\mx{A}$ 变换后“保留下来”的维数，而 $\nullity(\mx{A})$ 则是被 $\mx{A}$ 压缩掉的维数。

---

在 第7章 中，我们介绍了计算方阵行列式的不同方法。 利用余子式（见 定义 7.8），也可以求出矩阵的秩，如下定理所述。

---

由 定理 8.9 与 定理 7.8 可知（后者说明仅当行列式非零时矩阵才有逆）， 若方阵 $n\times n$ 的矩阵 $\mx{A}$ 可逆，那么其秩必为 $n$，即 $\rank(\mx{A})=n$。

---

在上一例中，我们发现可以通过测量得到一个矩阵 $\mathbf{B}$，并且它与我们要估计的参数满足关系 $\mathbf{B} = \mathbf{R}^\T \mathbf{S}$。

如何从 $\mathbf{B}$ 计算出 $\mathbf{R}$ 和 $\mathbf{S}$？换言之，如何将矩阵 $\mathbf{B}$ 分解为两个因子 $\mathbf{R}$ 与 $\mathbf{S}$ 的乘积？ 这属于矩阵分解的话题，在许多应用中非常有用，但遗憾地超出本书讨论范围。