Basis and Rank

在向量空间 $V$ 中，我们特别关注的是向量集合$\mathcal{A}$，这些集合具有这样的性质：任何向量 $\boldsymbol{v} \in V$ 都可以通过$\mathcal{A}$ 中向量的线性组合得到。这些向量是特殊的向量，下面我们将对他们进行描述。

生成集和基

定义生成集和生成空间

考虑一个向量空间 $\mathrm{V}=(\mathcal{V},+,\cdot)$和一个向量集 $\mathcal{A}=\{\boldsymbol{x}_1,...,\boldsymbol{x}_k\} \in \mathcal{V}$，如果每个向量$\boldsymbol{v} \in \mathcal{V}$ 都可以表示为 $\boldsymbol{x}_1,...,\boldsymbol{x}_k$的线性组合。

则称 $\mathcal{A}$ 为 $V$ 的 生成集(generating set)。

$\mathcal{A}$ 中的向量的所有线性组合的集合称为$\mathcal{A}$ 的 生成空间(span)。

如果 $\mathcal{A}$ 张成向量空间$\mathrm{V}$，则记 $\mathrm{V} = \mathrm{span}[\mathcal{A}]$ 或 $\mathrm{V} = \mathrm{span}[\boldsymbol{x}_1,...,\boldsymbol{x}_k]$

生成集是张成向量空间（或子空间）的向量集，即，向量空间（或子空间）中的每个向量都可以表示为生成集中的向量的线性组合。

下面更具体描述向量（子）空间的最小生成集

定义基

考虑向量空间 $\mathrm{V}=(\mathcal{V},+,\cdot)$和$\mathcal{A} \subseteq \mathcal{V}$。如果没有更小的集合 $\tilde{\mathcal{A}} \subsetneq \mathcal{A} \subseteq \mathcal{V}$。

则称 $V$ 的生成集$\mathcal{A}$ 为 最小生成集(minimal)。

$\mathrm{V}$ 的每一个线性独立的生成集都是最小生成集，都被称为 $\mathrm{V}$ 的 基(basis)

设 $\mathrm{V} = (\mathcal{V},+,\cdot)$为向量空间，且$\mathcal{B} \subseteq \mathcal{V},\mathcal{B} \neq \varnothing$。那么以下的描述是等价的

$\mathcal{B}$ 是 $\mathrm{V}$ 的基
$\mathcal{B}$ 是最小生成集
$\mathcal{B}$ 是 $\mathrm{V}$ 中向量的一个最大线性无关（线性独立）集合，也就是说，在这个向量集中添加任何其他向量都会使它线性相关
每个向量 $\boldsymbol{x} \in \mathrm{V}$ 都是 $\mathcal{B}$中向量的线性组合，且每个线性组合都是唯一的，即

\[ \boldsymbol{x} = \sum_{i=1}^{k}\lambda_{i}\boldsymbol{b}_{i} = \sum_{i=1}^{k}\psi_{i}\boldsymbol{b}_{i} \]

其中$\lambda_i,\psi_i \in \mathbb{R}, \boldsymbol{b}_i \in \mathcal{B}$且: $\lambda_i=\psi_i,i=1,...,k$

例

在$\mathbb{R}^{3}$ 中，规范/标准基(canonical/standard basis) 为

\[ \mathcal{B}= \left\{ \begin{bmatrix}1\\0\\0\end{bmatrix}, \begin{bmatrix}0\\1\\0\end{bmatrix}, \begin{bmatrix}0\\0\\1\end{bmatrix} \right\} \]

$\mathbb{R}^{3}$中有不唯一的基:

\[ \mathcal{B}_1= \left\{ \begin{bmatrix}1\\0\\0\end{bmatrix}, \begin{bmatrix}0\\1\\0\end{bmatrix}, \begin{bmatrix}0\\0\\1\end{bmatrix} \right\}, \mathcal{B}_2= \left\{ \begin{bmatrix}0.5\\0.8\\0.4\end{bmatrix}, \begin{bmatrix}1.8\\0.3\\0.3\end{bmatrix}, \begin{bmatrix}-2.2\\-1.3\\3.5\end{bmatrix} \right\} \]

集合

\[ \mathcal{A} = \left\{ \begin{bmatrix}1\\2\\3\\4\end{bmatrix}, \begin{bmatrix}2\\-1\\0\\2\end{bmatrix}, \begin{bmatrix}1\\1\\0\\-4\end{bmatrix} \right\} \]

是线性独立的，但不是$\mathbb{R}^{4}$的生成基（也不是基）: 例如，向量$[1,0,0,0]^{\mathrm{T}}$不能通过$\mathcal{A}$ 中的向量线性组合得到。

备注

每个向量空间$\mathrm{V}$都有一个基$\mathcal{B}$。前面的例子表面向量空间 $\mathrm{V}$ 可以有许多基，即没有唯一基，然而所有的基都由相同数量的元素，即 基向量(basic vector) 组成

我们只考虑有限向量空间 $\mathrm{V}$。在这种情况下，$V$的 维数(dimension) 是 $\mathrm{V}$的基向量的个数，我们写成 $\mathrm{dim}(\mathrm{V})$。如果 $V$ 的子空间为 $\mathrm{U} \subseteq \mathrm{V}$，那么 $\mathrm{dim(\mathrm{U})} \leq \mathrm{dim(\mathrm{V})}$。直观的说，向量空间的维度可以看作是这个向量空间中独立方向的个数。

备注

向量空间的维度不一定是向量中元素的个数。例如向量空间 $\mathrm{V} = \mathrm{span} [ \begin{bmatrix} 0 \\ 1 \end{bmatrix} ]$ 是一维的，尽管基向量有两个元素。

备注

子空间 $\mathrm{U} = \mathrm{span}[\boldsymbol{x}_1,...,\boldsymbol{x}_m] \in \mathbb{R}^{n}$ 的基可以通过执行以下步骤确定

1 把生成向量写成矩阵$\boldsymbol{A}$ 的列
2 确定$\boldsymbol{A}$的行阶梯型
3 与主元对应的生成向量就是$\mathrm{U}$ 的

例基的确定

向量子空间 $\mathrm{U} \subseteq \mathbb{R}^{n}$ 由以下向量张成

\[ \boldsymbol{x}_1=\begin{bmatrix}1\\2\\-1\\-1\\-1\end{bmatrix}, \boldsymbol{x}_2=\begin{bmatrix}2\\-1\\1\\2\\-2\end{bmatrix}, \boldsymbol{x}_3=\begin{bmatrix}3\\-4\\3\\5\\-3\end{bmatrix}, \boldsymbol{x}_4=\begin{bmatrix}-1\\8\\-5\\-6\\1\end{bmatrix} \in \mathbb{R}^{5} \]

我们关注 $\boldsymbol{x}_1,...\boldsymbol{x}_4$中哪几个是$\mathrm{U}$的基。为此，需要判断$\boldsymbol{x}_1,...\boldsymbol{x}_4$是否线性独立。因此我们需要解一个矩阵齐次方程

\[ \sum_{i=1}^{4}\lambda_i \boldsymbol{x}_i = \boldsymbol{0} \]

对应矩阵为：

\[ [\boldsymbol{x}_1,\boldsymbol{x}_2,\boldsymbol{x}_3,\boldsymbol{x}_4] = \begin{bmatrix} 1&2&3&-1\\ 2&-1&-4&8\\ -1&1&3&-5\\ -1&2&5&-6\\ -1&-2&-3&1 \end{bmatrix} \]

利用线性方程组的基本变换规则，得到了行阶梯型矩阵：

\[ \begin{bmatrix} 1&2&3&-1\\ 2&-1&-4&8\\ -1&1&3&-5\\ -1&2&5&-6\\ -1&-2&-3&1 \end{bmatrix} \rightsquigarrow \cdots \rightsquigarrow \begin{bmatrix} 1 & 2 & 3 & -1\\ 0 & 1 & 2 & -2\\ 0 & 0 & 0 & 1\\ 0 & 0 & 0 & 0\\ 0 & 0 & 0 & 0\\ \end{bmatrix} \]

由于主元列对应的那组向量是线性独立的，因此我们从行阶梯型可以看出 $\boldsymbol{x}_1,\boldsymbol{x}_2,\boldsymbol{x}_4$是线性独立的（因为线性方程组 $\lambda_1 \boldsymbol{x}_1 + \lambda_2 \boldsymbol{x}_2 + \lambda_4 \boldsymbol{x}_4 = \boldsymbol{0}$ 只能用 $\lambda_1 = \lambda_2 = \lambda_4 = 0$）来解。因此 $\{\boldsymbol{x}_1,\boldsymbol{x}_2,\boldsymbol{x}_4\}$ 是$\mathrm{U}$ 的基

秩

矩阵 $\boldsymbol{A} \in \mathbb{R}^{m \times n}$的线性独立列的个数等于线性独立行的个数，这个数称为 $\boldsymbol{A}$的秩，用 $\mathrm{rk(\boldsymbol{A})}$表示

备注

矩阵的秩有一些重要的性质

$\mathrm{rk}(\boldsymbol{A}) = \mathrm{rk}(\boldsymbol{A}^{\mathrm{T}})$，即列秩等于行秩序
$\boldsymbol{A} \in \mathbb{R}^{m \times n}$ 的列张成一个子空间 $\mathrm{U} \subseteq \mathbb{R}^{m}$， $\mathrm{dim(U)} = \mathrm{rk(\boldsymbol{A})}$。在后面内容中我们将这个子空间称为像或值域。通过对$\boldsymbol{A}$应用高斯消元法来确认主元列，可以找到 $\mathrm{U}$ 的基
$\boldsymbol{A} \in \mathbb{R}^{m \times n}$ 的行张成一个子空间 $\mathrm{W} \subseteq \mathbb{R}^{n}$，$\mathrm{dim(W)} = \mathrm{rk(\boldsymbol{A})}$。通过对$\boldsymbol{A}^\mathrm{T}$ 应用高斯消元法确认主元列，可以找到 $\mathrm{W}$ 的基。
对于任意方阵 $\boldsymbol{A} \in \mathbb{R}^{n \times n}$，$\boldsymbol{A}$ 是正则的（可逆）当且仅当 $\mathrm{rk}(\boldsymbol{A}) = n $
对于任意 $\boldsymbol{A} \in \mathbb{R}^{m \times n}$ 和 $\boldsymbol{b} \in \mathbb{R}^{m}$，线性方程组 $\boldsymbol{Ax} = \boldsymbol{b}$ 有解当且仅当 $\mathrm{rk}(\boldsymbol{A}) = \mathrm{rk}(\boldsymbol{A}|\boldsymbol{b})$，其中 $\boldsymbol{A}|\boldsymbol{b}$ 表示增广矩阵
对于任意 $\boldsymbol{A} \in \mathbb{R}^{m \times n}，\boldsymbol{A} \boldsymbol{x} = \boldsymbol{0}$ 的解的子空间维数为 $\mathrm{n} - \mathrm{rk}(\boldsymbol{A})$。后面我们会称这个子空间为核或零空间
如果矩阵 $\boldsymbol{A} \in \mathbb{R}^{m \times n}$的秩等于相同维数矩阵的最大可能秩，则它拥有 满秩(full rank)。也就是说满秩矩阵的秩是行数或列数中的较小者，即 $\mathrm{rk}(\boldsymbol{A}) = \mathrm{min}(m,n)$。如果矩阵不满足满秩要求，则称它 不满秩(rank deficient)

例

$\boldsymbol{A} = \begin{bmatrix}1&0&1\\0&1&1\\0&0&0\end{bmatrix}$

$\boldsymbol{A}$有两个线性独立的行/列，所有 $\mathrm{rk}(\boldsymbol{A}) = 2$

$\boldsymbol{A} = \begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}$

使用高斯消元法来确定秩：

\[ \begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix} \rightsquigarrow \cdots \rightsquigarrow \begin{bmatrix} 1 & 2 & 1 \\ 0 & 1 & 3 \\ 0 & 0 & 0 \end{bmatrix} \]

有两个线性独立的列，所以 $\mathrm{rk}(\boldsymbol{A}) = 2$