- 参考:麻省理工线性代数
- 本文介绍矩阵的四个基本子空间 —— 列空间、行空间、零空间、左零空间
文章目录
- 1. 线性空间(向量空间)、子空间
- 2. 矩阵的四个基本子空间
- 2.1 列空间
- 2.2 零空间
- 2.3 行空间
- 2.4 左零空间
- 3. 子空间的正交关系
- 3.1 证明
- 3.2 小结
1. 线性空间(向量空间)、子空间
- 这部分内容国内线性代数课似乎不会深入讲,简单补充一下
- 给定一些元素构成集合,在集合上定义一些运算,再定义运算规则,我们就得到了一个
代数系统
-
数域
是一个代数系统,它的集合中都是各种数(实数、复数、无理数…),要求必须包含0和1,定义数的四则运算,且要求关于这些运算封闭 - 在数域的基础上,再给定一些
元素
(向量、矩阵、函数…什么都行),定义 加法
和 数乘
两个运算,当两个运算满足封闭性和八条性质时,称为一个线性空间
- 线性空间中允许元素间线性表示,这样就有了
基
和坐标
向量的概念,而坐标向量是一个数组成的向量,因此线性空间中任意元素都可以一一对应到某个数的向量,所以线性空间也称为向量空间
- 线性空间/向量空间的基础上,增加一个元素的
內积
运算,定义相应的运算规则,得到內积空间
- 线性空间的元素的非空子集,满足加法和数乘运算的封闭性及八条性质,称为
线性子空间
(事实上只要满足封闭性,其他性质自动满足)
这部分内容详见
- 双语矩阵论课程笔记(2)—— 【chapter 1】 Vector Spaces (Linear Spaces)
- 双语矩阵论课程笔记(3)—— 【chapter 2】 Inner Product Spaces
2. 矩阵的四个基本子空间
- 给定秩为 的矩阵 ,本章介绍以下四个重要子空间
子空间 | 说明 | 向量尺寸 | 维数 | 求基 |
列空间 | 列化阶梯型 | |||
行空间 | 行化阶梯型 | |||
零空间 | 求基础解析 | |||
左零空间 | 类似化阶梯型求逆 |
2.1 列空间
- 给定秩为 的矩阵 ,列空间是由 所有列向量的线性组合构成的空间,记为
- 基本性质
- 尺寸:空间中所有元素尺寸同 列向量尺寸 ,即
- 维数:矩阵的秩定义为非零的子式(任取 行 列构成的行列式)的最大阶数,也就是最大的线性无关行列向量个数,因此矩阵列空间的维数和矩阵的秩相等,即
- 基:列空间的基,只要在所有列向量中找 ,注意到做列初等变换其实就是在对列做各种线性组合操作,变换后的矩阵列空间不变(当然,这时行空间就改变了),故可以通过列初等变换化竖直阶梯型的方式找出一组基
2.2 零空间
- 给定秩为 的矩阵 ,零空间是由 的所有解向量 的线性组合构成的空间,也就是这个 元齐次线性方程组的解空间,记为
- 基本性质
- 尺寸:空间中所有元素尺寸同 的解 的尺寸 ,即
- 维数:根据性质:n 元齐次线性方程组解空间的维数,加上此方程组系数矩阵的秩 r,等于未知量个数 n,有
- 基:就是求齐次线性方程组基础解系,做初等行变换化阶梯型来找通解
这里可以用张宇老师的方法,化阶梯形后,得到 的秩 ,然后得到零空间的维数 ,待定系数先写出基向量组形式,再把阶梯矩阵中每个阶梯划去一列,剩下的列的位置对应到基向量组上,在这个位置用单位阵填充,以保证各个基向量线性无关,最后带入有限方程解出其余系数
- 从几何角度,零空间可以理解为被矩阵
2.3 行空间
- 给定秩为 的矩阵 ,行空间是由 所有行向量的线性组合构成的空间,注意到这其实就是 的列空间,所以直接记为
- 基本性质
- 尺寸:空间中所有元素尺寸同 行向量尺寸 ,即
- 维数:同2.1节分析,矩阵行空间维数和矩阵的秩相等,即
- 基:同2.1节分析,通过行初等变换化阶梯型的方式找出一组基
2.4 左零空间
- 给定秩为 的矩阵 ,左零空间是由 的所有解向量 的线性组合构成的空间。注意到这是个行向量空间,而我们通常统一用列向量来表示向量,因此对齐次线性方程两边取转置,得到 ,可见 的左零空间其实就是 的(列向量)的零空间,所以直接记为
- 基本性质
- 尺寸:空间中所有元素尺寸同 列向量尺寸 ,即
- 维数:矩阵的秩定义为非零的子式(任取 行 列构成的行列式)的最大阶数,也就是最大的线性无关行列向量个数,因此矩阵列空间的维数和矩阵的秩相等,即
- 基:这里求基时,我们使用类似化阶梯型求逆矩阵的方式,通过初等行变换进行以下操作
其中 是 阶单位阵。事实上,上面这个变换就是通过左乘 来进行的,即
可见有
显然,令 ,就有 ,这是我们都学过的求逆方法。现在假设我们使 变化为正规矩阵,即
左上角是 阶单位阵,右上角是任意矩阵,下面是全零行。这时再考虑
记住我们要找左零空间,也就是要找 中的那些右乘 后变为零向量的行向量,注意到这些变换结果恰好记录在 对应的行向量中,因此,我们只要先求出 ,再取其最下面 个行向量即得到 左零空间的一组基。至于 的求法,只要记住将 通过初等行变换化为 的过程,再对
3. 子空间的正交关系
- 正交关系
- 两向量正交即两內积为0
- 一个向量空间和另一个向量空间正交,意味着一个空间中任意向量和另一空间中任意向量正交,即两组基正交
- 给定秩为 的矩阵 ,本章说明如下正交关系
- 维行空间 和 维零空间 正交,二者是
- 维列空间 和 维左零空间 正交,二者是
3.1 证明
- 先证明行空间 和零空间 正交:从零空间 定义入手,它是 的解空间,即
可见 中任意行向量 ,和 中任意列向量 做內积都为 ,显然两空间中任意向量的线性组合也正交,因此两空间正交 - 根据矩阵转置等价性质, 和 正交 列空间 和左零空间
- 再根据维度关系, 和 是 维空间的正交直和; 和 是
3.2 小结
- 最后用一张图总结本文