文章目录

  • ​​1. 线性空间(向量空间)、子空间​​
  • ​​2. 矩阵的四个基本子空间​​
  • ​​2.1 列空间​​
  • ​​2.2 零空间​​
  • ​​2.3 行空间​​
  • ​​2.4 左零空间​​
  • ​​3. 子空间的正交关系​​
  • ​​3.1 证明​​
  • ​​3.2 小结​​

1. 线性空间(向量空间)、子空间

  • 这部分内容国内线性代数课似乎不会深入讲,简单补充一下
  1. 给定一些元素构成集合,在集合上定义一些运算,再定义运算规则,我们就得到了一个​​代数系统​
  2. ​数域​​是一个代数系统,它的集合中都是各种数(实数、复数、无理数…),要求必须包含0和1,定义数的四则运算,且要求关于这些运算封闭
  3. 在数域的基础上,再给定一些​​元素​​​(向量、矩阵、函数…什么都行),定义 ​​加法​​​ 和 ​​数乘​​​ 两个运算,当两个运算满足封闭性和八条性质时,称为一个​​线性空间​
  4. 线性空间中允许元素间线性表示,这样就有了​​基​​​和​​坐标​​​向量的概念,而坐标向量是一个数组成的向量,因此线性空间中任意元素都可以一一对应到某个数的向量,所以线性空间也称为​​向量空间​
  5. 线性空间/向量空间的基础上,增加一个元素的​​內积​​​运算,定义相应的运算规则,得到​​內积空间​
  6. 线性空间的元素的非空子集,满足加法和数乘运算的封闭性及八条性质,称为​​线性子空间​​(事实上只要满足封闭性,其他性质自动满足)

这部分内容详见

  1. ​​双语矩阵论课程笔记(2)—— 【chapter 1】 Vector Spaces (Linear Spaces)​​
  2. ​​双语矩阵论课程笔记(3)—— 【chapter 2】 Inner Product Spaces​​

2. 矩阵的四个基本子空间

  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,本章介绍以下四个重要子空间

子空间

说明

向量尺寸

维数

求基

列空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_03

线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_04

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_05

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_06

列化阶梯型

行空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_07

线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_04

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_09

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_06

行化阶梯型

零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_11

线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_12

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_09

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_14

求基础解析

左零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_15

线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_16

线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_05

线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_18

类似化阶梯型求逆

2.1 列空间

  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,列空间是由 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_21 所有列向量的线性组合构成的空间,记为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_22
  • 基本性质
  1. 尺寸:空间中所有元素尺寸同 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_23 列向量尺寸 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_24,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_25
  2. 维数:矩阵的秩定义为非零的子式(任取 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_26线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_26 列构成的行列式)的最大阶数,也就是最大的线性无关行列向量个数,因此矩阵列空间的维数和矩阵的秩相等,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_28
  3. :列空间的基,只要在所有列向量中找 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_29,注意到做列初等变换其实就是在对列做各种线性组合操作,变换后的矩阵列空间不变(当然,这时行空间就改变了),故可以通过列初等变换化竖直阶梯型的方式找出一组基

2.2 零空间

  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,零空间是由 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_32 的所有解向量 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_33 的线性组合构成的空间,也就是这个 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_34 元齐次线性方程组的解空间,记为 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35
  • 基本性质
  1. 尺寸:空间中所有元素尺寸同 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_36 的解 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_37 的尺寸 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_38,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_39
  2. 维数:根据性质:​​n 元齐次线性方程组解空间的维数,加上此方程组系数矩阵的秩 r,等于未知量个数 n​​,有 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_40
  3. :就是求齐次线性方程组基础解系,做初等行变换化阶梯型来找通解

这里可以用张宇老师的方法,化阶梯形后,得到 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_41 的秩 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_06,然后得到零空间的维数 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_14,待定系数先写出基向量组形式,再把阶梯矩阵中每个阶梯划去一列,剩下的列的位置对应到基向量组上,在这个位置用单位阵填充,以保证各个基向量线性无关,最后带入有限方程解出其余系数

  • 从几何角度,零空间可以理解为被矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_44

2.3 行空间

  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,行空间是由 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_47 所有行向量的线性组合构成的空间,注意到这其实就是 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_48 的列空间,所以直接记为
    线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_49
  • 基本性质
  1. 尺寸:空间中所有元素尺寸同 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_23 行向量尺寸 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_38,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_39
  2. 维数:同2.1节分析,矩阵行空间维数和矩阵的秩相等,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_53
  3. :同2.1节分析,通过行初等变换化阶梯型的方式找出一组基

2.4 左零空间

  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,左零空间是由 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_56 的所有解向量 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_57的线性组合构成的空间。注意到这是个行向量空间,而我们通常统一用列向量来表示向量,因此对齐次线性方程两边取转置,得到 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_58,可见 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_59 的左零空间其实就是 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_48 的(列向量)的零空间,所以直接记为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_61
  • 基本性质
  1. 尺寸:空间中所有元素尺寸同 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_62 列向量尺寸 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_24,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_25
  2. 维数:矩阵的秩定义为非零的子式(任取 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_26线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_26 列构成的行列式)的最大阶数,也就是最大的线性无关行列向量个数,因此矩阵列空间的维数和矩阵的秩相等,即 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_28
  3. :这里求基时,我们使用类似化阶梯型求逆矩阵的方式,通过初等行变换进行以下操作
    线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_68 其中 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_69线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_70 阶单位阵。事实上,上面这个变换就是通过左乘 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_71 来进行的,即
    线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_72 可见有
    线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_73 显然,令 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_74,就有 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_75,这是我们都学过的求逆方法。现在假设我们使 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_76 变化为正规矩阵,即
    线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_77 左上角是 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_78 阶单位阵,右上角是任意矩阵,下面是全零行。这时再考虑
    线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_73 记住我们要找左零空间,也就是要找 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_71 中的那些右乘 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_81 后变为零向量的行向量,注意到这些变换结果恰好记录在 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_76 对应的行向量中,因此,我们只要先求出 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_71,再取其最下面 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_84 个行向量即得到 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_23 左零空间的一组基。至于 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_71 的求法,只要记住将 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_81 通过初等行变换化为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_76 的过程,再对 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_89

3. 子空间的正交关系

  • 正交关系
  1. 两向量正交即两內积为0
  2. 一个向量空间和另一个向量空间正交,意味着一个空间中任意向量和另一空间中任意向量正交,即两组基正交
  • 给定秩为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵 的矩阵 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_02,本章说明如下正交关系
  1. 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_78 维行空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_93线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_94 维零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_95 正交,二者是 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_96
  2. 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_78 维列空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_98线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_84 维左零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_100 正交,二者是 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_70

3.1 证明

  • 先证明行空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_102 和零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35 正交:从零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35 定义入手,它是 线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_105 的解空间,即
    线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_106 可见 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_59 中任意行向量 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_108,和 线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35 中任意列向量 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_110 做內积都为 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_111,显然两空间中任意向量的线性组合也正交,因此两空间正交
  • 根据矩阵转置等价性质,线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_102线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35 正交 线性代数拾遗(5) —— 矩阵的四个基本子空间_向量空间_114 列空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_115 和左零空间 线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_61
  • 再根据维度关系,线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_102线性代数拾遗(5) —— 矩阵的四个基本子空间_线性代数_35线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_34 维空间的正交直和;线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵_115线性代数拾遗(5) —— 矩阵的四个基本子空间_矩阵论_61线性代数拾遗(5) —— 矩阵的四个基本子空间_算法_122

3.2 小结

  • 最后用一张图总结本文