把传统的傅里叶变换以及卷积迁移到Graph上来,核心工作其实就是把拉普拉斯算子的特征函数
变为Graph对应的拉普拉斯矩阵的特征向量。
(1)傅里叶变换
炫云:傅里叶变换的全面理解,非常棒zhuanlan.zhihu.com
(2)Graph上的傅里叶变换
传统的傅里叶变换定义为:
公式(1)表示的意义是傅立叶变换是时域信号
与基函数
(拉普拉斯算子特征函数)的积分,
那么为什么要找
作为基函数呢?
- 是正交函数系。
- 从数学上看, 是拉普拉斯算子 的特征函数(满足特征方程), 就和特征值有关。
至于
由何种推导得来的请参考:傅里叶变换的全面理解
拉普拉斯算子Δ的定义:
炫云:拉普拉斯算子和拉普拉斯矩阵,图拉普拉斯算子推导zhuanlan.zhihu.com
其数学定义为:
- 为何 是拉普拉斯算子 的特征函数?理解如下
广义的特征方程定义为:
其中
是一种变换(例如:拉普拉斯),
是
特征向量或者特征函数(无限维的特征向量),
是特征值。
带入函数
满足:
当然
就是变换
的特征函数,
和特征值密切相关
。
由上述证明可得结论:傅立叶变换是时域信号与拉普拉斯算子特征函数的积分。
从整体推特殊,将以上的结论推广到(离散)图中可知:图上的傅立叶变换就是时域信号与图拉普拉斯算子特征函数的求和!
那么,处理Graph问题的时候,用到拉普拉斯矩阵(拉普拉斯矩阵就是离散拉普拉斯算子),自然就去找拉普拉斯矩阵的特征向量了。
是拉普拉斯矩阵,
是其特征向量,自然满足下式
对于傅里叶变换式(1),将特征函数转换为特征向量,离散积分就是一种内积形式,将积分转换为求和,那么N个顶点图上的傅立叶变化表达式为:
是Graph上的
维向量,
与Graph的顶点一一对应,
表示第
个特征向量的第
个分量。
为图拉普拉斯算子第
个特征值,公式(5)是
特征值(频率)对应的傅立叶变换.
注:上述的内积运算是在复数空间中定义的,所以采用了
,也就是特征向量
的共轭。
利用矩阵乘法将Graph上的傅里叶变换推广到矩阵形式:
即
在Graph上傅里叶变换的矩阵形式为:
式中:
的定义与拉普拉斯矩阵的谱分解的相同,为拉普拉斯谱分解的正交矩阵。
(3)Graph上的傅里叶逆变换
类似地,为了将频率函数变换为时域函数,传统的傅里叶逆变换是对频率
求积分:
公式(7)和公式(1)类似,差一个常数系数。公式(1)积分之后是一个关于w的函数,公式(7) 对w积分后是关于t的函数,从频域变换到了时域。
迁移到Graph上变为对特征值
求和:
利用矩阵乘法将Graph上的傅里叶逆变换推广到矩阵形式:
即
在Graph上傅里叶逆变换的矩阵形式为:
二、为什么拉普拉斯矩阵的特征向量可以作为傅里叶变换的基?特征值表示频率?
(1)为什么拉普拉斯矩阵的特征向量可以作为傅里叶变换的基?
傅里叶变换一个本质理解就是:把任意一个函数表示成了若干个正交函数(由sin,cos 构成)的线性组合。
图6 傅里叶逆变换图示
通过
式也能看出,
graph傅里叶变换也把graph上定义的任意向量
,表示成了拉普拉斯矩阵特征向量的线性组合,即:
那么:为什么graph上任意的向量
都可以表示成这样的线性组合?
原因在于
是graph上
维空间中的
个线性无关的正交向量,由线性代数的知识可以知道:
维空间中
个线性无关的向量可以构成空间的一组基,而且拉普拉斯矩阵的特征向量还是一组正交基。
所以拉普拉斯矩阵的特征向量可以作为傅里叶变换的基。
(2)怎么理解拉普拉斯矩阵的特征值表示频率?
在graph空间上无法可视化展示“频率”这个概念,那么从特征方程上来抽象理解。
可以观看
炫云:拉普拉斯矩阵的谱分解,图的拉普拉斯矩阵zhuanlan.zhihu.com
将拉普拉斯矩阵
的
个
非负实特征值,从小到大排列为
,而且最小的特征值
,因为
维的全1向量对应的特征值为0(由
的定义就可以得出):
从特征方程的数学理解来看:
在由Graph确定的
维空间中,越小的特征值
表明:拉普拉斯矩阵
其所对应的基
上的分量、“信息”越少,那么当然就是可以
忽略的低频部分了。
其实图像压缩就是这个原理,把像素矩阵特征分解后,把小的特征值(低频部分)全部变成0,PCA降维也是同样的,把协方差矩阵特征分解后,按从大到小取出前K个特征值对应的特征向量作为新的“坐标轴”。