机器学习AR模型 ar模型法

随机信号的参数建模法

为随机信号建立参数模型是研究随机信号的一种基本方法，其含义是认为随机信号$x(n)$是由白噪$w(n)$激励某一确定系统的响应。只要白噪的参数确定了，研究随机信号就可以转化成研究产生随机信号的系统。

三种常用的线性模型

• AR模型（自回归模型 Auto-regression model）
• MA模型（滑动平均模型Moving average model）
• ARMA模型（自回归滑移平均模型Auto=regression-Moving average model）

AR模型

随机信号$x(n)$由本身的若干次过去值x(n-k)和当前的激励值$w(n)$线性组合产生：

该模型的系统函数：

其中，p是系统阶数，系统函数中只有极点，无零点，也称为全极点模型，系统由于几点的原因，要考虑到系统的稳定性，因而要注意极点的分布位置，用AR§来表示。

AR模型参数的估计

1.AR模型参数和自相关函数的关系

AR模型和自相关函数关系推导：

2.举例

已知自回归信号模型AR(3)为：

式中$w(n)$是具有方差为1的平稳白噪声，求：

a.

b.

c.把头4个相关序列值代入矩阵求得估计值：

计算所得估计值与真实AR模型参数误差为：

原因在于我们只有一部分的观测数据，使得自相关序列值与理想的完全不同。输入信号的方差误差比较大，为0.5322，造成的原因比较多，计算机仿真的白噪声由于只有32点长，32点序列的方差不可能刚好等于1.给出一段观测值求AR模型参数这样直接解方程组，当阶数越高时直接解方程组计算就越复杂，因而要用特殊的算法使得计算量减小且精确度高。

Y－W 方程的解法——L-D 算法

在求解以上例子时要得到更精确的估计值，就要建立更高阶的AR模型，直接用观测值得自相关序列来求解Y-W方程计算量太大。所以把AR模型和预测系统联系起来，换个方法来估计AR参数。

从 AR 模型的时域表达式：

我们知道模型的当前输出值与它过去的输出值有关。预测是推断一个给定序列的未来值，即利用信号前后的相关性来估计未来的信号值。

若序列的模型已知而用过去观测的数据来推求现在和将来的数据称为前向预测器，表示为：

式中${ a(k)}，k＝1，2，…，m$，代表 m 阶预测器的预测系数，负号是为了与技术文献保持

一致。显然预测出来的结果与真实的结果存在预测误差或前向预测误差，设误差为e(n) ：

把$e(n)$看成是系统的输出，$x(n)$看成是系统的输入，得到系统函数：

假如 m＝p，且预测系数和 AR 模型参数相同，将上式和$x(n)=w(n)-\displaystyle\sum_{k=1}^{p} a_kx(n-k)$比较，把预测误差系统框

图和 AR 模型框图给出

既有$w(n)=e(n)$，即前向预测误差系统中的输入

为$x(n)$，，输出为预测误差$e(n)$等于白噪声。。也就是说前向预测误差系统对观测信号起了白化的作用。由于 AR 模型和前向预测误差系统有着密切的关系，两者的系统函数互为倒数，所以求 AR 模型参数就可以通过求预测误差系统的预测系数来实现。

L-D算法

基本思想：

根据Y-W方程式或一下式子：

自相关序列具有递推的性质，L-D 递推算法是模型阶数逐渐加大的一种算法，先计 算阶次 $m＝1$ 时的预测系数{$a_m(k)$}=$a_1(1)$和$δ^2_w1$，然后计算$m=2$时的{$a_m(k)$}=$a_2(1)$，$a_2(2)$以及$δ^2_w2$，一直计算到m=p阶时的$a_p(1),a_p(2),...,a_p(p)$以及$δ^2_wp$。

$\color{red}特点:每一阶次参数的计算是从低一阶次的模型参数推算出来的， 既可减少工作量又便于寻找最佳的阶数值，满足精度时就停止递推。$

递推可得到预测系数和均方误差估计的通式：

其中$a_m(m)$称为反射系数，从上式知道整个迭代过程需要已知自相关函数，给定初始值，$E_0=R(0),a_0(0)=1$，以及 AR 模型的阶数 ，就可以按照以下流程图进行估计。

L-D算法的优点：

是计算速度快，求得的 AR 模型必定稳定，且均方预测误差随着阶次的增加而减小。

缺点：

由于在求自相关序列时，是假设除了

观测值之外的数据都为零，必然会引入较大误差。