递归最小二乘算法及性能仿真RLS性能研究毕业论文

递归最小二乘算法及性能仿真

RLS Algorithm and Its Performance Simulation

[摘要] 自适应滤波理论和技术是统计信号处理和非平稳随机信号处理的主要内容，它具有维纳滤波和卡尔曼滤波的最佳滤波性能，而且不需要先验知识的初始条件，所以，自适应滤波器不但可以用来检测确定性信号，也可以用来检测平稳的或非平稳的随机过程。

本文详细阐述了递归最小二乘算法的基本理论，研究了自适应滤波的原理和方法，并讨论了LMS 和RLS 的优劣性。主要内容概括如下：

RLS 算法的主要优点是收敛速度快，且对自相关矩阵特征值的分散性不敏感，其缺点是计算量比较大。LMS 算法具有计算量小、易于实现等优点，缺点是收敛速度慢。 重点研究了LMS 自适应算法和递归最小二乘算法，给出了它们具体的推导过程和基本原理，并对其性能进行了简单分析。

利用MATLAB 仿真软件，在信道均衡实验中对比了上述两种算法的性能，验证了变递归最小二乘算法的优良性能。

[关键词] 递归最小二乘；自适应滤波；LMS 算法； MATLAB 仿真

[Abstract] Adaptive filter theory and techniques of statistical signal processing and non-stationary random signal processing main content, which has Wiener filtering and Kalman filtering the best filtering performance, and does not require prior knowledge of initial conditions, therefore, adaptive filter not only can be used to detect deterministic signals can also be used to detect stationary or nonstationary stochastic process.

This paper describes the basic theory of recursive least squares algorithm to study the principles and methods of adaptive filtering, and discussed the merits of LMS and RLS. Mainly be summarized as follows:

The main advantage of RLS algorithm is fast convergence, and the eigenvalue of the autocorrelation matrix is not sensitive to the dispersion, the drawback is larger than calculated. LMS algorithm has a computation, easy implementation, convergence speed is slow.

Focus of the LMS adaptive algorithm and recursive least squares algorithm, given their specific process and the basic principle of derivation, and its performance is also analyzed.

Using MATLAB simulation software, channel equalization experiment compared the performance of these two algorithms, recursive least squares algorithm with variable verified the excellent performance.

[Keywords] RLS Algorithm; Adaptive Filtering; LMS algorithm; MATLAB simulation.

目 录

目 录 ................................................................... I II

1 绪论 .................................................................... 1

1.1 自适应信号处理的国内外发展现状 ..................................... 1

1.2 自适应信号处理技术的应用 ........................................... 2

1.3 本文的主要研究内容及工作安排 ....................................... 2

2 自适应滤波的原理与算法 .................................................. 4

2.1 自适应滤波的原理 ................................................... 4

2.2 自适应滤波算法 ..................................................... 5

2.3 自适应滤波的特征 ................................................... 6

2.4 自适应滤波器的应用 ................................................. 7

3 LMS自适应算法 . .......................................................... 8

3.1 最小均方算法的结构和运算概述 ....................................... 8

3.1 最速下降概述 ....................................................... 9

3.3 LMS自适应滤波算法 . ................................................ 12

4 递归最小二乘自适应算法及仿真 ........................................... 15

4.1 引言 .............................................................. 15

4.2 递推最小二乘（RLS ）算法 ........................................... 15

4.3 递推最小二乘算法性能分析 .......................................... 18

5 结论与展望 ............................................................. 21

5.1 总结 ............................................................... 21

5.2 展望 ............................................................... 21

致 谢 ..................................................................... 22

参考文献 .................................................................. 23

1 绪论

自适应信号处理是近40年来发展起来的信号处理领域一个新的分支。自适应滤波理论和技术是统计信号处理和非平稳随机信号处理的主要内容，它具有维纳滤波和卡尔曼滤波的最佳滤波性能，而且不需要先验知识的初始条件，所以，自适应滤波器不但可以用来检测确定性信号，也可以用来检测平稳的或非平稳的随机过程。

自适应信号处理的研究内容是以信号与信息自适应处理为主线，包括自适应滤波理论、自适应技术应用两大部分。

(1)自适应滤波理论包括：自适应LMS 横向滤波器、自适应RLS 横向滤波器、自适应格型滤波器、自适应递归滤波器、自适应神经滤波器等。

(2)自适应技术应用包括自适应谱线增强与谱估计方法、自适应噪声干扰抵消技术、自适应均衡技术、自适应阵列处理与波束形成、自适应神经网络信息处理等。

1.1 自适应信号处理的国内外发展现状

早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱) ，以线性最小均方误差估计准则所设计的最佳滤波器，称为维纳滤波器。维纳滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，它就不是最佳的滤波器，这在实际应用中受到了限制。

60年代初，由于空间技术的发展，出现了卡尔曼滤波理论：利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。在设计卡尔曼滤波器时，必须知道信号和噪声的统计特性。在实际中，往往难以预知这些统计特性，故实现不了真正的最佳滤波。自适应信号处理的研究工作始于20世纪中叶。美国通用电气公司研究出了简单的自适应滤波器，用以消除混杂在有用信号中的噪声和干扰。Widrow B . 等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或根本不需要任何关于信号与噪声的先验统计知识，这种滤波器的实现差不多像维纳滤波器那样简单，而滤波性能几乎与卡尔曼滤波器一样好。

随着自适应空域滤波概念的不断完善，一类由维德罗、格里菲思等人研制出来的基于“引导信号”算法的自适应波束形成器应用于自适应阵列信号处理。1969年至1972年间，由格里菲思和弗罗斯特等人发明了又一类和“引导算法”相似的“线性约束”自适应天线算法。近10年来，自适应滤波理论和方法得到了迅速发展。

自适应滤波器与普通滤波器不同，其冲激响应或滤波参数随外部环境的变化而改变，经过一段自动调节的收敛时间达到最佳滤波的要求。自适应滤波器本身有一个重要的自适应算法，此算法可以根据输入、输出及原参量值，按照一定准则修改滤波参量，以使它本身能有效地跟踪外部环境的变化。目前，自适应信号处理技术仍在继续向纵深方向发展，特别是盲自适应信号处理和利用神经网络进行的非线性自适应信号处理，对于实现智能信息处理系统，有很广大的应用前景。

1.2 自适应信号处理技术的应用

自适应信号处理技术在语音信号处理、雷达、通信、声纳、图像处理、计算机视觉、生物医学工程等领域有着极其重要的应用，可以用来检测平稳的和非平稳的随机信号。

(1)自适应线性组合器可以用于语音增强、频谱估算、窄带信号检测等研究。

(2)自适应均衡技术可以用于克服数字微波接力通信系统中由于多径传输而引起的码间串扰。另外，在有线传输系统中，当数据传输系统的速率高于4800bit/s时，由于有线信道的传输特性不理想，其幅频响应和相频响应分别是非恒定的和非线性的，所以必须采用自适应均衡器来补偿信道的畸变，以减少误码。在移动通信中，由于信道环境不断发生变化，要求盲自适应非线性均衡器参数的更新速率比信道参数的变化至少快一个数量级，而且信道模型比较复杂，对盲均衡技术要求很高，需要进一步研究解决。

(3)自适应阵列与波束形成技术在雷达、声纳、通信领域有着广泛而重要的应用。在相控阵雷达体制中，机载预警雷达杂波谱散布在整个多谱勒区域，采用自适应波束形成技术能很好的抑制杂波。

(4)自适应控制在现代信息社会许多系统工程和动态系统中得到了广泛应用。自适应控制方法类似于自适应滤波理论及算法，欲研究自适应控制系统的稳定性，需研究自适应噪声控制器的稳定极限、等效转移函数以及用逆滤波方法实现自适应控制系统的补偿等问题。

(5)自适应盲信源分离方法可以推广应用到盲反卷积、盲均衡理、盲阵列处及盲多用户检测等领域，具有非常重要的理论意义和实用价值。在语音信号处理、阵列信号处理、移动通信领域、生物医学信号处理、图像处理、地震信号处理等领域都有广泛的应用。 随着人们在自适应信号处理领域研究的不断深入，自适应信号处理的理论和技术日趋完善，其应用的范围也越来越广泛。

1.3 本文的主要研究内容及工作安排

语音去噪是一门古老的科学，根据自适应滤波原理，利用最小均方自适应滤波算法实现语音信号去除噪声。因此，本文在传统的LMS 算法的基础上研究了RLS 算法。主要工作如下：

(1)对信号的性态进行分析，为后续研究奠定理论基础。

(2)分析自适应滤波的基本原理。

(3)基于自适应滤波器的原理，对LMS 算法进行分析。

(4)在LMS 的基础上，分析RLS 自适应滤波算法。

主要安排如下：

第二章详细介绍了自适应滤波的原理与算法法，所谓自适应滤波，就是利用前一时刻已获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，

计算量小，特别适用于实时处理。第三章介绍了LMS 自适应算法，从LMS 算法的结构和运算入手研究该算法。第四章介绍了递归最小二乘自适应算法，并与其他算法相比较，论述了其优缺点。

2 自适应滤波的原理与算法

在对随机信号处理过程中经常用到的是维纳滤波器和卡尔曼滤波器。维纳(Weiner ) 滤波，它根据平稳随机信号的全部过去和当前的观察数据来估计信号的当前值，在最小均方差的条件下得到系统的传递函数或者冲击响应，它是一种最优线性滤波方法，参数是固定的，适用于平稳随机信号。卡尔曼滤波，它是依据当前时刻数据的观测值和前一时刻对该时刻的预测值进行递推数据处理的滤波算法。它自动调节本身的冲击响应特性，或者说，自动调节数字滤波器的系数，以适应信号变化的特性，从而达到最优化滤波。它的参数是时变的，适用于平稳和非平稳的随机信号。然而，只有对信号噪声的统计特性先验已知的情况下，这两种滤波器才能获得最优滤波。可是，在实际应用中，常常无法得到这些统计特性的先验知识；或者，统计特性是随时间变化的。因此，用维纳或卡尔曼滤波器实现不了最优滤波。在这种情况下，自适应滤波能够提供卓越的滤波性能。

所谓自适应滤波，就是利用前一时刻已获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。

2.1 自适应滤波的原理

图2.1表示了维纳滤波器的输入输出关系，其输入是一组随机信号。

ˆ(n ) x s

图2.1 维纳滤波器的输入输出关系

ˆ(n ) ，图2.1中s (n ) 表示信号的真值，v (n ) 表示噪声。其输出y (n ) 等于s (n ) 的估计值s

ˆ间的均方误差E [e 2(n )]，维纳滤波器是具有这样的h (n ) 或H (Z ) 的滤波器，它能使s 与s 即

ˆ)]=min (2.1) E [e 2(n )]=E [(s -s

从而达到最好地从噪声中提取信号的目的。而自适应滤波器则能自动调节它的h (n ) 值以满足上述最小均方误差的准则。应用横向结构的FIR 滤波器形式来实现自适应滤波是最常用的一种方法。

如果h (n ) 长为L ，则从图2.1中可以得到

y (n ) =

m =0∑h (m ) x (n -m ) =∑h j x j (2.2) j =1L -1L

式中i =m +1；h j =h (i -1) ； x j =x (n -i +1) ；

由此可见，输出y (n ) 是L 个所有过去各输入的线性加权之和，其加权系数就是{h j }。在自适应滤波器中这个加权系数常用符号w i ；表示所希望的输出常用d 表示。为了书写简化时间n 用下标j 表示，于是式(2.2)成为：

y j =∑w i x i , j (2.3)

i =1L

自适应滤波器可以分为线性自适应滤波器和非线性自适应滤波器。非线性自适应滤波器包括Volterra 滤波器和基于神经网络的自适应滤波器。非线性自适应滤波器具有更强的信号处理能力。但是，由于非线性自适应滤波器的计算较复杂，实际用得最多的仍然是线性自适应滤波器。

2.2 自适应滤波算法

对自适应滤波算法的研究是当今自适应信号处理中最为活跃的研究课题之一。自适应滤波算法广泛应用于系统辨识、回波消除、自适应谱线增强、自适应信道均衡、语音线性预测、自适应天线阵等诸多领域中。总之，寻求收敛速度快，计算复杂性低，数值稳定性好的自适应滤波算法是研究人员不断努力追求的目标。虽然线性自适应滤波器和相应的算法具有结构简单、计算复杂性低的优点而广泛应用于实际，但由于对信号的处理能力有限而在应用中受到限制。Volterra 滤波器和基于神经网络的自适应滤波器，由于具有更强的信号处理能力，已成为自适应信号处理中的一个研究热点。

根据自适应滤波算法优化准则的不同，自适应滤波算法可以分为两类最基本的算法:最小均方误差(LMS ) 算法和递推最小二乘(RLS ) 算法。基于最小均方误差准则，LMS 算法使滤波器的输出信号与期望输出信号之间的均方误差E [e 2(n )]最小。基于最小二乘准则，RLS 算法决定自适应滤波器的权系数向量w (n ) 使估计误差的加权平方和y (n ) =∑λn -i *e (i ) 最小。其中λ为遗忘因子，且0

i =1n 2

自适应滤波算法。

2.3 自适应滤波的特征

每个自适应滤波器的实际应用都涉及一个或多个输入信号，以及一个能或不能接入自适应滤波器的期望响应的信号，我们把这些信号统称为自适应滤波器的信号运算环境(SOE ) 。每个自适应滤波器都包括三个模块:

(1)滤波结构:这个模块利用对输入信号的度量，形成滤波器的输出。如果滤波器的输出是输入信号的线性组合，那么这个滤波器就是线性的; 否则就是非线性的。例如，滤波模块可能是用直接或格型结构实现的、可调的有限脉冲响应数字滤波器，或是用级联结构实现的递归滤波器。滤波结构被设计者固定了，而其参数可以用自适应算法进行调整。

(2)性能判据(COP ): COP 模块用自适应滤波器的输入和期望的响应去评价其质量是否与特定应用的要求相符合。规范的选择是用户可接受和数学易处理之间的折衷，我们可以用它推导自适应算法。大多数自适应滤波器使用平方误差的某种平均形式，因为这在数学上是容易处理的，且有利于实际系统的设计。

(3)自适应算法：自适应算法用性能标准的数值、它的某些函数、输入信号和期望的响应来决定如何修改滤波器的参数，以提高性能。自适应算法的复杂性和特性是滤波结构和性能判据的函数。

任何自适应滤波器的设计，都需要信号运算环境的一般先验信息和对特定应用的深入理解。设计者用这些信息去选择性能判据和滤波结构。很明显，信号运算环境的不可靠的先验信息，或不正确的假设会导致严重的性能降低，甚至是滤波器无法解决这个实际问题。从性能评估到对参数进行成功调整的策略转化，即自适应算法的设计，是自适应滤波器的设计和应用中最难的一步。

如果信号运算环境的特性是固定不变的，自适应滤波器的目的就是：找到使自适应滤波器具有最佳性能的参数，然后停止调整。从滤波器开始运行直到其基本达到最佳性能的初始阶段，被称为捕获或收敛模式。然而当信号运算环境的特性随时间改变时，自适应滤波器应首先发现这个变化，然后重新调整自己的参数以跟随这个变化。在这种情况下，滤波器开始于捕获阶段，紧跟着跟踪模式。

期望的响应信号的可利用率，是自适应算法设计中影响非常大的因素。我们看到对于特定的应用，期望的响应对于自适应滤波器是不可用的。因此，自适应必须通过下面两种

方式中的一种来进行:

(1)有监督(有导师) 型自适应：每一时刻自适应滤波器都预先知道期望的响应，计算出误差(即期望的和实际响应的差别) ，然后估计性能规范并且用它来调整自己的系数。

(2)无监督(无导师) 型自适应：当期望的响应不可知时，自适应滤波器就不能准确计算出误差，并用它来改进自己的性能。在许多应用中，输入信号有某些可测量的特性，这些特性在它到达自适应滤波器时消失了。自适应滤波器通过恢复输入信号丢失的特性来调整自己的参数。在其他的一些应用中(如数字通信) 中，自适应滤波器的基本任务是对每个接收到的脉冲进行分类，把它用有限的一组符号中的一个来表示。

2.4 自适应滤波器的应用

自适应滤波器具有在未知环境下良好运行并跟踪输入统计量随时间变化的能力，使得自适应滤波器成为信号处理和自动控制应用领域强大的设备。实际上，自适应滤波器已经成功地应用于通信、雷达、声纳、地震学和生物医学工程等领域。尽管这些应用在特性方面是千变万化的，但它们都有一个共同的基本特征：输入向量和期望响应被用来计算估计误差，该误差依次用来控制一组可调滤波器系数。可调系数取决于所采用的滤波器结构，可取抽头权值、反射系数或旋转参数等形式。自适应滤波器各种应用分为四种类型：

(1)辨识：在这类涉及辨识的应用中，自适应滤波器用来提供一个在某种意义上能够最好拟合未知装置的线性模型。例如：系统辨识。

(2)逆模型：该应用中，自适应滤波器的作用是提供一个逆模型，该模型可在某种意义上最好地拟合未知噪声装置。例如：分层地球建模均衡。

(3)预测：这里，自适应滤波器的作用是对随机信号的当前值提供某种意义上的一个最好预测。例如：预测编码、谱分析。

(4)干扰消除：在最后一类应用中，自适应滤波器以某种意义上的最优化方式消除包含在基本信号中的未知干扰。例如：噪声消除、波束形成。