第七章自适应数字滤波器 Adaptive Filters

第七章自适应数字滤波器

Adaptive Filters

第一节引言

一、自适应 DF

• 60年代以后才出现，发展很快。• 所谓自适应 DF：利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号与噪声未知的或随时间变化的统计特性，从而实现最优滤波。• 这个概念是从仿生学中引伸出来的，生物能以各种有效的方式适应生存环境，生命力极强。

二最小均方误差（ LMS）

• 自适应 DF：以均方误差最小为准则，能自动调节单位脉冲响应 h(n),以达到最优滤波的时变最佳 DF也即：参数会变，随着外界参数变化自动调节，使滤波器效果最佳。• 1957~1966年美国通用公司应用于天线，为了抑制旁瓣而提出。• 奠定自适应滤波器的人是：美国 B.Windrow 及 Hoff：提出自适应 DF算法，主要用于随机信号处理。

三、目的• 设计自适应 DF，可以不必预先知道信号与噪声的自相关函数。• 在滤波过程中，即使信号与噪声的自相关函数随时间缓慢变化， DF也能自动适应，自动调节到满足均方误差最小的要求。

四、自适应发展前景 11、广泛用于系统模型识别如系统建模：其中自适应滤波器作为估计未知系统特性的模型。2、通信信道的自适应均衡如：高速 modem采用信道均衡器：用它补偿信道失真，modem必须通过具有不同频响特性而产生不同失真的信道有效地传送数据，则要求信号均衡器具有可调系数，据信道特性对这些系数进行优化，以使信道失真的某些量度最小化。又如：数字通信接收机：其中自适应滤波器用于信道识别并提供码间串扰的均衡器。

四、自适应发展前景 23、雷达与声纳的波束形成如自适应天线系统，其中自适应滤波器用于波束方向控制，并可在波束方向图中提供一个零点以便消除不希望的干扰。4、消除心电图中的电源干扰如：自适应回波相消器，自适应噪声对消器：其中自适应滤波器用于估计并对消预期信号中的噪声分量。5、噪声中信号的滤波、跟踪、谱线增强以及线性预测等。

五、目前常见的自适应滤波器• 由于设计简单、性能最佳，自适应 DF是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热点。• 主要自适应滤波器：递推最小（ RLS）滤波器，最小均方（ LMS）滤波器，格型滤波器、无限冲激响应（ IIR）滤波器。

第二节最小均方误差（ LMS)自适应 D

F的基本原理

一、均方误差用统计方法，大量数求平均，提出均方误差最小准则，即输出信号与进行信号之间误差最小。其定义为：

22 ))(ˆ)(()( nsnsEnE

测量数据越多，则越准确。h(n)

x(n)=s(n)+w(n) )(ˆ)( nsny 其中 s(n)信号（可以是随机信号或规则信号。

1

0

)()()()()(N

m

mnxnhnxnhny输出：

二、自适应 DF基本原理1.自适应 DF的原理框图自适应数字滤波器参考输入

-+

d(j)

ε(j)

原始输入

x(j)

y(j)

x(j) 表示 j时刻的参考输入， y(j) 表示 j时刻的输出响应 ;d(j) 表示 j时刻的原始输入信号，即所期望的输出响应； ε(j)为误差信号 =d(j)-y(j);

2、自适应 DF的原理(1)自适应 DF的 h(n)单位脉冲响应受 ε(j)误差信号控制。(2) 根据 ε(j)的值而自动调节，使之适合下一刻 (j+1)的输入 x(j+1)，以使输出 y(j+1) 更接近于所期望的响应d(j+1),直至均方误差 E[ε2 (j)]达到最小值 .(3)y(j)最佳地逼近 d(j)，系统完全适应了所加入的两个外来信号，即外界环境。•注意： x(j)和 d(j) 两个输入信号可以是确定的，也可以是随机的，可以是平稳的随机过程，也可以是非平稳的随机过程。•从图中可见：自适应 DF是由普通 DF+相关抵消回路构成。

3、 ADF实现•可以由 FIR DF或 IIR DF实现。但由于收敛性及稳定性，目前用得多为 FIR DF 实现。•FIR滤波器结构有：横向型结构 ( 直接型 )（ Transveral Structure)

对称横向型结构 (Symmetric Transveral Structure)

格形结构 (Lattice Structure)

4、 FIR ADF实现若 FIR DF的单位脉冲响应长度为，则其输出为可见 :(1)是个现在或过去输入值的加权和 .(2) 加权系数就是 h(m)。(3)在自适应 DF中，这个加权系数常用符号 wj 表示 ,时间用 j 表示 .(4)则输出可表示为： (5)自适应 DF可变成自适应线性组合器。

1

0

)()()(N

n

mnxmhny

N

iii jxwjy

1

)()(

5、 FIR ADF的框图（也即自适应线性组合器）

自适应算法

.

.

.

x1j

x2j

xNj

+-

d(j)

ε(j)

y(j)

w1

w2

wN

若设 x1j, x2j , x3j …… xNj ,为同一信号的不同延时组成的延时线抽头形式，即所谓横向 FIR结构。它是最常见的一种自适应 DF结构形式。

一般来讲 x1j, x2j , x3j …… xNj , 可以是任意一组输入信号，并不一定要求当时 x1j = xj, x2j= x(j-1),x3j= x(j-2) ，……， xNj= x(j-N+1) ，即并不要求各 xi(j)是由同一信号的不同延时组成 .

6、横向 FIR ADF的结构

自适应算法

...

x(j) x(j-1) x(j-N+1)

+

-

d(j)

ε(j)

y(j)

w1 w2 wN

若设 x(j), x(j-1) , x(j-2) …… x(j-N+1)j ,为同一信号的不同延时组成的延时线抽头形式，即为横向 FIR结构。它是最常见的一种自适应 DF结构形式。

AFy(j)

ε(j)

x(j)

简化符号为

7、由横向 FIR AF 组成的自适应系统...

x1(j)

x2(j)

xN(j)

+-

d(j)ε(j)

y(j)

w1

w2

wN

AF

AF

AF

当所处理的输入信号 x1(j), x2(j) , x3(j) …… xN(j)来自不同的信号源时，它实际上就等于自适应线性组合器。

三、寻找 E[ε2(j)]=min时的各 wi 值• 自适应 DF的要害在于按照 ε(j) 和各 xi(j)的值，通过某种算法寻找出 E[ε2(j)]=min时的各 wi 值，从而可自动地调节各 wi 值。

1. 写出均方误差的式子• 首先我们推导出自适应线性组合器均方误差

E[ε2(j)]与加权系数 wi的关系式。

)()()()()(

)(

)()(

)(,

3

21

)()()()(

2

1

1

0

jXWjdjyjdj

jx

jxjx

jX

w

ww

W

jXWWjXjxWjy

T

N

TN

n

Tii

求均方误差：此处大写代表矩阵

式中：

写成矩阵形式：

2.x(j)信号与 d(j)信号的自相关函数

的自相关函数是的自相关矩阵称为输入信号

）（

令

)()0()]([)(][

)0(

)0(0

)0()0(

)0(

)0()0(

])]()][([[][

2

2

1

22

21

1

12

11

2

2

1

22

21

1

12

21

jdjdEjxR

x

x

xxxx

xxx

xx

xxx

EjXjXER

dd

xNxN

xNx

xNx

xx

xx

xNx

xx

xx

jN

jNj

jNj

j

jj

jjN

jj

j

T

3.x(j)信号与 d(j)信号的互相关函数

0

)(

)}0(),0(),0({)()(

)()()()(

)]]()[([][

1

21

2

1

mm

m

jxjd

jxjdjxjd

EjXjdEP

dx

TxNddxdx

N

为时间差，同一时间相关函数，与期待输出的信号的互为输入信号在随机过程中

令：

4.求出 E[ε2(j)]与 wi的关系

单个值单个值单个值行方阵列列行单个值

均方误差为：代入式中求得

，，将

)0(

]][[][][][2)]([)]([

)0()]([])]()][([[][)]]()[([][

]][)]()][([][[]][)]()[([2)]([][)]()][([][)](][)[(2)(

])()([)]([

22

2

2

2

22

dd

TT

dd

T

TTT

TT

T

WRWWPjdEjE

jdEjXjXERjXjdEP

WjXjXWEWjXjdEjdEWjXjXWjXWjdjdE

jXWjdEjE

5.求出自适应滤波器的 E[ε2(j)]与wi的关系

1

1

1

1

1

1

2

22

1 1 1

22

)(2)()0()]([

)0(2)0()0()]([1

)0(2)0()0(

]][[][][][2)]([)]([

N

i

N

m

N

idixxmidd

xdxxdd

N

i

N

m

N

idxixxmidd

TT

iWmiWWjE

FIRWWjE

N

WWW

WRWWPjdEjE

imi

数字滤波器有横向不难证明，对于自适应

时，只有一个信号当

由于均方误差为：

第二节性能函数 E[ε2(j)]及其梯度

一、研究 E [ε2(j)]与 [W]的关系

1

1

1

1

1

1

22

)(2)()0(

]][[][][][2)]([)]([N

i

N

m

N

idixxmidd

TT

iWmiWW

WRWWPjdEjE

由于均方误差为：

看出：均方误差 E [ε2(j)]是加权系数W的二次函数，它是一个中间上凹的超抛物形曲面，是具有唯一最小值的函数。

二、 E [ε2(j)]与 [W]的关系曲线)]([ 2 jE

)]([ 22 jE

)]([ 12 jE A

B

调节加权系数W使均方误差最小，相当于沿超抛物形曲面下降到最小值。w)( 2jW)( 1jW

三、梯度法• 在数学上，可用梯度法沿着该曲面调节权矢量的各元素得到这个均方误差 E [ε2(j)]的最小值。

1.均方误差梯度• 将对上式均方误差对权矢量的各 wi进行求导，得到均方误差梯度：

NdwjdE

dwjdE

j)([

)]([

)(2

1

2

)]([ 2 jE

2.求最佳权矢量（用 w* 表示）（ 1）对均方误差梯度求导

]][[00,0,1201

2)]([

][][

][][00,0,1][][00,0,101

][][

01

][][]][[00,0,101

20)]([

0)(

1

2

1

2

WRPdw

jdE

RRR

WRRWRW

RWWRPdw

jdE

j

T

T

TTT

T

T

TT

为对称方阵，

即：

求最佳权矢量，则令

（ 2）求出均方误差梯度表示式

][2]][[2]][[2][2)(

]][[22)]([

]][[22)]([

]][[22)]([]][[]][[00,0,1

201

2],,[][

2

22

2

11

2

11

PWRWRPj

WRxddw

jdE

WRxddw

jdE

WRxddw

jdEWRWR

xdPxdxdP

NjNjN

jj

jj

jjT

jNjjjT

均方误差梯度为：

以此类推：

个元素第

第二元素

第一元素

第一元素

（ 3）维纳 - 霍夫方程

霍夫方程这是著名的维纳

或

达最佳值。为最小，时，当

均方误差梯度为：

][][][][]][[

][)]([0)(

][2]][[2]][[2][2)(

1*

*

2

PRWPWR

WjEj

PWRWRPj

(4)最小均方误差算法][],[],[

]][[)]([)]([][][][

*

*22

1*

WPRPWjdEjE

PRW

即可以求出已知最小误差为：最小权矢量为：

实际上，设计自适应 DF无需知道 R 和 P。自适应 DF与维纳（平稳随机过程） DF 比较，其差别在于增加了一个识别控制环节，将输出 y(j)与所期望的响应 d(j)比较，看是否一样，如果有误差 ε(j)，用 ε(j) 去控制 w,使 w为 E[ε2(j)]=min时的W*.

因此，关键：找到 LMS算法，寻找一个W的递推式，由W=W0，起始值开始，沿着趋于W*的正确方向逐步递推，直至 W=W*， E[ε2(j)]=min为止。这就是最小均方误差算法，简称 LMS算法。

第三节 LMS递推算法• 寻找一个W的递推式，由W=W0，起始值开始，沿着趋于W*的正确方向逐步递推，直至

W=W*， E[ε2(j)]=min为止

一、 LMS算法递推式• LMS递推算法是Windrow与 Hoff 两个提出的。• 设 w(j)是 j时刻的权矢量， w(j+1)是 j+1时刻的权矢量；• 则 LMS算法的递推公式为：• 式中 μ>0, μ是一个控制稳定性与收敛速度的参数。• 因为 E[ε2(j)]是权矢量W的二次方程，即 E[ε2(j)]与W的关系在几何上是一个“碗形”的多维曲面。

时刻的均方误差梯度。是jj :)(

)()()1( jjWjW

指引正确的递推方向。导向参数是 ,:)( jj

二、自适应过程的物理意义)]([ 2 jE

)]([ 22 jE

)]([ 12 jE A

B

)( 2jW)( 1jW

点。即碗底：

。“ ”，去寻找碗的底点连续地调节，据递推式自适应的物理意义：根

*2

,0)]([

)()()1(

wwdw

jdEW

jjWjW

＊W

为了简单，设W是一维的，则 E[ε2(j)]与W的关系成为一个抛物线。

三、自适应递推算法的递推过程1、步骤 1

右边。必在则

时，当

左边。必在则

时，设当

＊

＊

WjWdw

jdEjWW

WjWdw

jdE

jWW

jww

jww

)(,0)]([)(

)(,0)]([

)(

)(

22

)(

2

1

2

1

2. 步骤 2

.))1(

)1)(

,0)]([)(

)()1(,0

)1

22

*2

*2

)(

2

2

11

*1

2

WjWjW

WjWWWjW

dwjdEjWW

WjWjWw

WjWW

jww

（应为

，更接近于（值为了使下一个右边。必在即

时，如果

设

，更接近（值为了使下一个

3. 步骤 3- 合并

T

N

jWW

dWjdE

dWjdE

dWjdEj

jWjjWjW

jWjWjWW

WjWdW

jdEjWjW

)]([)]([)]([)(

)()()()1(

)(.)()1(

)(,0

)]([)()1(

,

2

2

2

1

2

*

*

)(

2

，，，

可用矩阵表示：是多维的情况时，梯度当

表示：用梯度更接近于比值都能使下一个

左边或右边，在不论原来式中

得：将上两式合并

4. 步骤 4-结论

*

*

2

*

)()1(0)(

)()1(

)]([)(

)()()1(

WjWjWj

jjWWW

LMSjEj

WWjjWjW

，当确定。靠扰的步距由的方向向碗底靠扰。将沿着

时，根据上式，当。算法也称为最陡下降法因此

下降最快的方向。代表因为这一点。可以找到

由：

四、 LMS自适应滤波器递推公式（ 1） LMS算法如何实时处理及实现

的无偏估计是，得出的数学期望代入上式，得：

得又

的估值，有：作为均方误差的梯度（用单样本怎样处理呢？参数，不能实时计算，

是个集合平均的，可知：由：

)()(ˆ)()](ˆ[)(ˆ)()(2)(ˆ

)()(,)(,)(),()()(

)(,)(,)()(2

)(,)(,)()(ˆ

)()(ˆ)

)()()()1(

21

)(21

)(

2

2

2

1

2

2

jjjjEjjXjj

jXdW

jddW

jddW

jdjXWjdj

dWjd

dWjd

dWjdj

dWjd

dWjd

dWjdj

jjj

jjjWjW

T

N

T

T

jWWN

T

jWWN

（ 2） LMS自适应滤波器递推公式

的结构图。也可由此设计硬件实现型，软件实现的编程数学模它们就是自适应

）可按上式递推计算，（，）给定输入（

可任意设置。）（）起始条件（式中：

自适应滤波器递推公式得出一组

代入方程中将上式：由误差方程：

DF

jxjxjxWWW

LMS

jXjjWjW

jXjjWjW

jXjjjjWjW

N

N

NNN

3)(),()(2)0(,),0(,01

.

)()(2)()1(

)()(2)()1(

)()(2)()()()1(

21

21

111

五、自适应滤波器的主要结论（ 1）

低。误差最大，估计精度最时

不相关时，互相关系数与当

)]([)]([,00)]()([

)]([)([

2min

21* jdEjEPRWjXjdEPjdjX

]][[][][][2)]([)]([ 22 WRWWPjdEjE TT 因为均方误差为：


高。误差减少，估计精度提则

相关时，与当)([][][)]([)]([

][][)]([)([2*22

1*

jdEPWjdEjEPRWjdjX

T



高。，最准确，估计精度最均方误差为则

时，，即阶数完全相关时，与当

00)]([

0)()()()()()(

1][][

)()(1)]([)([

2

1*

jEjyjdjjdjxjy

PRWRP

jdjXNjdjX


五、自适应滤波器的主要结论（ 4）• 自适应数字滤波器是个线性系统，时变，服从叠加原理。

第四节自适应数字滤波器的应用自适应滤波器最重要特性：能有效地在未知环境中跟踪时变的输入信号，使输出信号达到最优。因而在电信，雷达，声纳，实时控制以及图象处理等领域都有成功的应用。

一、应用介绍• 自适应数字滤波器的应用非常广泛，这里介绍四种。• 一、自适应噪声抵消器；• 二、自适应陷波滤波器；• 三、自适应预测系统。

二自适应噪声抵消器1、自适应噪声抵消器引入

• 固定参数的数字滤波器利用自身的传输特性来抑制信号中的干扰成分，消除干扰的效果受到很大的限制。• 若已知道干扰信号的来源，就可利用干扰源的输出去抵消信号中的混杂的干扰。• 但直接利用干扰源的输出去抵消干扰的做法是危险的，因为由于延迟的影响，不仅不能减小信号中的干扰，反而有可能使干扰加强。• 在自适应噪声抵消器中，是利用干扰源的输出，通过一个数字滤波器，最佳地估计出干扰值，从而从混有干扰的输入中减去干扰估值，实现了干扰与信号相当完善的分离。

2、自适应噪声抵消器的原理框图信号源

噪声源自适应滤波

+

-

)(ne )(ˆ ns

)(0̂ nV

)(1 nV

)()( 0 nVnS 原始输入

互不相关。、与且程，为零均值的平稳随机过、、设定

误差最小。最佳估值，即两者均方为相关的噪声参考输入为与

图中：原始输入为：

)()()()()()(:

)()(ˆ)()(

)()(

10

10

00

10

0

nVnVnSnVnVnS

nVnVnVnV

nVnS

3、自适应噪声抵消器的输出 1

噪声抵消。是相关，这样才能进行、要求。时，

。误差最小求自适应滤波是使均方无关，、与

程为零均值的平稳随机过、、

出自适应噪声抵消器的输

)(ˆ)(min)]([0)](ˆ)([

min)]([0)](ˆ)()(([)()()(

,)()()()](ˆ)()(([2)](ˆ)([)]([

)]([))(ˆ)()((2))(ˆ)(()()(

)(ˆ)()()()(

00

2200

20010

10

002

002

200

200

2200

nVnVneEnVnVE

neEnVnVnsEnVnVnS

nVnVnSnVnVnsEnVnVEnSE

neEnVnVnSnVnVnSne

nVnVnSnene

3、自适应噪声抵消器的输出 2

相等则最佳。（一般为噪声）相关，必须与被抵消信号参考输入信号

务条件：完成自适应噪声抵消任看出：自适应滤波器要。这时自适应滤波器关闭

号，什么信号，出来什么信也表明：原始信号进来

那么：不相关，则、若

)()(

000

)](ˆ[)]([)]([)](ˆ)([(2)](ˆ[)]([)]([

)]([0)](ˆ)([()(ˆ)(

01

20

20

200

20

20

2

20000

nVnV

nVEnVEnSEnVnVEnVEnVEnSE

neEnVnVEnVnV

4、自适应噪声抵消器的应用（ 1）胎心心电图中消去母体干扰1

• 因为胎儿心电图的研究，解决妇产科（难胎位、单胎位、双胎位、分娩期间心率是否正常）及优生学方面（孕妇怀孕的中，后期预测胎儿在的生理状况）。• 胎儿心电只有母体的 1/10.• 胎儿心电图在胎儿腹壁测量。称腹壁胎儿心电图，简称心电图。

（ 1）胎心心电图中消去母体干扰2

输出腹部电极（原始输入）胸参部输电考极入（自适应胎儿心电图测试仪）

其中原始输入 a(t)=f(t)+m(t)+n(t)

f(t): 胎儿心脏产生信号m(t): 母亲心脏产生信号n(t):噪声干扰信号（主要由肌肉起的，有时称“肌肉噪声”）。

采用自适应噪声抵消器消除胎儿心电图中母体心脏信号（干扰）。一般采用：四个普通胸导（每路信号相同）记录母亲心跳，作为参考输入信号。经过自适应噪声抵消器处理后，母亲心脏干扰信号被显著消弱，胎儿心声可辨。

（ 1）胎心心电图中消去母体干扰 3• 预滤波带宽 3~35Hz.• 胎儿脉冲（谐波很多）• 抽样频率：为 256Hz.

（ 2）噪声抵消器其他应用• 语音信号的镇噪、飞机、汽车，船舱内大量噪声的抑制。• 天线旁瓣干扰的消除，以及消除 50Hz 纹波等。

三、自适应陷波器• 若信号中的干扰是单频的正弦波，设频率为 w0则消除这种干扰的正确方法是应用陷波器。

1、陷波器理想频率特性

)( jH

w0

2、自适应陷波器的优点• 与一般陷波器比较，有两大优点：• （ 1）能够自适应地准确跟踪干扰频率。• （ 2）容易控制带宽，且

值越高，带宽越窄。

为带宽。，其中单频干扰频率为

Q

ffff

Q

00 ,

3、单频干扰陷波器框图

90°

LMS算法

+

-

参考输入

原始输入 )( j

jy

)cos( 0 twC

)cos()( 0 tAts

)( jd

)(1 jx

)(2 jx

频率相同相位与干扰频率不同但幅度参考输入

陷波要去掉信号其中：原始输入：

)cos(:

)cos()(

0

0

tc

tAts

作业• 设计并实现应用于心电图中 50Hz的干扰陷波器。

Documents

第七章 自适应数字滤波器 Adaptive Filters

第七章自适应数字滤波器 Adaptive Filters