统计信号处理基础 - Wuhan Universitydsp.whu.edu.cn/course/signalde/image/ch3.pdf · 上次课的回顾信号参量估计－点估计和区间估计估计的性能评估无偏性－从数学期望考察

统计信号处理基础—估计理论

杨文电子信息学院测绘校区教学实验大楼十楼1008室E-mail: [email protected]

内容提要

上次课的回顾上次课的回顾

线性模型线性模型LMLM一般一般MVUMVU估计－估计－RBLSRBLS最佳线性无偏估计量最佳线性无偏估计量BLUEBLUE应用实例应用实例

上次课的回顾

信号参量估计－点估计和区间估计信号参量估计－点估计和区间估计

估计的性能评估估计的性能评估

无偏性－从数学期望考察无偏性－从数学期望考察

有效性有效性((优效性优效性))－从方差（均方误差）考察－从方差（均方误差）考察一致性－希望随着观测次数一致性－希望随着观测次数NN的增加，估计的增加，估计量的质量有所提高，即估计值趋于被估计值量的质量有所提高，即估计值趋于被估计值的真值，或者估计的均方误差逐步减小的真值，或者估计的均方误差逐步减小

充分性（充分统计量）充分性（充分统计量）

Review of the last lectureReview of the last lecture

上次课的回顾

直接判断一个无偏估计量的均方误差是否达到最小通直接判断一个无偏估计量的均方误差是否达到最小通常是困难的。为此，需要研究任意无偏估计量均方误常是困难的。为此，需要研究任意无偏估计量均方误差的下界及取下界的条件。差的下界及取下界的条件。

确定这样一个下界的好处确定这样一个下界的好处如果被估计量如果被估计量的任意无偏估计量的任意无偏估计量的均方误差达到该下界，的均方误差达到该下界，那么它就是最小均方误差无偏估计量（或最小方差无偏估计那么它就是最小均方误差无偏估计量（或最小方差无偏估计量）量）

如果无偏估计量的均方误差达不到该下界，则该下界为比较如果无偏估计量的均方误差达不到该下界，则该下界为比较无偏估计量的性能提供了一个标准无偏估计量的性能提供了一个标准

同时提醒我们，不可能求得均方误差小于下界的无偏估计量同时提醒我们，不可能求得均方误差小于下界的无偏估计量

尽管存在多种这样的界，但是，克拉美－罗尽管存在多种这样的界，但是，克拉美－罗（（CramerCramer--RaoRao）界是较容易确定的。）界是较容易确定的。

θ θ̂


上次课的回顾定理3.1 CRLB－标量参数假设pdf 满足正则条件

数学期望是对求取的。那么，任何无偏估计量的方

差必须满足

其中导数是在θ的真值处计算的，数学期望是对求取的。

而且对于某个函数，当且仅当下式成立时，对所有θ 达到

下限的无偏估计量就可以求得。

(x; )p θln (x; ) 0pE θ θ

θ∂⎡ ⎤ =⎢ ⎥∂⎣ ⎦

对于所有的

θ̂

2

2

1ˆvar( )ln (x; )pE

θθ

θ

≥⎡ ⎤∂

− ⎢ ⎥∂⎣ ⎦(x; )p θ

,g I

ln (x; ) ( )( (x) )p I gθ θ θθ

∂= −

∂ˆ (x)gθ = 1/ ( )I θ该估计量是，它是MVU估计量，最小方差是

(x; )p θ


上次课的回顾

确定确定CramerCramer--RaoRao Lower Lower Bound(CRLBBound(CRLB))并检查是并检查是否有估计量满足该条件。否有估计量满足该条件。

应用应用RaoRao－－BlackwellBlackwell－－LehmannLehmann－－Scheffe(RBLSScheffe(RBLS))定理。定理。

进一步限定估计量为线性的，然后在这些限制中寻找进一步限定估计量为线性的，然后在这些限制中寻找最小方差估计最小方差估计(Best Linear Unbiased Estimators(Best Linear Unbiased Estimators--BLUE)BLUE)。。

即使一个即使一个MVUMVU存在我们可能也无法求解，目前还存在我们可能也无法求解，目前还不存在一种普遍的方法。以下是几种寻找不存在一种普遍的方法。以下是几种寻找MVUMVU的的途径：途径：


线性模型－引言

MVUMVU估计量的确定一般来说是一项很困难的估计量的确定一般来说是一项很困难的任务，但是如果信号模型符合线性模型，那么任务，但是如果信号模型符合线性模型，那么不仅可以立即确定不仅可以立即确定MVUMVU估计量，而且也可以估计量，而且也可以很自然地得到它的统计性能。很自然地得到它的统计性能。

寻找最佳估计量的关键就是按照线性模型来构寻找最佳估计量的关键就是按照线性模型来构造问题，以便充分利用线性模型的独特性质造问题，以便充分利用线性模型的独特性质（线性模型的（线性模型的MVUMVU估计量的高斯特性允许我估计量的高斯特性允许我们精确地确定统计性能）。们精确地确定统计性能）。

Linear ModelsLinear Models

直线拟合问题中的线性模型




一般情况下要验证其是否可逆


对比(4.4)式和(4.2)式可得


当且仅当当且仅当HH的列是线性独立时的列是线性独立时HHTTHH的逆存在（或当且仅当的逆存在（或当且仅当HH的列是线性独立时，的列是线性独立时， HHTTHH是正定的，因而也是可逆的）是正定的，因而也是可逆的）

定理4.1 线性模型的MVU估计: 如果观测数据可以被建模为（4.8）

其中x是N×1的观测矢量,H是已知的N×p（N>p）观测矩阵,秩为p。是p×1的待估计的参数向量，w是N×1的噪声矢量,概率密度函数为

则 MVU估计为: （4.9）

的协方差矩阵是: （4.10）

对于线性模型, MVU估计量是有效的，它达到了CRLB

线性模型


θ

（4.8）

（4.8）式代入到（4.9）式，易证是无偏的，由于是高斯随机矢量的线性变换，因此的性能就可完全确定（不仅仅是均值和方差），因而

线性模型线性模型MVUMVU估计量的高斯特性允许我们精确的确定统计估计量的高斯特性允许我们精确的确定统计性能。性能。

线性模型


（4.9）

θ̂θ̂x

θ̂

2 1ˆ N( , ( ) )TH Hθ θ σ −∼

线性模型举例－例4.1曲线拟合


这里

曲线拟合问题的线性模型

线性模型举例－例4.1


线性模型举例-例4.1Linear ModelsLinear Models

线性模型举例-例4.2傅立叶分析Linear ModelsLinear Models

线性模型举例－例4.2Linear ModelsLinear Models

线性模型的扩展

11

(0, )

,T

T T T T

w N C CC C

C D DD N N D w

E Dw Dw DCD DD D D ID

−−

=

×

= =

∼-1

-1

更一般的线性模型允许噪声不是白噪声。一般线性模型假定

，其中不必是与单位矩阵成比例的矩阵。

采用“白化（whitening）”方法由于假定是正定的，也是

正定的，所以可以分解为

其中是的可逆矩阵。当矩阵应用到时，由于

[( )( ) ]=

所以矩阵

(0, ),H w

D DH D H w w Dw N Iθθ θ′ ′ ′ ′+ + ∼

起到白化变换的作用。因此，如果将一般线性模型

x= +

变换到x = x= w= ,由于 = 所以噪声将

被白化，并且得到通常意义下的线性模型。



1 1

1 1 1

1ˆ

1 1ˆ

ˆ ( ) ( )ˆ ( )

( )

( ) (4.26)

T T T T T T

T T

T

T

MVU

H H H H D DH H D D

H C H H CC H H

C H C H

θ

θ

θ

θ

θ

− −

− − −

−

− −

′ ′ ′ ′=

=

′ ′=

=

根据（4.9）式，的估计量为

x = x

所以 x (4.25)

类似地，可求得

或最终得到：

Linear ModelsLinear Models （4.9）1 1

ˆ ( ) (4.26)TC H C H

θ− −=

例4.4 色噪声中的DC电平

Linear ModelsLinear Models 1 1 1ˆ ( )T TH C H H Cθ − − −= x (4.25)

例4.4 色噪声中的DC电平



1

2 1ˆ

ˆ ( ) ( ) (4.28)

( ) (4.29)

T T

T

H wH w

H H H

C H Hθ

θθ

θ

σ

−

−

′ ′

=

对线性模型的另一个扩展是允许信号分量是已知的，

假定s表示包含在数据中的已知信号，则加入这个信号

后的线性模型是

x= +s+

为了确定MVU估计量，令x =x-s,所以x = +

现在它满足线性模型的形式，MVU估计量为

＝ x-s

协方差矩阵为


例4.5 白噪声中的DC电平和指数信号

1ˆ ( ) ( ) (4.28)T TH H Hθ −＝ x-s


2 1ˆ ( ) (4.29)

TC H Hθ

σ −=

一般线性模型的MVU

H wθx= +s+

(0, )N C

定理4.2 如果观测数据可以表示为:

其中x是N×1的观测矢量,H是已知的N×p（N>p）观测矩阵,秩为p。是p×1的待估计的参数向量， s是N×1的已知信号样本矢量, w是N×1的噪声矢量, 并且PDF为 ,则 MVU估计为:

对于一般的线性模型, MVU估计量是有效的，它达到了CRLB

1 1 1

1 1ˆ

ˆ ( ) ( )

( )

T T

T

H C H H C

C H C Hθ

θ −

−=

－－

－

＝ x-s

协方差矩阵为


θ

一般MVU估计

重要概念：充分统计量

重要定理：

Neyman-Fisher因子分解定理Rao-Blackwell-Lehmann-Scheffe定理

General Minimum Variance Unbiased EstimationGeneral Minimum Variance Unbiased Estimation

例：WGN中的DC电平

----哪些数据与估计问题有关？哪些数据与估计问题有关？----是否存在一个数据集是充分的？是否存在一个数据集是充分的？

对于估计问题，可能存在许多充分数据集。包含最少元对于估计问题，可能存在许多充分数据集。包含最少元素的数据集称为最小充分统计量。素的数据集称为最小充分统计量。

一般MVU估计－充分统计量


三个三个都是都是充分的充分的

充分统计量

统计量是数据的函数统计量是数据的函数

充分统计量是包含目前取样的随机变量所有信充分统计量是包含目前取样的随机变量所有信息的一种统计量，它包含了确定最优决策或估息的一种统计量，它包含了确定最优决策或估计的所有必须信息计的所有必须信息

充分统计量的思想是在不丢失数据信息的情况充分统计量的思想是在不丢失数据信息的情况下利用统计量缩减数据下利用统计量缩减数据

充分统计量不一定是一种估计，但它必须包含充分统计量不一定是一种估计，但它必须包含一种估计所必需的所有信息一种估计所必需的所有信息

我们有了充分统计量后就不需要更多的数据了我们有了充分统计量后就不需要更多的数据了


最小充分统计量

充分统计量表现了数据的缩减，但依然可能包含估计θ 时不必需的信息

在不损失θ信息的前提下，最小充分统计量是不能进一步减少的充分统计量

如果我们有了最小充分统计量，就没有必要考虑任何其它更大维数的统计量

最小充分统计量是其他充分统计量的函数


为了验证统计量是充分的，我们必须确定条件PDF，并且确定它是与θ无关的。对于许多问题，计算条件PDF是非常棘手的事情，所以需要一种更为简便的方法。

更为复杂的问题就是要辨别潜在的充分统计量。猜测充分统计量然后验证的方法在实际中当然是不能满足需要的。为了减少这种猜测，我们可以利用Neyman-Fisher分解定理

充分统计量


Neyman-Fisher因子分解定理

定理5.1（Neyman-Fisher因子分解）如果我们能够将PDF分解为

其中g为仅通过T(x)才与x有关的函数，h是仅依赖于x的函数，那么T(x)是θ的充分统计量。反过来，如果T(x)是θ的充分统计量，那么PDF可以分解为上式。

理解：若诸样本随机变量的联合概率密度函数可以分解为某统计量理解：若诸样本随机变量的联合概率密度函数可以分解为某统计量的密度函数与某一完全不含参数的函数之乘积，那么该统计量必是的密度函数与某一完全不含参数的函数之乘积，那么该统计量必是该参数的充分统计量，反之亦然。该参数的充分统计量，反之亦然。

( ; ) ( ( ), ) ( ) (5.3)p g T hθ θ=x x x


应注意的是，应注意的是，PDFPDF能否能否以要求的形式进行分解以要求的形式进行分解有时并不是很明显。有时并不是很明显。如果是这种情况，如果是这种情况，

充分估计量有可能并不存在充分估计量有可能并不存在

例5.2 WGN中的DC电平


例5.3 WGN的功率


例5.4 正弦信号的相位


联合充分统计量

( ), ( ), , ( ) ( ( ), ( ), , ( ); )

( ), ( ), , ( ), (5.4)( ), ( ), , ( )

r T T T PDFp T T Tr

pp T T T hT T T

θθ

θθ θ

θ

1 2 r 1 2 r

1 2 r

1 2 r

如果个统计量 x x x 的条件 x| x x x

与无关，那么我们就称这个统计量为联合充分统计量。Neyman-Fisher

定理断言：如果 (x; )能够分解为

(x; )＝g( x x x ) (x)

那么，{ x x x }是的充分统计量。

很明显，原始数据总

1

,[ ] 0,1, , 1

( ; ) 1,n

r NT x n n N

g p hθ+

== = −

= =

是充分统计量，因为可令以及

(x)

因此， x 那么（5.4）变成了恒等式。但原始数据很少是

充分统计量的最小集。


理解：原始数据总是充分统计量，但很少是最小充分统计量理解：原始数据总是充分统计量，但很少是最小充分统计量

假定T(x)是参数θ的一个充分统计量，利用T(x)求解MVU估计量的两种方法如下：①.求θ的任何无偏统计量，确定 ,数学期望是对来求的。②.求某个函数g，以便使是θ的无偏估计量

利用充分统计量求MVU估计量

方法1需要计算条件数学期望，通常在数学上不易处理；方法2是在实际中通常使用的一种方法。


RBLS定理

定理5.2（Rao-Blackwell-Lehmann-Scheffe）如果是θ的无偏估计量，T(x)是θ的充分统计量，那么

是：1.θ的一个适用的估计量（与θ无关）；2.无偏的；3.对于所有的θ，它的方差要小于或等于的方差另外，如果充分估计量是完备的，那么是MVU估计量。θ̂


充分统计量是完备的：如果只存在一个它的惟一函数，这个惟一的函数是无偏估计量，那么该统计量就是完备的

如果条件

只对零函数 (对所有的T)即满足,那么统计量是完备的。

( ) ( ; ) 0v T p T dTθ θ∞

−∞=∫ 对于所有的（5.8）

( ) 0v T

充分统计量的完备性

=


1.利用Neyman-Fisher因子分解定理来求一个θ的统计量，即T(x)；

2.确定充分统计量是否是完备的，如果是，继续往下进行处

理；否则这个方法就不能使用；

3.求一个充分统计量的函数，以此来得到一个无偏估计

。那么是无偏估计量。

对步骤3我们也可以采用另一种方法：

3’.计算，其中是任意无偏估计量。

利用充分统计量求MVU估计量－一般步骤


求MVU估计量的流程图

( )T x


利用利用NeymanNeyman--FisherFisher因子因子分解定理来求充分统计量分解定理来求充分统计量

确定确定TT(x(x))是否是完备的是否是完备的

求一个无偏的求一个无偏的TT(x(x))的函数的函数

ˆ ( ( ))g T MVUθ =＝ x 估计量

( ) ( ; ) 0v T p T dTθ∞

−∞=∫

图5.5 求MVU估计量的步骤（标量参数）

例5.8 均匀噪声的均值


例5.8 均匀噪声的均值


(5.9)

利用充分统计量求MVU估计量－矢量参数


在矢量情况下，要求取一个无偏矢量估计量（每个元在矢量情况下，要求取一个无偏矢量估计量（每个元素是无偏的），这样的矢量估计量的每个元素具有最素是无偏的），这样的矢量估计量的每个元素具有最小方差。小方差。

在矢量情况下，可能会碰到充分统计量的个数比待估在矢量情况下，可能会碰到充分统计量的个数比待估参数的个数更多，或者相同，或者更少的情况－如何参数的个数更多，或者相同，或者更少的情况－如何处理？处理？

定理5.3（Neyman-Fisher因子分解）如果我们能够将PDF

分解为

(5.11)

其中g为只是通过T(x)才与x有关的函数，h只是x的函数，

那么T(x)是的充分统计量。反过来，如果T(x)是的

充分统计量，那么PDF可以分解为上式。


注意：总是存在一个充分统计量的集合，数据集注意：总是存在一个充分统计量的集合，数据集xx自己就是一个充分统计自己就是一个充分统计量。有疑问的正是充分统计量的维数，这正是因子分解定理要告诉我们的量。有疑问的正是充分统计量的维数，这正是因子分解定理要告诉我们的


(x; )p θ(x; ) ( (x), ) (x)p g T h=θ θ

θθ

充分统计量(矢量参数) －例 5.9


(x; ) ( (x), ) (x)p g T h=θ θ (5.11)

充分统计量(矢量参数) －例 5.9


充分统计量(矢量参数) -例 5.10General Minimum Variance Unbiased EstimationGeneral Minimum Variance Unbiased Estimation

定理5.4 (Rao-Blackwell-Lehmann-Scheffe(矢量参数))

如果是的无偏估计量，是关于的r×1的充

分统计量，那么是

1. 的一个可用的估计量（与无关）；2.无偏的；

3.它的方差要小于或等于的方差（的每一个元素都有小一些的或相等的方差）。

另外，如果充分估计量是完备的，那么是MVU估计量。



θ θ

θ θ

( )T θ

矢量参数条件下的完备性


RBLS(矢量参数) －例 5.11


RBLS(矢量参数) －例 5.11General Minimum Variance Unbiased EstimationGeneral Minimum Variance Unbiased Estimation


这也再一次说明了这也再一次说明了MVUMVU估计量不一定估计量不一定

是有效的。是有效的。只有当它达到只有当它达到CRLBCRLB下限时，才是有效的下限时，才是有效的

RBLS(矢量参数) －例 5.11General Minimum Variance Unbiased EstimationGeneral Minimum Variance Unbiased Estimation

RBLS(矢量参数) －例 5.11


最佳线性无偏估计量（BLUE）在实际中通常出现的情况是，在实际中通常出现的情况是，MVUMVU估计量即使存估计量即使存在也无法求出。例如我们可能不知道数据的在也无法求出。例如我们可能不知道数据的PDFPDF，，或者即使知道，我们也愿意为它假定一个模型，这或者即使知道，我们也愿意为它假定一个模型，这种情况下，我们就不能应用种情况下，我们就不能应用CRLBCRLB或者或者RBLSRBLS理论理论即使即使PDFPDF已知，已知，CRLBCRLB或者或者RBLSRBLS也不一定能确定也不一定能确定MVUMVU估计量估计量因此我们需要寻找准最佳估计量，一个常用方法是因此我们需要寻找准最佳估计量，一个常用方法是限制估计量为观测数据的线性函数，并求解无偏且限制估计量为观测数据的线性函数，并求解无偏且具有最小方差的线性估计量－最佳线性无偏估计量。具有最小方差的线性估计量－最佳线性无偏估计量。

BLUEBLUE限定估计量与观测数据呈线性限定估计量与观测数据呈线性只需要通过前二阶矩的知识就可以求得只需要通过前二阶矩的知识就可以求得BLUEBLUE

Best Linear Unbiased EstimatorsBest Linear Unbiased Estimators

BLUE的定义BLUEBLUE限定估计量与数据呈线性的，即：限定估计量与数据呈线性的，即：

要确定要确定BLUEBLUE，我们必须先决定，我们必须先决定，该估计量是无偏，该估计量是无偏而且具有最小方差。而且具有最小方差。

由于限定估计量是一类线性估计量，只有当由于限定估计量是一类线性估计量，只有当MVUMVU估计估计量刚好是线性时，量刚好是线性时，BLUEBLUE才是最佳的，即才是最佳的，即MVUMVU估计估计量，否则，量，否则，BLUEBLUE估计是准最佳估计估计是准最佳估计如果如果MVUMVU估计量是非线性的，那么估计量是非线性的，那么BLUEBLUE是准最佳估是准最佳估计，而且性能上的差别是很大的。有一些估计问题运计，而且性能上的差别是很大的。有一些估计问题运用用BLUEBLUE是很不合适的，例如是很不合适的，例如WGNWGN功率的估计问题，功率的估计问题，这时可考虑变换数据的这时可考虑变换数据的BLUEBLUE

-1

0

ˆ [ ].N

nn

a x nθ=

=∑na


BLUE的最佳性


图图6.1 BLUE6.1 BLUE的最佳性的最佳性

求BLUE约束约束是线性和无偏的，求是线性和无偏的，求以使方差最小，即以使方差最小，即

的方差为：的方差为：

na-1

0

ˆ( ) ( [ ])N

nn

E a E x nθ θ=

= =∑θ̂

θ̂

2

2

ˆvar( ) ( x (x))

( (x (x)))

(x (x))(x (x)) (6.3)

T T

T

T T

T

E E

E E

E E E

C

θ ⎡ ⎤= −⎣ ⎦⎡ ⎤= −⎣ ⎦⎡ ⎤= − −⎣ ⎦

=

a a

a

a a

a a

2-1 -1ˆvar( ) [ ] [ ] (6.2)0 0

N NE a x n E a x nn n

n nθ

⎡ ⎤⎛ ⎞⎛ ⎞⎢ ⎥⎜ ⎟= − ⎜ ⎟∑ ∑⎢ ⎥⎜ ⎟⎜ ⎟= =⎝ ⎠⎝ ⎠⎢ ⎥⎣ ⎦


0 1 1[ ]Na a a −=aa

令

权重矢量是在约束(6.2)式的情

况下通过使(6.3)式最小而求得

求BLUE为了满足无偏的约束，为了满足无偏的约束，必须与必须与呈线性关系：呈线性关系：

其中其中是已知的是已知的

在在约束下，使方差约束下，使方差

最小最小,,得到得到

( [ ])E x n θ

[ ]s n-1 [ ] 10 n

N a s nn =∑ =ˆvar( ) T Cθ = a a

-1( [ ]) [ ] [ ] 10NE x n s n a s nnnθ ∑= ⇒ ==

-1 T -1C C xˆopt T -1 -1C C

1ˆvar( ) T -1C

θ

θ

= =

=

s sa

s s s s

s s


-1 ( [ ])0-1 [ ]0-1 [ ] 1 10

[ [0] [1] [ 1]]

N a E x nnnN a s nnn

TN a s nnn

s s s N

θ

θ θ

∑ ==

∑ ==

∑ = ⇒ ==

= −

a s

s

BLUEBLUE

最小方差最小方差

求BLUE

为了确定为了确定BLUEBLUE，我们只需要知道以下知识：，我们只需要知道以下知识：——SS或者成比例的均值或者成比例的均值——协方差矩阵协方差矩阵CC，前二阶矩阵，但不是整个，前二阶矩阵，但不是整个PDFPDF

即前二阶矩，而不是整个即前二阶矩，而不是整个PDFPDFEgEg. . 白噪声和不相关噪声中的白噪声和不相关噪声中的DCDC电平电平


例6.1 白噪声中的DC电平( [ ]) [ ] (6.4)E x n s n θ=

T -1C xˆ (6.5)-1Cθ =

s

s s

Best Linear Unbiased EstimatorsBest Linear Unbiased Estimators 1ˆvar( ) (6.6)T -1Cθ =

s s

例6.2 不相关噪声中的DC电平

1ˆvar( ) (6.6)T -1Cθ =

s s

BLUEBLUE中中CC--11的的出现起什么作出现起什么作

用？用？

Best Linear Unbiased EstimatorsBest Linear Unbiased EstimatorsT -1C xˆ (6.5)-1C

θ =s

s s

求BLUE


对于高斯噪声的对于高斯噪声的BLUEBLUE和和MVUMVU估计量是相同估计量是相同的，即如果数据是高斯的，那么的，即如果数据是高斯的，那么BLUEBLUE也是也是MVUMVU估计量估计量

定理 6.1 高斯-马尔可夫定理

-1 -1ii

-1 -1ˆ

N p p 1

N 1

ˆBLUE (6.19)

ˆ ˆvar =[( ) ] (6.20)

ˆ = ( ) (6.21)

T

T

i i

θ

θ θ

× ×

×

T -1 -1 T -1

x = Hθ + w

H θ

w C

θ θ=(H C H) H C x

H C H

θ C H C H

如果数据具有线性模型的形式，即，

是已知的矩阵，是的待估计参数矢量，

是的均值为零，协方差为的噪声矢量，则

的是：

的最小方差为： ( )

的协方差矩阵为：

BLUE的矢量参数


应用实例－源定位(例6.3)


应用实例－源定位(例6.3)Best Linear Unbiased EstimatorsBest Linear Unbiased Estimators

练习1

Kay: Problem 4.13Kay: Problem 4.13

答案1

练习2，3

Kay: Problem 5.4,5.5Kay: Problem 5.4,5.5

答案2

答案3

练习4


答案4

练习5


练习6

| |

2 2

( ) ,

, ( ) 2

x

X

f x e x

X

μλ

λλ μ

μ σ λ

−−

= −∞ < < ∞

=

设随机变量有密度函数

1

2

其中为正常数，为实常数，则称X服从拉普拉斯分布

性质：E(X)=


练习6

22 2 1 2λ = ⋅ =

练习6

Any QuestionsAny Questions！！

内容提要上次课的回顾上次课的回顾上次课的回顾上次课的回顾线性模型－引言直线拟合问题中的线性模型直线拟合问题中的线性模型直线拟合问题中的线性模型线性模型举例－例4.1�曲线拟合线性模型的扩展线性模型的扩展例4.4 色噪声中的DC电平例4.4 色噪声中的DC电平线性模型的扩展例4.5 白噪声中的DC电平和指数信号一般线性模型的MVU一般MVU估计充分统计量最小充分统计量Neyman-Fisher因子分解定理例5.2 WGN中的DC电平例5.3 WGN的功率例5.4 正弦信号的相位例5.4 正弦信号的相位联合充分统计量RBLS定理求MVU估计量的流程图例5.8 均匀噪声的均值例5.8 均匀噪声的均值例5.8 均匀噪声的均值例5.8 均匀噪声的均值例5.8 均匀噪声的均值例5.8 均匀噪声的均值例5.8 均匀噪声的均值矢量参数条件下的完备性最佳线性无偏估计量（BLUE）BLUE的定义BLUE的最佳性例6.1 白噪声中的DC电平例6.2 不相关噪声中的DC电平应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)应用实例－源定位(例6.3)练习1答案1练习2，3答案2答案3练习4答案4答案4练习5练习5练习6练习6练习6

Documents

统计信号处理基础 - Wuhan Universitydsp.whu.edu.cn/course/signalde/image/ch3.pdf · 上次课的回顾 信号参量估计－点估计和区间估计 估计的性能评估 无偏性－从数学期望考察

统计信号处理基础 - Wuhan Universitydsp.whu.edu.cn/course/signalde/image/ch3.pdf · 上次课的回顾信号参量估计－点估计和区间估计估计的性能评估无偏性－从数学期望考察