聲納系統(tǒng)----利用聲波信號確定船只的位置圖象處理----使用紅外檢測是否有飛機出現(xiàn)圖象分析

----

根據(jù)照相機的圖象估計目標的位置和方向，用機器人抓目標時是必須的生物醫(yī)學----估計胎兒的心率控制

----

估計汽艇的位置，以便采用正確的導(dǎo)航行為，如Loran系統(tǒng)地震學

----

檢測地下是否有油田，并根據(jù)油層和巖層的密度，根據(jù)聲反射來估計油田的地下距離。所有這些問題都有一個共同的特點，那就是從含有噪聲的數(shù)據(jù)集中去提取我們所需要的有用信息，這些有用信息可能是“目標出現(xiàn)與否”、“數(shù)字源發(fā)射的是0還是1”或者“目標的距離”、“目標的方位”，或”目標的速度”等，由于噪聲固有的隨機性，因此，有用信息的提取必須采用統(tǒng)計的方法，這些統(tǒng)計方法的基礎(chǔ)就是檢測理論與估計理論，就是本課程后續(xù)章節(jié)學習的內(nèi)容。7.1

估計的基本概念7.2

性能指標7.3

Cramer-RaoBound：估計性能界7.4

最大似然估計使似然函數(shù)最大，適用于常量估計7.5

貝葉斯估計：已知代價函數(shù)及先驗概率，使估計付出的平均代價最小7.6

線性最小均方誤差估計：已知估計量的一、二階矩,使均方誤差最小的7.7

最小二乘估計：觀測與估計偏差的平方和最小估計問題通常是以下三種情況：n

根據(jù)觀測樣本直接對觀測樣本的各類統(tǒng)計特性作出估計；n

根據(jù)觀測樣本，對觀測樣本中的信號中的未知的待定參量作出估計，稱為信號的參量估計問題，又分為點估計和區(qū)間估計；n

根據(jù)觀測樣本對隨時間變化的信號作出波形估計，又稱為過程估計。信源s()P()觀測空間z估計()混合估計規(guī)則nP(n)信號參量估計的統(tǒng)計推斷模型例一般情況下，可以果與數(shù)據(jù)由一個映射關(guān)系確定1、估計量的性能標準

無偏性如果估計量的均值等于非隨機參量或等于隨機參量的均值，則稱估計量具有無偏性。即滿足：對于確定量，有：對于隨機量，有：

有效性對于無偏估計，如果估計的方差越小，表明估計量的取值越集中于真值附近，估計的性能越好。對于有偏估計，盡管估計的方差很小，但估計的誤差可能仍然很大。

有效性對于無偏估計，如果估計的方差越小，表明估計量的取值越集中于真值附近，估計的性能越好。用估計的方差還不能準確地描述估計的性能，所以我們可以用均方誤差作為評價估計量性能的一個指標。

一致性即對于任意小數(shù)，若有：則估計量

為一致估計量。若滿足則稱為均方一致估計量。Fisher信息量CRLB的其他拓展應(yīng)用隨機參量估計的CRLB參量函數(shù)的CRLB：估計目標為標量函數(shù)關(guān)系矢量函數(shù)關(guān)系應(yīng)用舉例應(yīng)用舉例信息矩陣最終結(jié)果(MaximumLikelihoodEstimate)1、最大似然估計似然函數(shù)例1、高斯白噪聲中的直流電平估計-未知參數(shù)。設(shè)有N次獨立觀測z

=A+v

，i=1,2,….N，其中v

~N(0,

)，A為未知2iii參數(shù)，

已知，求A的最大似然估計。2例2、設(shè)有N次獨立觀測z

=v

，i=1,2,….N，其中v

~N(0,2)iii，求2的最大似然估計。例3、高斯白噪聲中的直流電平估計-未知參數(shù)與未知方差。設(shè)有N次獨立觀測z

=A+v

，i=1,2,….N，其中iiv~N(0,22、A均為未知參數(shù)，求A和

的2最大似然估)，計。=[A

2]T1、貝葉斯估計在已知代價函數(shù)及先驗概率基礎(chǔ)上，使估計付出的平均代價最小。設(shè)觀測值為z，待估參量為。估計誤差：設(shè)代價函數(shù)：貝葉斯估計準則：統(tǒng)計平均代價：條件平均代價等價于使下式最小：2、典型代價函數(shù)及貝葉斯估計平方代價：絕對值代價：均勻代價：平方代價：

最小均方估計(MinimalSquare)對

求導(dǎo)數(shù)，并使其等于零：得：即，也稱為條件均值估計。絕對值代價：條件中位數(shù)估計(Median)對

求導(dǎo)數(shù)，并使其等于零，得：可見，估計為條件概率密度的中位數(shù)。均勻代價：最大后驗概率估計(maximal

posterior

probability)應(yīng)當選擇，使它處在后驗概率的最大處。最大后驗概率方程：或由關(guān)系式：兩邊取對數(shù)并對求導(dǎo)，得最大后驗概率方程的另一形式：例1設(shè)觀測為，其中被估計量A在[-A,A

]上均勻分布,0測量噪聲v~N(0,

)，求A的最大后驗概率估計和最小均方估計。0例2高斯白噪聲中的直流電平估計-高斯先驗分布。設(shè)有N次獨立觀測z

=A+v

,i=1,2,….N，其中v~N(0,

)，A~，求iiA的估計。1、線性最小均方估計(linearminimummeansquareerrorestimation)前提：不知道，知道

的一、二階矩特性準則：使均方誤差最小的線性估計實現(xiàn)：選擇適當?shù)南禂?shù)a

及b，使估計均方誤差最小。i正交條件正交條件是信號最佳線性濾波和估計算法的基礎(chǔ)，在隨機信號處理中占有十分重要的地位。性能分析：線性最小均方估計為無偏估計，即有：線性最小均方估計的均方誤差等于誤差與被估計量乘積的統(tǒng)計均值，即：其中：例1、設(shè)觀測模型為z

=s+v

，i=1,2,..，其中隨機參量s以等ii概率取{-2,-1,0,1,2}諸值，噪聲干擾v

以等概率取{-1,0,1}諸i值，且E[sv

]=0，，試根據(jù)一次、二次、三i次觀測數(shù)據(jù)求參量s的線性最小均方估計。1、最小二乘估計（Leastsquareestimation）前提：適用于線性觀測模型；不規(guī)定估計的概率或統(tǒng)計描述；需要關(guān)于被估計量的觀測信號模型;準則：使觀測與估計偏差的平方和最小。假定觀測模型為線性，即觀測數(shù)據(jù)z

與參量

，

，…，k12

之間服從：M其中h

，h

，…，h

為已知常系數(shù)。k1k2kM將觀測方程用矢量及矩陣表示：最小二乘估計是使觀測與估計偏差的平方和最小，即：最小二乘估計為：加權(quán)最小二乘估計為：性能分析：對于線性觀測模型，最小二乘估計是線性估計，對測量噪聲的統(tǒng)計特性無任何假設(shè)，應(yīng)用十分廣泛；若噪聲均值為零，最小二乘估計為無偏估計，即有：性能分析：最小二乘估計的均方誤差為：對于加權(quán)最小二乘估計，如果有一些模型的知識，如E(v)=0，，當時，估計誤差的方差