1、卡爾曼濾波簡(jiǎn)介及其算法實(shí)現(xiàn)代碼卡爾曼濾波算法實(shí)現(xiàn)代碼（ C， C分別實(shí)現(xiàn)）卡爾曼濾波器簡(jiǎn)介近來發(fā)現(xiàn)有些問題很多人都很感興趣。所以在這里希望能盡自己能力跟大家討論一些力所能及的算法。現(xiàn)在先討論一下卡爾曼濾波器，如果時(shí)間和能力允許，我還希望能夠?qū)憣懫渌乃惴ǎ邕z傳算法，傅立葉變換，數(shù)字濾波，神經(jīng)網(wǎng)絡(luò)，圖像處理等等。因?yàn)檫@里不能寫復(fù)雜的數(shù)學(xué)公式，所以也只能形象的描述。希望如果哪位是這方面的專家，歡迎討論更正。卡爾曼濾波器 Kalman Filter1什么是卡爾曼濾波器（ What is the Kalman Filter? ）在學(xué)習(xí)卡爾曼濾波器之前，首先看看為什么叫“卡爾曼”。 跟其他著名的理論

2、（例如傅立葉變換，泰勒級(jí)數(shù)等等）一樣，卡爾曼也是一個(gè)人的名字，而跟他們不同的是，他是個(gè)現(xiàn)代人！卡爾曼全名Rudolf Emil Kalman ，匈牙利數(shù)學(xué)家，1930 年出生于匈牙利首都布達(dá)佩斯。1953，1954 年于麻省理工學(xué)院分別獲得電機(jī)工程學(xué)士及碩士學(xué)位。1957 年于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和1960 年發(fā)表的論文A NewApproach to Linear Filtering and Prediction Problems （線性濾波與預(yù)測(cè)問題的新方法）。如果對(duì)這編論文有興趣，可以到這里的地址下載：http:/www.cs.un

3、/welch/media/pdf/Kalman1960.pdf。簡(jiǎn)單來說，卡爾曼濾波器是一個(gè)“optimal recursive data processing algorithm （最優(yōu)化自回歸數(shù)據(jù)處理算法）”。對(duì)于解決很大部分的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過30 年，包括機(jī)器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以及導(dǎo)彈追蹤等等。近年來更被應(yīng)用于計(jì)算機(jī)圖像處理，例如頭臉識(shí)別，圖像分割，圖像邊緣檢測(cè)等等。2卡爾曼濾波器的介紹（ Introduction to the Kalman Filter）為了可以更加容易的理解卡爾曼濾波器，這里會(huì)應(yīng)

4、用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號(hào)。但是， 他的 5 條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計(jì)算機(jī)，其實(shí)卡爾曼的程序相當(dāng)?shù)暮?jiǎn)單，只要你理解了他的那5 條公式。在介紹他的5 條公式之前，先讓我們來根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對(duì)象是一個(gè)房間的溫度。根據(jù)你的經(jīng)驗(yàn)判斷，這個(gè)房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度(假設(shè)我們用一分鐘來做時(shí)間單位)。 假設(shè)你對(duì)你的經(jīng)驗(yàn)不是100%的相信，可能會(huì)有上下偏差幾度。我們把這些偏差看成是高斯白噪聲(WhiteGaussian Noise )，也就是這些偏差跟前后時(shí)間是沒有關(guān)系的而且符合高斯

5、分配(GaussianDistribution )。另外，我們?cè)诜块g里放一個(gè)溫度計(jì)，但是這個(gè)溫度計(jì)也不準(zhǔn)確的，測(cè)量值會(huì)比 實(shí)際值偏差。我們也把這些偏差看成是高斯白噪聲。好了， 現(xiàn)在對(duì)于某一分鐘我們有兩個(gè)有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗(yàn)的預(yù)測(cè)值(系統(tǒng)的預(yù)測(cè)值)和溫度計(jì)的值(測(cè)量值)。下面我們要用這兩個(gè)值結(jié)合他們各自的噪聲來估算出房間的實(shí)際溫度值。假如我們要估算k 時(shí)刻的是實(shí)際溫度值。首先你要根據(jù)k-1 時(shí)刻的溫度值，來預(yù)測(cè) k 時(shí)刻的溫度。因?yàn)槟阆嘈艤囟仁呛愣ǖ模阅銜?huì)得到k 時(shí)刻的溫度預(yù)測(cè)值是跟k-1 時(shí)刻一樣的，假設(shè)是23度，同時(shí)該值的高斯噪聲的偏差是5 度( 5 是這樣得到的：如果k-1

6、 時(shí)刻估算出的最優(yōu)溫度值的偏差是3，你對(duì)自己預(yù)測(cè)的不確定度是4 度，他們平方相加再開方，就是5)。然后，你從溫度計(jì)那里得到了k 時(shí)刻的溫度值，假設(shè)是25 度，同時(shí)該值的偏差是4 度。由于我們用于估算k 時(shí)刻的實(shí)際溫度有兩個(gè)溫度值，分別是 23 度和 25 度。 究竟實(shí)際溫度是多少呢？相信自己還是相信溫度計(jì)呢？究竟相信誰多一點(diǎn)，我們可以用他們的covariance 來判斷。因?yàn)?Kg2=52/(52+42) ，所以 Kg=0.78 ，我們可以估算出k 時(shí)刻的實(shí)際溫度值是：23+0.78*(25-23)=24.56 度。可以看出，因?yàn)闇囟扔?jì)的covariance 比較小(比較相信溫度計(jì))，所以估算

7、出的最優(yōu)溫度值偏向溫度計(jì)的值。現(xiàn)在我們已經(jīng)得到k 時(shí)刻的最優(yōu)溫度值了，下一步就是要進(jìn)入k+1 時(shí)刻， 進(jìn)行新的最優(yōu)估算。到現(xiàn)在為止，好像還沒看到什么自回歸的東西出現(xiàn)。對(duì)了， 在進(jìn)入 k+1 時(shí)刻之前，我們還要算出k時(shí)刻那個(gè)最優(yōu)值(24.56 度)的偏差。算法如下：(1-Kg)*52)0.5=2.35 。這里的5 就是上面的 k 時(shí)刻你預(yù)測(cè)的那個(gè)23 度溫度值的偏差，得出的 2.35 就是進(jìn)入k+1 時(shí)刻以后k 時(shí)刻估算出的最優(yōu)溫度值的偏差(對(duì)應(yīng)于上面的3)。就是這樣，卡爾曼濾波器就不斷的把covariance 遞歸，從而估算出最優(yōu)的溫度值。他運(yùn)行的很快，而且它只保留了上一時(shí)刻的covarian

8、ce 。上面的Kg，就是卡爾曼增益(Kalman Gain )。他可以隨不同的時(shí)刻而改變他自己的值，是不是很神奇！下面就要言歸正傳，討論真正工程系統(tǒng)上的卡爾曼。3 卡爾曼濾波器算法( The Kalman Filter Algorithm )在這一部分，我們就來描述源于Dr Kalman 的卡爾曼濾波器。下面的描述，會(huì)涉及一些基本的概念知識(shí)，包括概率 ( Probability ) ， 隨即變量 ( Random Variable ) ， 高斯或正態(tài)分配( GaussianDistribution )還有 State-space Model 等等。但對(duì)于卡爾曼濾波器的詳細(xì)證明，這里不能一一描述

9、。Linear首先，我們先要引入一個(gè)離散控制過程的系統(tǒng)。該系統(tǒng)可用一個(gè)線性隨機(jī)微分方程(Stochastic Difference equation )來描述：X(k)=A X(k-1)+B U(k)+W(k)再加上系統(tǒng)的測(cè)量值：Z(k)=H X(k)+V(k)上兩式子中，X(k) 是 k 時(shí)刻的系統(tǒng)狀態(tài)，U(k) 是 k 時(shí)刻對(duì)系統(tǒng)的控制量。A和 B是系統(tǒng)參數(shù)，對(duì)于多模型系統(tǒng)，他們?yōu)榫仃嚒(k) 是 k 時(shí)刻的測(cè)量值，H 是測(cè)量系統(tǒng)的參數(shù)，對(duì)于多測(cè)量系統(tǒng)，H 為矩陣。W(k) 和 V(k) 分別表示過程和測(cè)量的噪聲。他們被假設(shè)成高斯白噪聲(White GaussianNoise) ，他們的

10、covariance 分別是Q， R(這里我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化)。對(duì)于滿足上面的條件( 線性隨機(jī)微分系統(tǒng)，過程和測(cè)量都是高斯白噪聲) ， 卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來用他們結(jié)合他們的covariances 來估算系統(tǒng)的最優(yōu)化輸出(類似上一節(jié)那個(gè)溫度的例子)。首先我們要利用系統(tǒng)的過程模型，來預(yù)測(cè)下一狀態(tài)的系統(tǒng)。假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)是k，根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的上一狀態(tài)而預(yù)測(cè)出現(xiàn)在狀態(tài)：X(k|k-1)=A X(k-1|k-1)+B U(k) . (1)式 (1) 中， X(k|k-1) 是利用上一狀態(tài)預(yù)測(cè)的結(jié)果，X(k-1|k-1) 是上一狀態(tài)最優(yōu)的結(jié)果，U(k)

11、 為現(xiàn)在狀態(tài)的控制量，如果沒有控制量，它可以為0。到現(xiàn)在為止，我們的系統(tǒng)結(jié)果已經(jīng)更新了，可是，對(duì)應(yīng)于X(k|k-1) 的 covariance 還沒更新。我們用 P 表示 covariance ：P(k|k-1)=A P(k-1|k-1) A +Q (2)式 (2) 中， P(k|k-1) 是 X(k|k-1) 對(duì)應(yīng)的 covariance ， P(k-1|k-1) 是 X(k-1|k-1) 對(duì)應(yīng)的covariance ， A表示A的轉(zhuǎn)置矩陣，Q是系統(tǒng)過程的covariance 。 式子 1， 2 就是卡爾曼濾波器5 個(gè)公式當(dāng)中的前兩個(gè)，也就是對(duì)系統(tǒng)的預(yù)測(cè)。現(xiàn)在我們有了現(xiàn)在狀態(tài)的預(yù)測(cè)結(jié)果，然后

12、我們?cè)偈占F(xiàn)在狀態(tài)的測(cè)量值。結(jié)合預(yù)測(cè)值和測(cè)量值，我們可以得到現(xiàn)在狀態(tài)(k) 的最優(yōu)化估算值X(k|k) ：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)其中 Kg 為卡爾曼增益(Kalman Gain) ：Kg(k)= P(k|k- 1) H / (H P(k|k -1) H + R) (4)到現(xiàn)在為止，我們已經(jīng)得到了k 狀態(tài)下最優(yōu)的估算值X(k|k) 。但是為了要另卡爾曼濾波器不斷的運(yùn)行下去直到系統(tǒng)過程結(jié)束，我們還要更新k 狀態(tài)下 X(k|k) 的 covariance ：P(k|k)= ( I-Kg(k) H ) P(k|k- 1) (5)其中 I

13、為 1 的矩陣，對(duì)于單模型單測(cè)量，I=1 。當(dāng)系統(tǒng)進(jìn)入k+1 狀態(tài)時(shí)，P(k|k) 就是式子(2) 的P(k-1|k-1) 。這樣，算法就可以自回歸的運(yùn)算下去。卡爾曼濾波器的原理基本描述了，式子1， 2， 3， 4 和 5 就是他的5 個(gè)基本公式。根據(jù)這5 個(gè)公式，可以很容易的實(shí)現(xiàn)計(jì)算機(jī)的程序。下面，我會(huì)用程序舉一個(gè)實(shí)際運(yùn)行的例子。4 簡(jiǎn)單例子A Simple Example )這里我們結(jié)合第二第三節(jié)，舉一個(gè)非常簡(jiǎn)單的例子來說明卡爾曼濾波器的工作過程。所舉的例子是進(jìn)一步描述第二節(jié)的例子，而且還會(huì)配以程序模擬結(jié)果。根據(jù)第二節(jié)的描述，把房間看成一個(gè)系統(tǒng)，然后對(duì)這個(gè)系統(tǒng)建模。當(dāng)然， 我們見的模型不需

14、要非常地精確。我們所知道的這個(gè)房間的溫度是跟前一時(shí)刻的溫度相同的，所以A=1。沒有控制量，所以 U(k)=0 。因此得出：X(k|k-1)=X(k-1|k-1) . (6)式子(2)可以改成：P(k|k-1)=P(k-1|k-1) +Q (7)H=1。式子3， 4， 5 可以改成以下：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-X(k|k-1) (8)Kg(k)= P(k|k-1) / (P(k|k-1) + R) (9)P(k|k)= ( 1-Kg(k) ) P(k|k- 1) (10)現(xiàn)在我們模擬一組測(cè)量值作為輸入。假設(shè)房間的真實(shí)溫度為25 度，我模擬了200 個(gè)測(cè)量值，這些

15、測(cè)量值的平均值為25 度，但是加入了標(biāo)準(zhǔn)偏差為幾度的高斯白噪聲(在圖中為藍(lán)線)。為了令卡爾曼濾波器開始工作，我們需要告訴卡爾曼兩個(gè)零時(shí)刻的初始值，是 X(0|0) 和 P(0|0) 。他們的值不用太在意，隨便給一個(gè)就可以了，因?yàn)殡S著卡爾曼的工作，X會(huì)逐漸的收斂。但是對(duì)于 P，一般不要取0，因?yàn)檫@樣可能會(huì)令卡爾曼完全相信你給定的X(0|0) 是系統(tǒng)最優(yōu)的，從而使算法不能收斂。我選了X(0|0)=1 度， P(0|0)=10 。該系統(tǒng)的真實(shí)溫度為25 度，圖中用黑線表示。圖中紅線是卡爾曼濾波器輸出的最優(yōu)化結(jié)果(該結(jié)果在算法中設(shè)置了Q=1e-6，R=1e-1 )。最佳線性濾波理論起源于40年代美國(guó)科

16、學(xué)家Wiener和前蘇聯(lián)科學(xué)家等人的研究工作， 后人統(tǒng)稱為維納濾波理論。從理論上說，維納濾波的最大缺點(diǎn)是必須用到無限過去的數(shù)據(jù)，不適用于實(shí)時(shí)處理。為了克服這一缺點(diǎn)，60 年代 Kalman 把狀態(tài)空間模型引入濾波理論，并導(dǎo)出了一套遞推估計(jì)算法，后人稱之為卡爾曼濾波理論。卡爾曼濾波是以最小均方誤差為估計(jì)的最佳準(zhǔn)則，來尋求一套遞推估計(jì)的算法，其基本思想是：采用信號(hào)與噪聲的狀態(tài)空間模型，利用前一時(shí)刻地估計(jì)值和現(xiàn)時(shí)刻的觀測(cè)值來更新對(duì)狀態(tài)變量的估計(jì)，求出現(xiàn)時(shí)刻的估計(jì)值。它適合于實(shí)時(shí)處理和計(jì)算機(jī)運(yùn)算。現(xiàn)設(shè)線性時(shí)變系統(tǒng)的離散狀態(tài)防城和觀測(cè)方程為：X(k) = F(k,k- 1) · X(k-1)+

17、T(k,k- 1) · U(k-1)Y(k) = H(k) · X(k)+N(k)其中X(k) 和 Y(k) 分別是 k 時(shí)刻的狀態(tài)矢量和觀測(cè)矢量F(k,k-1) 為狀態(tài)轉(zhuǎn)移矩陣U(k) 為 k 時(shí)刻動(dòng)態(tài)噪聲T(k,k-1) 為系統(tǒng)控制矩陣H(k) 為 k 時(shí)刻觀測(cè)矩陣N(k) 為 k 時(shí)刻觀測(cè)噪聲 則卡爾曼濾波的算法流程為：預(yù)估計(jì) X(k)= F(k,k- 1) · X(k-1)1. 計(jì)算預(yù)估計(jì)協(xié)方差矩陣C(k)=F(k,k- 1)× C(k) × F(k,k -1)'+T(k,k-1)× Q(k) × T(k,k

18、 -1)'Q(k) = U(k) × U(k)'2. 計(jì)算卡爾曼增益矩陣K(k) = C(k) × H(k)' × H(k) × C(k) × H(k)'+R(k)(-1)R(k) = N(k) × N(k)'3. 更新估計(jì)X(k)=X(k)+K(k) × Y(k) - H(k) × X(k)4. 計(jì)算更新后估計(jì)協(xié)防差矩陣C(k) =I- K(k) × H(k) × C(k) × I -K(k) × H(k)'+K(k) 

19、15; R(k) × K(k)'5. X(k+1) = X(k)C(k+1) = C(k)重復(fù)以上步驟Kalman Filter科技 2010-05-29 21:13:49 閱讀 90 評(píng)論 0 字號(hào)：大中小訂閱Kalman Filter 是一個(gè)高效的遞歸濾波器，它可以實(shí)現(xiàn)從一系列的噪聲測(cè)量中，估計(jì)動(dòng)態(tài)系統(tǒng)的狀態(tài)。廣泛應(yīng)用于包含Radar、計(jì)算機(jī)視覺在內(nèi)的等工程應(yīng)用領(lǐng)域，在控制理論和控制系統(tǒng)工程中也是一個(gè)非常重要的課題。連同線性均方規(guī)劃，卡爾曼濾波器可以用于解決LQG(Linear-quadratic-Gaussian control) 問題。卡爾曼濾波器，線性均方歸化及線性

20、均方高斯控制器，是大部分控制領(lǐng)域基礎(chǔ)難題的主要解決途徑。目錄 1應(yīng)用實(shí)例 2命名和發(fā)展歷史 3基本動(dòng)態(tài)系統(tǒng)模型 4卡爾曼濾波器4.1 預(yù)測(cè)4.2 更新4.3 不變量 5實(shí)例 6推導(dǎo)6.1 后驗(yàn)估計(jì)協(xié)方差矩陣推導(dǎo)6.2 Kalman 增益推導(dǎo)6.3 后驗(yàn)誤差協(xié)方差矩陣簡(jiǎn)化 7 信息濾波 8 非線性濾波器8.1 擴(kuò)展 Kalman 濾波8.2 Unscented Kalman filter 9 Kalman-Bucy 濾波 10 應(yīng)用 11參見 12參考文獻(xiàn) 13外部鏈接 1應(yīng)用實(shí)例一個(gè)簡(jiǎn)單的應(yīng)用是估計(jì)物體的位置和速度；簡(jiǎn)要描述如下：假設(shè)我們可以獲取一個(gè)物體的包含噪聲的一系列位置觀測(cè)數(shù)據(jù)，我們可以

21、獲得此物體的精確速度和位置連續(xù)更新信息。例如，對(duì)于雷達(dá)來說，我們關(guān)心的是跟蹤目標(biāo)，而目標(biāo)的位置，速度，加速度的測(cè)量值是時(shí)刻含有誤差的，卡爾曼濾波器利用目標(biāo)的動(dòng)態(tài)信息，去掉噪聲影響，獲取目標(biāo)此刻好的位置估計(jì)(濾波)，將來位置估計(jì)(預(yù)測(cè))，也可以是過去位置估計(jì)的(插值或平滑) 2 命名和發(fā)展歷史這個(gè)濾波器以它的發(fā)明者Rudolf.E.Kalman 而命名，但是在 Kanlman 之前， Thorvald NicolaiThiele 和 Peter Swerling 已經(jīng)提出了類似的算法。Stanley Schmidt 首次實(shí)現(xiàn)了Kalman 濾波器。在一次對(duì)NASA Ames Research C

22、enter 訪問中，卡爾曼發(fā)現(xiàn)他的方法對(duì)于解決阿波羅計(jì)劃的軌跡預(yù)測(cè)很有用，后來阿波羅飛船導(dǎo)航電腦就使用了這種濾波器。這個(gè)濾波器可以追溯到 Swerling(1958),Kalman(1960),Kalman 和 Bucy(1961)發(fā)表的論文。這個(gè)濾波器有時(shí)叫做Stratonovich-Kalman-Bucy 濾波器。因?yàn)楦鼮橐话愕姆蔷€性濾波器最初由 Ruslan L.Stratonovich 發(fā)明， 而 Stratonovich-Kalman-Bucy 濾波器只是非線性濾波器的一個(gè)特例。事實(shí)上，1960 年夏季，Kalman 和 Stratonovich 在一個(gè) Moscow 召開的會(huì)議中相

23、遇，而作為非線性特例的線性濾波方程，早已經(jīng)由Stratonovich 在此以前發(fā)表了。在控制領(lǐng)域，Kalman 濾波被稱為線性二次型估計(jì)，目前,卡爾曼濾波已經(jīng)有很多不同的實(shí)現(xiàn)，有施密特?cái)U(kuò)展濾波器、信息濾波器以及一系列的Bierman 和 Thornton 發(fā)明的平方根濾波器等， 而卡爾曼最初提出的形式現(xiàn)在稱為簡(jiǎn)單卡爾曼濾波器。也許最常見的卡爾曼濾波器應(yīng)用是鎖相環(huán)，它在收音機(jī)、計(jì)算機(jī)和幾乎全部視頻或通訊設(shè)備中廣泛存在。 3 基本動(dòng)態(tài)系統(tǒng)模型Kalman 濾波基于時(shí)域描述的線性動(dòng)態(tài)系統(tǒng)，它的模型是Markov Chain ， 而 Markov Chain 建立在一個(gè)被高斯噪聲干擾的線性算子之上。系

24、統(tǒng)的狀態(tài)可以用一個(gè)元素為實(shí)數(shù)的向量表示。隨著離散時(shí)間的增加，這個(gè)線性算子就會(huì)作用到當(dāng)前狀態(tài)之上，產(chǎn)生一個(gè)新的狀態(tài)，并且會(huì)帶入一定的噪聲，同時(shí)一些已知的控制信息也會(huì)加入。同時(shí)另外一個(gè)受噪聲干擾的線性算子將產(chǎn)生這些隱含狀態(tài)的可見輸出。Kalman 濾波可以被看作為類似隱馬爾科夫模型，它們的顯著不同點(diǎn)在于：隱狀態(tài)變量的取值空間是一個(gè)連續(xù)的空間，而離散狀態(tài)空間則不是；另為，隱馬爾科夫模型可以描述下一個(gè)狀態(tài)的一個(gè)任意分布，這也與應(yīng)用于Kalman 濾波器中的高斯噪聲模型相反。Kalman 濾波器方程和隱馬爾科夫方程之間有很大的二重性，關(guān)于 Kalman濾波方程和隱馬爾科夫方程之間二重性參看Roweis

25、and Ghahramani（1999）4 。為了從一系列的噪聲觀測(cè)中，應(yīng)用 Kalman 濾波估計(jì)觀測(cè)過程的內(nèi)部狀態(tài)。我們必須把這個(gè)過程在 Kalman 濾波器的框架下建立模型，這就意味著，對(duì)于每一步 k 我們要定義矩陣、如下：Kalman Filter 假 設(shè) k 時(shí) 刻 的 真 實(shí) 狀 態(tài) 是 從 k-1 時(shí) 刻 演 化 而 來 ， 符 合 下 式這里 是作用在前一狀態(tài)的狀態(tài)轉(zhuǎn)移模型（狀態(tài)轉(zhuǎn)移矩陣） 是作用在控制向量上的控制輸入模型（輸入輸出矩陣） 是過程噪聲，假設(shè)是均值為0 的白噪聲，協(xié)方差為則：在 k 時(shí)刻，假設(shè)真實(shí)狀態(tài)的觀測(cè)，滿足如下公式：其中是觀測(cè)模型（觀測(cè)矩陣），它把真實(shí)狀態(tài)映

26、射到觀測(cè)空間，是觀測(cè)噪聲，假設(shè)它是均值是0，方差是的高斯白噪聲：Kalman Filter 基本動(dòng)態(tài)系統(tǒng)模型如圖（1）所示， 圓圈代表向量，方塊代表矩陣，星號(hào)代表高斯噪聲，其協(xié)方差在右下方標(biāo)出。初始狀態(tài)以及每一時(shí)刻的噪聲向量x0, w1, ., wk, v1 . vk 都為認(rèn)為是互相獨(dú)立的。實(shí)際中，真實(shí)世界中動(dòng)態(tài)系統(tǒng)并不是嚴(yán)格的符合此模型。但是Kalman 模型是設(shè)計(jì)在噪聲過程工作的， 一個(gè)近似的符合已經(jīng)可以使這個(gè)濾波器非常有用了，更多復(fù)雜模型關(guān)于Kalman Filter模型的變種，將在下述中討論：圖 (1) 4 卡爾曼濾波器Kalman Filter 是一個(gè)遞歸的估計(jì)，即只要獲知上一時(shí)刻的

27、狀態(tài)估計(jì)和當(dāng)前狀態(tài)的觀測(cè)就可以計(jì)算出當(dāng)前狀態(tài)的估計(jì)，不同于其他的估計(jì)技術(shù)，Kalman 濾波器不需要觀測(cè)或/和估計(jì)的歷史記錄，Kalman Filter 是一個(gè)純粹的時(shí)域?yàn)V波器，而不像低通濾波器等頻域?yàn)V波器那樣，需要在頻域中設(shè)計(jì)，然后轉(zhuǎn)換到時(shí)域中應(yīng)用。下面，代表已知從m 到 n-1 包括 m 時(shí)刻的觀測(cè)在n 時(shí)刻的估計(jì)值卡爾曼濾波器的狀態(tài)由以下兩個(gè)變量表示： 已知 k 時(shí)刻以前時(shí)刻觀測(cè)值，k 時(shí)刻的狀態(tài)估計(jì)值 誤差協(xié)方差矩陣，度量狀態(tài)估計(jì)的精度程度Kalman 濾波包括兩個(gè)階段：預(yù)測(cè)和更新；在估計(jì)階段，濾波器應(yīng)用上一狀態(tài)的估計(jì)做出對(duì)當(dāng)前狀態(tài)的估計(jì)。在更新階段，濾波器利用在當(dāng)前狀態(tài)的觀測(cè)值優(yōu)化預(yù)

28、測(cè)階段的預(yù)測(cè)值，以獲的一個(gè)更精確的當(dāng)前狀態(tài)的估計(jì)。4.1 預(yù)測(cè)狀態(tài)預(yù)測(cè)：估計(jì)協(xié)方差預(yù)測(cè)：4.2 更新新息或測(cè)量余量新息協(xié)方差Kalman 增益狀態(tài)估計(jì)更新狀態(tài)協(xié)方差更新使用上述公式計(jì)算僅在最優(yōu)卡爾曼增益的時(shí)候有效。使用其他增益公式要復(fù)雜一些，看見推導(dǎo)4.3 不變量如果模型準(zhǔn)確，和 值將準(zhǔn)確反映最初狀態(tài)的分布，那么下面所有不變量保持不變，所有估計(jì)的誤差均值為0：這里表示 的期望，而協(xié)方差矩陣則反映的估計(jì)的協(xié)方差 5 實(shí)例考慮在一個(gè)無摩擦、無限長(zhǎng)的直軌道上的一輛小車，它的初始位置在0 點(diǎn)，但是它會(huì)隨機(jī)的受到?jīng)_擊作用，我們每隔測(cè)量一次小車的位置，但是這些測(cè)量數(shù)據(jù)不是很精確。我們想建立一個(gè)關(guān)于小車位置

29、和速度的模型，這里我們描述如何建立這個(gè)模型，以及從這個(gè)模型出發(fā)如何推導(dǎo)出Kalman 濾波器。因?yàn)樾≤嚊]有控制輸入，我們可以忽略和 。由于F， H， R 和 Q 全是恒值，我們可以忽略時(shí)間下標(biāo)。小車的位置和速度用線性空間可以描述如下：這里 表示速度，也就是位置對(duì)時(shí)間的微分。我們假設(shè)在時(shí)間間隔k-1 和 k 之間， 小車受到一個(gè)恒定的沖擊， 服從均值為0， 方差為 的正態(tài)分布，根據(jù)Newton 動(dòng)力學(xué)方程，可得到：其中我們發(fā)現(xiàn)：在每一時(shí)刻,我們獲取真實(shí)位置的.我們假設(shè)噪聲服噪聲干擾測(cè)量，假設(shè)測(cè)量噪聲服從均值為0，標(biāo)準(zhǔn)差為正態(tài)分布。其中 H= 1 0，我們可以得到足夠精度的初始狀態(tài)數(shù)據(jù)，所以我們可

30、以初始化，如果初始位置和速度不是精確的知道，那么協(xié)方差矩陣應(yīng)該初始化為一個(gè)對(duì)角線元素B 為適當(dāng)大小的矩陣如下：這樣與模型中已有信息相比，濾波器更趨向于使用首次的測(cè)量數(shù)據(jù)信息。 6 推導(dǎo)6.1 后驗(yàn)估計(jì)協(xié)方差矩陣推導(dǎo)首先開始不變量后驗(yàn)估計(jì)協(xié)方差矩陣的推導(dǎo)：帶入定義，可可得，代入代入可得整理誤差向量可得由于誤差向量 與其他不相關(guān)，所以由協(xié)方差矩陣性質(zhì)則Pk|k-1 以及Rk 的定義這一項(xiàng)可以寫作，此公式(Josephform)對(duì)任意增益Kk 的都成立，如果Kk 最優(yōu)卡爾曼增益，則可以進(jìn)一步簡(jiǎn)化，見下文。6.2 Kalman 增益推導(dǎo)Kalman 濾波器是一個(gè)最小均方誤差估計(jì)器，先驗(yàn)狀態(tài)誤差估計(jì)可表

31、示為我們最小化這個(gè)矢量幅度平方的期望值這等價(jià)于最小化后驗(yàn)估計(jì)協(xié)方差矩陣的通過展開合并公式，可得0 時(shí)，矩陣的跡取最小值，從這個(gè)式子解出Kalman 增益這個(gè)增益就是最優(yōu)Kalman 增益，應(yīng)用它可以得到最小均方誤差。6.3 后驗(yàn)誤差協(xié)方差矩陣簡(jiǎn)化當(dāng)應(yīng)用上述最優(yōu)Kalman 增益時(shí)，后驗(yàn)誤差協(xié)方差可以得到簡(jiǎn)化，在最優(yōu)Kalman 增益兩邊同時(shí)乘以，可得，參見后驗(yàn)誤差協(xié)方差公式展開帶入上式可得這個(gè)公式的計(jì)算比較簡(jiǎn)單，所以實(shí)際中總是使用這個(gè)公式，但是需注意這公式僅在最優(yōu)卡爾曼增益時(shí)它才成立。如果算術(shù)精度總是很低而導(dǎo)致數(shù)值穩(wěn)定性出現(xiàn)問題，或者特意使用非最優(yōu)卡爾曼增益，那么就不能使用這個(gè)簡(jiǎn)化；必須使用上面導(dǎo)出的后驗(yàn)誤差協(xié)方差公式。 7 信息濾波在信息濾波器(逆方差濾波器)中，協(xié)方差估計(jì)和狀態(tài)估計(jì)將會(huì)被信息矩陣和信息向量所取代，它們的定義如下：類似的預(yù)測(cè)協(xié)方差和預(yù)測(cè)狀態(tài)也有等價(jià)的信息形式，定義如下：同樣測(cè)量協(xié)方差和測(cè)量向量定義為：信息更新現(xiàn)在變成一個(gè)加和形式：信息濾波器的主要優(yōu)