卡爾曼濾波簡介和實例講解

1、卡爾曼，美國數學家和電氣工程師。1930年5月 19日生于匈牙利首都布達佩斯。1953年在美國麻省理工學院畢業(yè)獲理學士學位,1954年獲理學碩士學位,1957年在哥倫比亞大學獲科學博士學位。19571958年在國際商業(yè)機器公司(IBM)研究大系統計算機控制的數學問題。19581964年在巴爾的摩高級研究院研究控制和數學問題。19641971年到斯坦福大學任教授。1971年任佛羅里達大學數學系統理論研究中心主任，并兼任蘇黎世的瑞士聯邦高等工業(yè)學校教授。1960年卡爾曼因提出著名的卡爾曼濾波器而聞名于世。卡爾曼濾波器在隨機序列估計、空間技術、工程系統辨識和經濟系統建模等方面有許多重要應用。1960

2、年卡爾曼還提出能控性的概念。能控性是控制系統的研究和實現的基本概念，在最優(yōu)控制理論、穩(wěn)定性理論和網絡理論中起著重要作用?？柭€利用對偶原理導出能觀測性概念，并在數學上證明了卡爾曼濾波理論與最優(yōu)控制理論對偶。為此獲電氣與電子工程師學會(IEEE)的最高獎榮譽獎章。卡爾曼著有數學系統概論(1968)等書。什么是卡爾曼濾波最佳線性濾波理論起源于40年代美國科學家Wiener和前蘇聯科學家等人的研究工作，后人統稱為維納濾波理論。從理論上說，維納濾波的最大缺點是必須用到無限過去的數據，不適用于實時處理。為了克服這一缺點，60年代Kalman把狀態(tài)空間模型引入濾波理論，并導出了一套遞推估計算法，后人稱之

3、為卡爾曼濾波理論?？柭鼮V波是以最小均方誤差為估計的最佳準則，來尋求一套遞推估計的算法，其基本思想是：采用信號與噪聲的狀態(tài)空間模型，利用前一時刻地估計值和現時刻的觀測值來更新對狀態(tài)變量的估計，求出現時刻的估計值。它適合于實時處理和計算機運算?？柭鼮V波的實質是由量測值重構系統的狀態(tài)向量。它以“預測實測修正”的順序遞推，根據系統的量測值來消除隨機干擾，再現系統的狀態(tài)，或根據系統的量測值從被污染的系統中恢復系統的本來面目。釋文：卡爾曼濾波器是一種由卡爾曼（Kalman）提出的用于時變線性系統的遞歸濾波器。這個系統可用包含正交狀態(tài)變量的微分方程模型來描述，這種濾波器是將過去的測量估計誤差合并到新的測

4、量誤差中來估計將來的誤差?？柭鼮V波的應用斯坦利.施密特(Stanley Schmidt)首次實現了卡爾曼濾波器.卡爾曼在NASA埃姆斯研究中心訪問時,發(fā)現他的方法對于解決阿波羅計劃的軌道預測很有用,后來阿波羅飛船的導航電腦使用了這種濾波器. 關于這種濾波器的論文由Swerling (1958), Kalman (1960)與 Kalman and Bucy (1961)發(fā)表.目前,卡爾曼濾波已經有很多不同的實現.卡爾曼最初提出的形式現在一般稱為簡單卡爾曼濾波器.除此以外,還有施密特擴展濾波器,信息濾波器以及很多Bierman, Thornton 開發(fā)的平方根濾波器的變種.也行最常見的卡爾曼濾

5、波器是鎖相環(huán)，它在收音機,計算機和幾乎任何視頻或通訊設備中廣泛存在.卡爾曼濾波的一個典型實例是從一組有限的，對物體位置的，包含噪聲的觀察序列預測出物體的坐標位置及速度. 在很多工程應用(雷達, 計算機視覺)中都可以找到它的身影. 同時，卡爾曼濾波也是控制理論以及控制系統工程中的一個重要話題.比如,在雷達中,人們感興趣的是跟蹤目標,但目標的位置,速度,加速度的測量值往往在任何時候都有噪聲.卡爾曼濾波利用目標的動態(tài)信息,設法去掉噪聲的影響,得到一個關于目標位置的好的估計。這個估計可以是對當前目標位置的估計(濾波),也可以是對于將來位置的估計(預測)，也可以是對過去位置的估計(插值或平滑).擴展卡爾

6、曼濾波（EKF）EXTEND KALMAN FILTER擴展卡爾曼濾波器是由kalman filter考慮時間非線性的動態(tài)系統，常應用于目標跟蹤系統?？柭鼮V波是一種高效率的遞歸濾波器(自回歸濾波器), 它能夠從一系列的不完全包含噪聲的測量(英文:measurement)中，估計動態(tài)系統的狀態(tài)。  簡單來說，卡爾曼濾波器是一個“optimal recursive data processing algorithm（最優(yōu)化自回歸數據處理算法）”。對于解決很大部分的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應用已經超過30年，包括機器人導航，控制，傳感器數據融合甚至在軍事

7、方面的雷達系統以及導彈追蹤等等。近年來更被應用于計算機圖像處理，例如頭臉識別，圖像分割，圖像邊緣檢測等等。卡爾曼濾波的命名  這種濾波方法以它的發(fā)明者魯道夫.E.卡爾曼（Rudolf E. Kalman）命名. 雖然Peter Swerling實際上更早提出了一種類似的算法.  卡爾曼全名Rudolf Emil Kalman，匈牙利數學家，1930年出生于匈牙利首都布達佩斯。1953，1954年于麻省理工學院分別獲得電機工程學士及碩士學位。1957年于哥倫比亞大學獲得博士學位。我們現在要學習的卡爾曼濾波器，正是源于他的博士論文和1960年發(fā)表的論文A N

8、ew Approach to Linear Filtering and Prediction Problems（線性濾波與預測問題的新方法）。如果對這編論文有興趣，可以到這里的地址下載：/welch/kalman/media/pdf/Kalman1960.pdf卡爾曼濾波的應用  斯坦利.施密特(Stanley Schmidt)首次實現了卡爾曼濾波器.卡爾曼在NASA埃姆斯研究中心訪問時,發(fā)現他的方法對于解決阿波羅計劃的軌道預測很有用,后來阿波羅飛船的導航電腦使用了這種濾波器. 關于這種濾波器的論文由Swerling (1958),

9、Kalman (1960)與 Kalman and Bucy (1961)發(fā)表.  目前,卡爾曼濾波已經有很多不同的實現.卡爾曼最初提出的形式現在一般稱為簡單卡爾曼濾波器.除此以外,還有施密特擴展濾波器,信息濾波器以及很多Bierman, Thornton 開發(fā)的平方根濾波器的變種.也行最常見的卡爾曼濾波器是鎖相環(huán)，它在收音機,計算機和幾乎任何視頻或通訊設備中廣泛存在.  卡爾曼濾波的一個典型實例是從一組有限的，對物體位置的，包含噪聲的觀察序列預測出物體的坐標位置及速度. 在很多工程應用(雷達, 計算機視覺)中都可以找到它的身影. 同時，卡爾曼濾波也是控

10、制理論以及控制系統工程中的一個重要話題.  比如,在雷達中,人們感興趣的是跟蹤目標,但目標的位置,速度,加速度的測量值往往在任何時候都有噪聲.卡爾曼濾波利用目標的動態(tài)信息,設法去掉噪聲的影響,得到一個關于目標位置的好的估計。這個估計可以是對當前目標位置的估計(濾波),也可以是對于將來位置的估計(預測)，也可以是對過去位置的估計(插值或平滑).實例分析  為了可以更加容易的理解卡爾曼濾波器，這里會應用形象的描述方法來講解，而不是像大多數參考書那樣羅列一大堆的數學公式和數學符號。但是，他的5條公式是其核心內容。結合現代的計算機，其實卡爾曼的程序相當的簡單，只

11、要你理解了他的那5條公式。  在介紹他的5條公式之前，先讓我們來根據下面的例子一步一步的探索。  假設我們要研究的對象是一個房間的溫度。根據你的經驗判斷，這個房間的溫度是恒定的，也就是下一分鐘的溫度等于現在這一分鐘的溫度（假設我們用一分鐘來做時間單位）。假設你對你的經驗不是100%的相信，可能會有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise），也就是這些偏差跟前后時間是沒有關系的而且符合高斯分配（Gaussian Distribution）。另外，我們在房間里放一個溫度計，但是這個溫度計也不準確的，測量值會比實際

12、值偏差。我們也把這些偏差看成是高斯白噪聲。  好了，現在對于某一分鐘我們有兩個有關于該房間的溫度值：你根據經驗的預測值（系統的預測值）和溫度計的值（測量值）。下面我們要用這兩個值結合他們各自的噪聲來估算出房間的實際溫度值。  假如我們要估算k時刻的是實際溫度值。首先你要根據k-1時刻的溫度值，來預測k時刻的溫度。因為你相信溫度是恒定的，所以你會得到k時刻的溫度預測值是跟k-1時刻一樣的，假設是23度，同時該值的高斯噪聲的偏差是5度（5是這樣得到的：如果k-1時刻估算出的最優(yōu)溫度值的偏差(估計值誤差)是3，你對自己預測的不確定度（預測誤差）是4度，他們平方

13、相加再開方，就是5）。然后，你從溫度計那里得到了k時刻的溫度值（測量值），假設是25度，同時該值的偏差是4度（測量誤差）。  由于我們用于估算k時刻的實際溫度有兩個溫度值，分別是23度和25度。究竟實際溫度是多少呢？相信自己還是相信溫度計呢？究竟相信誰多一點，我們可以用他們的協方差（covariance）來判斷。因為Kg2=52/(52+42)，所以Kg=0.78，我們可以估算出k時刻的實際溫度值是：23+0.78*(25-23)=24.56度。可以看出，因為溫度計的covariance比較小（比較相信溫度計），所以估算出的最優(yōu)溫度值偏向溫度計的值。  

14、現在我們已經得到k時刻的最優(yōu)溫度值了，下一步就是要進入k+1時刻，進行新的最優(yōu)估算。到現在為止，好像還沒看到什么自回歸的東西出現。對了，在進入k+1時刻之前，我們還要算出k時刻那個最優(yōu)值（24.56度）的偏差。算法如下：(1-Kg)*52)0.5=2.35。這里的5就是上面的k時刻你預測的那個23度溫度值的偏差，得出的2.35就是進入k+1時刻以后k時刻估算出的最優(yōu)溫度值的偏差（對應于上面的3）。  就是這樣，卡爾曼濾波器就不斷的把covariance遞歸，從而估算出最優(yōu)的溫度值。他運行的很快，而且它只保留了上一時刻的covariance。上面的Kg，就是卡爾曼增益（Kal

15、man Gain）。他可以隨不同的時刻而改變他自己的值，是不是很神奇！在學習卡爾曼濾波器之前，首先看看為什么叫“卡爾曼”。跟其他著名的理論（例如傅立葉變換，泰勒級數等等）一樣，卡爾曼也是一個人的名字，而跟他們不同的是，他是個現代人！卡 爾曼全名Rudolf Emil Kalman，匈牙利數學家，1930年出生于匈牙利首都布達佩斯。1953，1954年于麻省理工學院分別獲得電機工程學士及碩士學位。1957年于哥倫比亞大學獲得博士學位。我們現在要學習的卡爾曼濾波器，正是源于他的博士論文和1960年發(fā)表的論文A New Approach to Linear Filtering and Predict

16、ion Problems（線性濾波與預測問題的新方法）。如果對這編論文有興趣，可以到這里的地址下載：/welch/kalman/media/pdf/Kalman1960.pdf簡 單來說，卡爾曼濾波器是一個“optimal recursive data processing algorithm（最優(yōu)化自回歸數據處理算法）”。對于解決很大部分的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應用已經超過30年，包括機器人導航，控制，傳感器數據融合甚至在軍事方面的雷達系統以及導彈追蹤等等。近年來更被應用于計算機圖像處理，例如頭臉識別，圖像分割，圖像邊緣檢測等

17、等。2卡爾曼濾波器的介紹（Introduction to the Kalman Filter）為了可以更加容易的理解卡爾曼濾波器，這里會應用形象的描述方法來講解，而不是像大多數參考書那樣羅列一大堆的數學公式和數學符號。但是，他的5條公式是其核心內容。結合現代的計算機，其實卡爾曼的程序相當的簡單，只要你理解了他的那5條公式。在介紹他的5條公式之前，先讓我們來根據下面的例子一步一步的探索。假設我們要研究的對象是一個房間的溫度。根據你的經驗判斷，這個房間的溫度是恒定的，也就是下一分鐘的溫度等于現在這一分鐘的溫度（假設我們用一分鐘來做時間單位）。假設你對你的經驗不是100%的相信，可能會有上下偏差幾度

18、。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise），也就是這些偏差跟前后時間是沒有關系的而且符合高斯分配（Gaussian Distribution）。另外，我們在房間里放一個溫度計，但是這個溫度計也不準確的，測量值會比實際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現在對于某一分鐘我們有兩個有關于該房間的溫度值：你根據經驗的預測值（系統的預測值）和溫度計的值（測量值）。下面我們要用這兩個值結合他們各自的噪聲來估算出房間的實際溫度值。假如我們要估算k時刻的是實際溫度值。首先你要根據k-1時刻的溫度值，來預測k時刻的溫度。因為你相信溫度是恒定的，所以你會得到k時刻的

19、溫度預測值是跟 k-1時刻一樣的，假設是23度，同時該值的高斯噪聲的偏差是5度（5是這樣得到的：如果k-1時刻估算出的最優(yōu)溫度值的偏差是3，你對自己預測的不確定度是4度，他們平方相加再開方，就是5）。然后，你從溫度計那里得到了k時刻的溫度值，假設是25度，同時該值的偏差是4度。由于我們用于估算k時刻的實際溫度有兩個溫度值，分別是23度和25度。究竟實際溫度是多少呢？相信自己還是相信溫度計呢？究竟相信誰多一點，我們可以用他們的 covariance來判斷。因為Kg2=52/(52+42)，所以Kg=0.78，我們可以估算出k時刻的實際溫度值是：23+0.78* (25-23)=24.56度?？梢?/p>

20、看出，因為溫度計的covariance比較小（比較相信溫度計），所以估算出的最優(yōu)溫度值偏向溫度計的值?，F在我們已經得到k時刻的最優(yōu)溫度值了，下一步就是要進入k+1時刻，進行新的最優(yōu)估算。到現在為止，好像還沒看到什么自回歸的東西出現。對了，在進入k+ 1時刻之前，我們還要算出k時刻那個最優(yōu)值（24.56度）的偏差。算法如下：(1-Kg)*52)0.5=2.35。這里的5就是上面的k時刻你預測的那個23度溫度值的偏差，得出的2.35就是進入k+1時刻以后k時刻估算出的最優(yōu)溫度值的偏差（對應于上面的3）。就是這樣，卡爾曼濾波器就不斷的把covariance遞歸，從而估算出最優(yōu)的溫度值。他運行的很快，

21、而且它只保留了上一時刻的covariance。上面的Kg，就是卡爾曼增益（Kalman Gain）。他可以隨不同的時刻而改變他自己的值，是不是很神奇！下面就要言歸正傳，討論真正工程系統上的卡爾曼。3 卡爾曼濾波器算法（The Kalman Filter Algorithm）在 這一部分，我們就來描述源于Dr Kalman 的卡爾曼濾波器。下面的描述，會涉及一些基本的概念知識，包括概率（Probability），隨即變量（Random Variable），高斯或正態(tài)分配（Gaussian Distribution）還有State-space Model等等。但對于卡爾曼濾波器的詳細證明，這里不能

22、一一描述。首先，我們先要引入一個離散控制過程的系統。該系統可用一個線性隨機微分方程（Linear Stochastic Difference equation）來描述：X(k)=A X(k-1)+B U(k)+W(k)再加上系統的測量值：Z(k)=H X(k)+V(k)上兩式子中，X(k)是k時刻的系統狀態(tài)，U(k)是k時刻對系統的控制量。A和B是系統參數，對于多模型系統，他們?yōu)榫仃?。Z(k)是k時刻的測量值，H 是測量系統的參數，對于多測量系統，H為矩陣。W(k)和V(k)分別表示過程和測量的噪聲。他們被假設成高斯白噪聲(White Gaussian Noise)，他們的covariance

23、 分別是Q，R（這里我們假設他們不隨系統狀態(tài)變化而變化）。對于滿足上面的條件(線性隨機微分系統，過程和測量都是高斯白噪聲)，卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來用他們結合他們的covariances 來估算系統的最優(yōu)化輸出（類似上一節(jié)那個溫度的例子）。首先我們要利用系統的過程模型，來預測下一狀態(tài)的系統。假設現在的系統狀態(tài)是k，根據系統的模型，可以基于系統的上一狀態(tài)而預測出現在狀態(tài)：X(k|k-1)=A X(k-1|k-1)+B U(k) . (1)式(1)中，X(k|k-1)是利用上一狀態(tài)預測的結果，X(k-1|k-1)是上一狀態(tài)最優(yōu)的結果，U(k)為現在狀態(tài)的控制量，如果沒有控制量，它

24、可以為0。到現在為止，我們的系統結果已經更新了，可是，對應于X(k|k-1)的covariance還沒更新。我們用P表示covariance：P(k|k-1)=A P(k-1|k-1) A+Q (2)式(2) 中，P(k|k-1)是X(k|k-1)（預測值）對應的covariance，P(k-1|k-1)是X(k-1|k-1)（最優(yōu)值）對應的covariance，A表示 A的轉置矩陣，Q是系統過程的covariance。式子1，2就是卡爾曼濾波器5個公式當中的前兩個，也就是對系統的預測。現在我們有了現在狀態(tài)的預測結果，然后我們再收集現在狀態(tài)的測量值。結合預測值和測量值，我們可以得到現在狀態(tài)(k

25、)的最優(yōu)化估算值X(k|k)：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)其中Kg為卡爾曼增益(Kalman Gain)：Kg(k)= P(k|k-1) H / (H P(k|k-1) H + R) (4)到現在為止，我們已經得到了k狀態(tài)下最優(yōu)的估算值X(k|k)。但是為了要另卡爾曼濾波器不斷的運行下去直到系統過程結束，我們還要更新k狀態(tài)下X(k|k)的covariance：P(k|k)=（I-Kg(k) H）P(k|k-1) (5)其中I 為1的矩陣，對于單模型單測量，I=1。當系統進入k+1狀態(tài)時，P(k|k)就是式子(2)的P(k-1|k-1)。

26、這樣，算法就可以自回歸的運算下去?？柭鼮V波器的原理基本描述了，式子1，2，3，4和5就是他的5 個基本公式。根據這5個公式，可以很容易的實現計算機的程序。下面，我會用程序舉一個實際運行的例子。4 簡單例子（A Simple Example）這里我們結合第二第三節(jié)，舉一個非常簡單的例子來說明卡爾曼濾波器的工作過程。所舉的例子是進一步描述第二節(jié)的例子，而且還會配以程序模擬結果。根據第二節(jié)的描述，把房間看成一個系統，然后對這個系統建模。當然，我們見的模型不需要非常地精確。我們所知道的這個房間的溫度是跟前一時刻的溫度相同的，所以A=1。沒有控制量，所以U(k)=0。因此得出：X(k|k-1)=X(k-1|k-1) . (6)式子（2）可以改成：P