隨機(jī)過(guò)程的基本概念學(xué)習(xí)教案

1、會(huì)計(jì)學(xué)1隨機(jī)隨機(jī)(su j)過(guò)程的基本概念過(guò)程的基本概念第一頁(yè)，共29頁(yè)。2數(shù)學(xué)解釋：可認(rèn)為X (,t)， t T 是定義在T上的二元函數(shù)。當(dāng)t固定時(shí)， X(,t)是r.v.(stat)，當(dāng)固定時(shí)， X(,t)是定義在T上的普通函數(shù)，稱為(chn wi)隨機(jī)過(guò)程的樣本函數(shù)或軌道(path)，樣本函數(shù)的全體稱為(chn wi)樣本函數(shù)空間。1.5.1(1)( )cos(2),(0,2 ),0,10X ttUt 例第2頁(yè)/共29頁(yè)第二頁(yè)，共29頁(yè)。3SuSdSSu2udSSd2Su3Sd3Sud2dSu2Su4Sd4dSu3Sdu22Sud3 101,1,2,.kkkuSHSS SkdST,0.5

2、,0,1,.,hn hhnnnHHHHHHHTHHTHHTHHTHHHHTHTP Su dSChn (2)由拋硬幣決定的隨機(jī)(su j)過(guò)程: (隨機(jī)(su j)游動(dòng))第3頁(yè)/共29頁(yè)第三頁(yè)，共29頁(yè)。4隨機(jī)過(guò)程可按時(shí)間(參數(shù))是連續(xù)的或離散的分為兩類:(1)若T是有限(yuxin)集或可列集時(shí),則稱為離散參數(shù)隨機(jī)過(guò)程或隨機(jī)序列.(2)若T是有限(yuxin)或無(wú)限區(qū)間時(shí),則稱為連續(xù)參數(shù)隨機(jī)過(guò)程.隨機(jī)過(guò)程也可按任一時(shí)刻的狀態(tài)是連續(xù)型隨機(jī)變量或離散(lsn)型隨機(jī)變量分為兩類:(1)若對(duì)于任意 都是離散型隨機(jī)變量(su j bin lin),稱 為離散型隨機(jī)過(guò)程；)(,jjtXTt TttX),

3、(2)若對(duì)于任意 都是連續(xù)型隨機(jī)變量,稱 為連續(xù)型隨機(jī)過(guò)程.TttX),()(,jjtXTt 第4頁(yè)/共29頁(yè)第四頁(yè)，共29頁(yè)。5定義 1.5.1 設(shè)Xt，tT 為(,F, P) (E,E )隨機(jī)(su j)過(guò)程，令11,121(),;nnttnttniFFFP XFXFtT其中F1 ., FkE. 稱 為隨機(jī)(su j)過(guò)程Xt，tT 的有限維分布族.1:,1,1nttitTin n 特別,對(duì)于一維隨機(jī)過(guò)程X (t), t T 任意 nZ+ 和 t1,t n T，隨機(jī)向量（X t1 , X t n )的分布函數(shù)全體1,11( ,.),nttnnFxxttT nZ稱為Xt，t T 的有窮維分布

4、函數(shù)族。第5頁(yè)/共29頁(yè)第五頁(yè)，共29頁(yè)。6若對(duì) ,隨機(jī)(su j)向量 有密度函數(shù), 則這些密度函數(shù)的全體ntt ,.,1nttXX ,.,11,11( ,.),nttnnfxxttT nZ稱為(chn wi)Xt，t T 的有窮維密度函數(shù)族。若對(duì) ,隨機(jī)向量 是離散型的, 則這些分布(fnb)律的全體ntt ,.,1nttXX ,.,11,11( ,.) ,nttnnpxxttT nZ稱為Xt，t T 的有窮維概率分布族。第6頁(yè)/共29頁(yè)第六頁(yè)，共29頁(yè)。7設(shè)X (t), t T 為隨機(jī)(su j)過(guò)程，稱為X (t), t T的n維特征函數(shù)；稱n1kkkn1tXin1ttEe)(,),(

5、,),(,ZnTttn1n1ttn1為X (t), t T的有窮維特征函數(shù)族。 由于r.v.的特征函數(shù)與分布函數(shù)有一一對(duì)應(yīng)關(guān)系，所以，也可以通過(guò)(tnggu)隨機(jī)過(guò)程的有窮維特征函數(shù)族來(lái)描述它的概率特性。第7頁(yè)/共29頁(yè)第七頁(yè)，共29頁(yè)。8隨機(jī)(su j)過(guò)程的有限維分布滿足下面的兩個(gè)性質(zhì)： 1(1)(),.1,(1)(.)()nnttnttFFFF（n）(1)對(duì)稱性：對(duì)于1,2,n 的任意(rny)排列(1),(2),(n) 有111,1,1()()kkkk mttkttttkFFFFEE(2)相容性：對(duì)于(duy)任意的自然數(shù) k ,m,反之， (Kolmogorovs 擴(kuò)張定理).對(duì)一切

6、性質(zhì)(1) (2)的概率測(cè)度，則存在概率空間 (,F, P) 及定義在 上取值于E的隨機(jī)過(guò)程Xt ，使得NkTttk ,1令kttv,.,1為Ek上滿足以上11,11(),kkttktktvFFP XFXF第8頁(yè)/共29頁(yè)第八頁(yè)，共29頁(yè)。9例1.5.2. 求隨機(jī)過(guò)程(guchng)的一維密度函數(shù)族.這里b 是常數(shù), X是標(biāo)準(zhǔn)正態(tài)隨機(jī)變量.,cos)(btXtX解:(1)當(dāng)cosbt0時(shí),由X(t)=Xcosbt,XN(0,1)知X(t)N(0,cos2bt),則X(t)的一維密度(md)函數(shù)為(2)當(dāng)cosbt=0時(shí), X(t)不存在一維密度(md)函數(shù).222cos1( ),2cosxbt

7、tf xexbt 故X(t)的一維密度函數(shù)族為222cos11( );,0, 1, 2,.22 cosxbttf xetR tkkbbt 第9頁(yè)/共29頁(yè)第九頁(yè)，共29頁(yè)。10定義1.5.2 給定隨機(jī)過(guò)程Xt,tT, 給定t,（1）隨機(jī)變量Xt的均值或數(shù)學(xué)期望(qwng)與t有關(guān),記為( )XttE X稱X(t)為隨機(jī)(su j)過(guò)程Xt的均值函數(shù)(Mean)稱為隨機(jī)(su j)過(guò)程Xt,tT,的均方值函數(shù).（2） 隨機(jī)變量Xt的二階原點(diǎn)矩22( ),XttE X第10頁(yè)/共29頁(yè)第十頁(yè)，共29頁(yè)。11（3） 隨機(jī)變量(su j bin lin)Xt的方差22( )( ),XttXtVar X

8、EXt稱為隨機(jī)過(guò)程Xt,tT,的方差(fn ch)函數(shù)(Varance)(4) 設(shè)Xt1和Xt2是隨機(jī)過(guò)程Xt,tT在任意二個(gè)時(shí)刻t1和t2時(shí)的狀態(tài)(zhungti).稱Xt1和Xt2的二階混合原點(diǎn)矩為隨機(jī)過(guò)程Xt,tT的自相關(guān)函數(shù)(correlation),簡(jiǎn)稱相關(guān)函數(shù).1212( , )XttRt tE X X第11頁(yè)/共29頁(yè)第十一頁(yè)，共29頁(yè)。12（5）稱Xt1和Xt2的二階混合(hnh)中心矩121212( , )( )( )XtXtXCt tEXtXt為隨機(jī)過(guò)程(guchng)Xt,tT的自協(xié)方差函數(shù)covaricance,簡(jiǎn)稱協(xié)方差函數(shù).(6) 對(duì)于兩個(gè)隨機(jī)過(guò)程(guchng)X

9、t,tT,Yt,tT，若對(duì)任意t T，EXt2 、 EYt2存在，則稱函數(shù)( , )( )( ),XYsXtYCs tE XsYts tT為隨機(jī)過(guò)程 Xt,tT,與Yt,tT,的互協(xié)方差函數(shù)。第12頁(yè)/共29頁(yè)第十二頁(yè)，共29頁(yè)。13( , ),;XYs tRs tE X Ys tT為隨機(jī)(su j)過(guò)程Xt,tT與Yt,tT的互相關(guān)函數(shù).易知;,),()(),(),(TtststsRtsCYXXYXY(7) 稱定義1.5.3 若對(duì)任意的s,t T，有EXsYt=0, 則稱隨機(jī)過(guò)程Xt,tT與Yt,tT正交; 若CXY(s, t)=0，則稱隨機(jī)過(guò)程Xt,tT與Yt,tT 互不相關(guān)； 若對(duì)任意的

10、n,mZ+，隨機(jī)向量(xingling)(Xt1, Xtn)與(Ys1,Ysm) 相互獨(dú)立，則稱隨機(jī)過(guò)程Xt,tT與Yt,tT相互獨(dú)立。第13頁(yè)/共29頁(yè)第十三頁(yè)，共29頁(yè)。14例1.5.3 設(shè) ,其中X0和V是相互獨(dú)立(dl)的隨機(jī)變量.且btatVXtX,)(0求隨機(jī)過(guò)程X(t),-t的五種(w zhn)數(shù)字特征.20(0,),( )XNVE解:)()(0tVXEtXEtXt)(),(201021VtXVtXEttRX)(21221020t tVttVXXE22122t t),()(2ttRtXX2222t)()(),(),(212121ttttRttCXXXX2212t t2( )( ,

11、 )XXtCt t222t第14頁(yè)/共29頁(yè)第十四頁(yè)，共29頁(yè)。15定義1.5.4若Xt,tT, Yt,tT是兩個(gè)(lin )實(shí)隨機(jī)過(guò)程，則稱Zt = X t+i Yt， t T 為復(fù)隨機(jī)過(guò)程。 它的均值函數(shù)、協(xié)方差函數(shù)、相關(guān)函數(shù)和方差函數(shù)分別定義如下： Z (t)= EZt=EXt+i EYt ,t T( , )( )( ),ZsZtZC s tE Zm sZm ts tT( , ),ZstR s tE Z Zs tT22( )( )( )|( )| ,ZtZtZtZtE Zm tZm tE Zm ttT第15頁(yè)/共29頁(yè)第十五頁(yè)，共29頁(yè)。16(1) 獨(dú)立隨機(jī)序列 對(duì)于任意n個(gè)不同的參數(shù)t

12、1,t n T ， r.v. X(t1), X(t n)相互(xingh)獨(dú)立，這樣的隨機(jī)序列稱為獨(dú)立隨機(jī)序列。 (2) 獨(dú)立增量過(guò)程(guchng)定義1.3.1 若隨機(jī)過(guò)程(guchng) 滿足 增量 與 獨(dú)立,則稱為獨(dú)立增量過(guò)程(guchng).st tsXX,0tX t ,suXusF或等價(jià)地寫(xiě)作第16頁(yè)/共29頁(yè)第十六頁(yè)，共29頁(yè)。17 過(guò)程 滿足,對(duì)任意 t1 t2 t n T， Xt的增量 相互獨(dú)立，這樣的隨機(jī)(su j)過(guò)程稱為獨(dú)立增量過(guò)程。,tX tT21321,nnttttttXXXXXX第17頁(yè)/共29頁(yè)第十七頁(yè)，共29頁(yè)。18例 1.5.4 設(shè)Xt,tT是獨(dú)立增量過(guò)程(

13、guchng)，且增量平穩(wěn), PX0=0=1，求證：增量的分布完全決定任意有窮維分布.( )ti XtEe 12121212,12,( ,)ttiXXt tttE e 1221211()ttttiXXXXE e122121()()tttiXXXiE ee121122ttt第18頁(yè)/共29頁(yè)第十八頁(yè)，共29頁(yè)。1912121112)12.(nnnttntnnktkttnttkkXXXXXXXX11211,.,1)12( ,.,)exp.(nnnttnnnktkttnttkkEiXXXXX12.,nttt 121112()().() #nnnntkttkttnkk 第19頁(yè)/共29頁(yè)第十九頁(yè)，共2

14、9頁(yè)。20定義1.5.5 設(shè)隨機(jī)(su j)過(guò)程 , 若對(duì)|,tstsP XBP XB XF則稱該過(guò)程為馬爾可夫過(guò)程，簡(jiǎn)稱(jinchng)“馬氏過(guò)程”。 馬氏過(guò)程的特點(diǎn)：已知現(xiàn)在，將來(lái)與過(guò)去無(wú)關(guān)。 tXt;st )(|(),;,(tsxXBXPBtxsPst第20頁(yè)/共29頁(yè)第二十頁(yè)，共29頁(yè)。21 1212),1,2,|iutsustsvust BRiP XB XBXP XBXP XBX B):,|ttstsih RRE h Xst E h XE h XX 滿足FsXsXttzEzEtsRzX,F),XttiuXiuXssiiiuR stE eE e Fii)若Xt 的母函數(shù)(hnsh)存

15、在, ,|,.,|11nttntttxXBXPxXxXBXPnn 12).,1,., ,niivtttt x in BR B第21頁(yè)/共29頁(yè)第二十一頁(yè)，共29頁(yè)。22Markov過(guò)程的判別-獨(dú)立性定理:設(shè)X,Y為概率空間(,F,P)上的隨機(jī)變量, G為F 的子代數(shù), 且設(shè)X與G 獨(dú)立, Y關(guān)于(guny)G 可測(cè). 則對(duì)二元函數(shù) f(x,y),(, )|(, )|E f X YE f X YYG例1.5.5 獨(dú)立增量(zn lin)過(guò)程Xt是Markov過(guò)程.證:|tsstiu XXiuXiuXssst E eE e FF|#tsstiu XXiuXiuXssE eE eXF其中(qzhng

16、), Xt-Xs關(guān)于Fs獨(dú)立, Xs 關(guān)于Fs 可測(cè), 根據(jù)獨(dú)立性定理,第22頁(yè)/共29頁(yè)第二十二頁(yè)，共29頁(yè)。23根據(jù)參數(shù)集T及狀態(tài)空間E的取值離散與否，通常將馬氏過(guò)程分成四類進(jìn)行研究(ynji)：1、參數(shù)和狀態(tài)都離散的馬氏過(guò)程，簡(jiǎn)稱馬氏鏈；3、參數(shù)連續(xù)、狀態(tài)離散的馬氏過(guò)程，又稱連續(xù)馬氏鏈或純不連續(xù)馬氏過(guò)程；3、參數(shù)離散、狀態(tài)連續(xù)的馬氏過(guò)程，簡(jiǎn)稱馬氏序列;4、參數(shù)和狀態(tài)都連續(xù)的馬氏過(guò)程，又稱連續(xù)馬氏過(guò)程。隨機(jī)(su j)游動(dòng), Poisson過(guò)程, 更新過(guò)程中的更新時(shí)間序列, Brown運(yùn)動(dòng), 分別是1-4的例子.第23頁(yè)/共29頁(yè)第二十三頁(yè)，共29頁(yè)。24設(shè)Bt,t0為一獨(dú)立增量(zn l

17、in)過(guò)程， ，求證：Xt,t0為Markov過(guò)程.tBtXe第24頁(yè)/共29頁(yè)第二十四頁(yè)，共29頁(yè)。25 在工程應(yīng)用和大量實(shí)際現(xiàn)象的理論分析研究中常會(huì)遇到一類過(guò)程。其統(tǒng)計(jì)特性隨著時(shí)間的推移不發(fā)生任何變化。此類過(guò)程中，最重要的是“平穩(wěn)過(guò)程”。例如無(wú)線電設(shè)備(shbi)中熱噪聲電壓X(t)是由于電路中電子的熱運(yùn)動(dòng)引起的，這種熱擾動(dòng)不隨時(shí)間而變；連續(xù)測(cè)量飛機(jī)飛行速度產(chǎn)生的測(cè)量誤差X(t) ， 是由儀器震動(dòng)、電磁波干擾、氣候變化等因素引起的; 紡紗廠生產(chǎn)出的棉紗各處直徑X(t)不同是由于紡紗機(jī)運(yùn)行，棉條不勻、溫濕度變化等因素引起的。第25頁(yè)/共29頁(yè)第二十五頁(yè)，共29頁(yè)。26定義1.5.7 設(shè)隨機(jī)(

18、su j)過(guò)程 X (t) ,t T 的有窮維分布函數(shù)族為Ft1,tn (x1,xn), t1,tn T, n1 ，若對(duì)n 和t1,tn T, 及ti+T的，有Ft1,tn (x1,xn)= Ft1 +,tn + (x1,xn) (1.3.1)則稱 X (t) ， t T 是嚴(yán)平穩(wěn)(pngwn)過(guò)程。嚴(yán)平穩(wěn)過(guò)程的特點(diǎn)： (1) 若有概率密度，則式(1.3.1)等價(jià)于：f t1,tn (x1,xn)=f t1 +,tn + (x1,xn);第26頁(yè)/共29頁(yè)第二十六頁(yè)，共29頁(yè)。27 (2) 一維分布(fnb)與 t 無(wú)關(guān)，二維分布(fnb)僅與時(shí)間差有關(guān)，而與時(shí)間的起點(diǎn)無(wú)關(guān)； (3) 若存在二階矩，則其均值函數(shù)是常數(shù)，相關(guān)函數(shù)或協(xié)方差函數(shù)僅是時(shí)間差的函數(shù)。 嚴(yán)平穩(wěn)過(guò)程(guchng)的平穩(wěn)性條件(1.3.1)過(guò)于嚴(yán)格而在應(yīng)用上往往難于實(shí)現(xiàn)。在工程技術(shù)中一般只要知道過(guò)程(guchng)的一、二階矩，就能處理和解決有關(guān)問(wèn)題，于是就產(chǎn)生了僅與過(guò)程(guchng)的一、二階矩有關(guān)的平穩(wěn)過(guò)程(guchng)理論。這類過(guò)程(guchng)的理論稱為平穩(wěn)過(guò)程(guchng)的相關(guān)理論，它涉及