平穩(wěn)序列參數(shù)表征

1、平穩(wěn)序列參數(shù)表征第1頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第一節(jié) 平穩(wěn)序列均值的估計(jì)若 為平穩(wěn)序列，均值函數(shù) 與t無關(guān)，記為 。記 為序列 的容量為n的樣本序列。第2頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 回顧：當(dāng) 為獨(dú)立同分布序列時(shí)，根據(jù)大數(shù)定律和中心極限定理，可知 的極限性質(zhì)。主要有：(1) 相合性 設(shè) 是獨(dú)立同分布的隨機(jī)變量序列,記 ，則,第3頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 (2) 漸近正態(tài)性 設(shè)隨機(jī)變量 相互獨(dú)立，同分布，且 ,則當(dāng) 時(shí) 的分布趨于標(biāo)準(zhǔn)正態(tài)分布，也就是 其中 是標(biāo)準(zhǔn)正態(tài)分布N(0,1)的分布函數(shù)第4頁，共80頁，2

2、022年，5月20日，7點(diǎn)1分，星期三 設(shè) 是平穩(wěn)序列 的觀測(cè)值， 均值函數(shù) 的點(diǎn)估計(jì)，由下式 表示出， 。第5頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 一 相合性(consistency)定義1.1 設(shè)統(tǒng)計(jì)量 是 的估計(jì)，在統(tǒng)計(jì)學(xué)中有如下的定義： (1) 如果 ，則稱 是 的無偏估計(jì)。 (2) 如果當(dāng) 時(shí)， ，則稱 是 的漸進(jìn)無偏估計(jì)。 (3) 如果 依概率收斂到 ，就稱 是 的 相合估計(jì)。 (4) 如果 幾乎處處(a.s.)收斂到 ，就稱 是 的強(qiáng)相合估計(jì)。第6頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 定理1.1 設(shè)平穩(wěn)序列 有均值 和自協(xié)方差函數(shù) ，若以 作為

3、 的估計(jì)，那么(1) 是 的無偏估計(jì),(2) 若 ，則 是 的相合估計(jì)。即當(dāng) 時(shí)，有或(3) 如果 是嚴(yán)平穩(wěn)遍歷序列，則 是 的強(qiáng)相合估計(jì)。第7頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 二 中心極限定理-漸近正態(tài)(Asymptotic Normality)回顧：如果 是獨(dú)立同分布序列， 當(dāng) 時(shí)，從中心極限定理知道 依分布收斂到 。利用這個(gè)結(jié)果可以給出 的置信度為0.95的漸近置信區(qū)間： 當(dāng)標(biāo)準(zhǔn)差 未知和n較大時(shí),可用樣本標(biāo)準(zhǔn)差 代替 。可解決有關(guān)均值 的假設(shè)檢驗(yàn)。第8頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 定理1.2 若 其中 為正態(tài)白噪聲序列，則 漸近正態(tài)N(0

4、,v)分布，記作 其中 第9頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 定理1.3 設(shè) 是平穩(wěn)過程 其中 , 是獨(dú)立同分布的 ，則當(dāng) 時(shí)， 依分布收斂到正態(tài)分布N(0,v)，記作 其中或者說 漸近正態(tài)分布 。第10頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 注：定理1.3對(duì)求關(guān)于 的大樣本近似置信區(qū)間是有用的，如果過程 是平穩(wěn)Gauss過程，則對(duì)有限n, 的精確分布 如果 已知，則上式給出 的精確置信界，如果 未知，有觀測(cè)值估計(jì)量則只能給出近似置信界。第11頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 三 的模擬計(jì)算我們考慮標(biāo)準(zhǔn)正態(tài)白噪聲 和AR(2)模型，

5、從計(jì)算機(jī)上產(chǎn)生n=1000個(gè)觀測(cè)數(shù)據(jù) 對(duì)于n=1,2,1000分別計(jì)算出 ,同時(shí)還計(jì)算出 的相應(yīng)樣本均值 ，這時(shí)真值為 。 第12頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 模擬計(jì)算1 當(dāng) 時(shí)， n1030501000.19410.05160.05430.03390.30100.13700.17000.0495 n3005007001000-0.0226-0.0181-0.0140-0.0105-0.0700-0.0613-0.0508-0.0467第13頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 模擬計(jì)算2 當(dāng) 時(shí)， n1030501000.23650.12730.1

6、4650.06300.27750.15430.18490.0850 n3005007001000-0.0194-0.0143-0.0206-0.0069-0.0283-0.0205-0.0301-0.0102第14頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第二節(jié) 自協(xié)方差與自相關(guān)函數(shù) 的估計(jì)一 估計(jì)方法根據(jù)零均值的平穩(wěn)序列 的樣本值序列 ,估計(jì)它的自協(xié)方差函數(shù)由兩種簡(jiǎn)單方法： (1) (2.1) (2) (2.2)第15頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 兩種不同估計(jì)的差異(1) 是 的無偏估計(jì)，而 不是 的無偏估計(jì)(k=0例外),但當(dāng) 時(shí), 是漸近無偏的。(2

7、) 由(2.1)定義的樣本自協(xié)方差函數(shù)能夠使得樣本自協(xié)方差矩陣 不僅是對(duì)稱方陣，而且是非負(fù)定的。第16頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 定理2.1 設(shè) 為零均值平穩(wěn)序列， 是長度為n的樣本， 如(2.1)定義，記 則對(duì)任意 ，有 (非負(fù)定)。第17頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 注1：在定理2.1中，若 ，則對(duì)任意 ， (正定) a.s.注2：對(duì)于由(2.2)定義的 ，雖然 是 的無偏估計(jì)，但序列 并不像 具有正定性。第18頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例2.1：設(shè) 為平穩(wěn)序列, 是長度為n=3的樣本， 為非零實(shí)數(shù)，經(jīng)計(jì)算

8、故樣本協(xié)方差矩陣為取 ，則取 ，則故由(2.2)定義的樣本協(xié)方差 為不定序列。第19頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 當(dāng)平穩(wěn)序列 的均值 不為零時(shí)，我們用以下方法估計(jì) 的自協(xié)方差函數(shù)， (2.3) 式中 為 的樣本均值。第20頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 在 的估計(jì)方法確定后，相應(yīng)的序列的自相關(guān)函數(shù) 用以下兩種方法估計(jì),即 (2.4) (2.5) 并且稱 為樣本自相關(guān)函數(shù)。第21頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 二 的相合性定理2.2 設(shè)平穩(wěn)序列的樣本自協(xié)方差函數(shù) 和 由(2.1),(2.4)定義，則 (1) 分別是 的漸近

9、無偏估計(jì)。(2) 分別是 的弱相合估計(jì),即 其中 表示依概率收斂。(3) 如果 是嚴(yán)平穩(wěn)遍歷序列,則對(duì)每個(gè)確定的k, 和 分別是 和 的強(qiáng)相合估計(jì)，即第22頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 注：從這個(gè)定理知道，只要 是線性平穩(wěn)序列，則樣本自協(xié)方差函數(shù) 是漸近無偏估計(jì)，特別當(dāng) 是AR(p),MA(q) 或ARMA(p,q)序列, 是 的漸近無偏估計(jì)。第23頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 三. 的漸近分布1. 漸近方差定理2.3 若 為如下的平穩(wěn)序列 式中 為獨(dú)立同分布的隨機(jī)序列，且 ，則(1) 與 的協(xié)方差有漸近表達(dá)式第24頁，共80頁，2022年，

10、5月20日，7點(diǎn)1分，星期三 (2) 樣本自相關(guān)函數(shù) 和 的協(xié)方差有以下漸近表達(dá)式 注：當(dāng) 為正態(tài)序列時(shí)， ,從而有第25頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 2 漸近正態(tài)分布(中心極限定理)定理2.4 在定理1.6的相同條件下，令對(duì)于任意正整數(shù)k， 具有聯(lián)合漸近正態(tài)分布，即其中，G為(k+1)階對(duì)稱方陣，其i行j列元素 為 第26頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 類似地， 其中R為k階對(duì)稱方陣,其i行j列元素 為 （2.6）稱(2.6)為Bartlett公式。第27頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 該定理應(yīng)用的例子：sample3

11、.1例2.2 （獨(dú)立白噪聲） 設(shè) ，如果 ，則 ，由Bartlett 公式， 故，當(dāng)n充分大時(shí),有 第28頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三例:產(chǎn)生樣本長度n=400的白噪聲序列,樣本自相關(guān)函數(shù)如下圖(sample3.1)： 19/20=95%第29頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第30頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例2.3 對(duì)MA(q)序列 ，利用定理知,如果白噪聲是獨(dú)立同分布的，只要mq，由Bartlett公式知,則 于是可作假設(shè)檢驗(yàn) ： 是MA(q)下，對(duì)mq有第31頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三

12、 檢驗(yàn)： 使用： q=0,q=1,第32頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 注: 一般地，常用 或 作為與 進(jìn)行比較，以檢驗(yàn)數(shù)據(jù)由MA(1)過程產(chǎn)生。第33頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例2.4 (一階自回歸過程) 對(duì)平穩(wěn)AR(1)過程 用Bartlett公式，并注意到 ,則的漸近方差為 當(dāng)i比較大時(shí)第34頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 四. 隨機(jī)模擬AR(2)模型：其中 為獨(dú)立同分布正態(tài)白噪聲。分別利用前100，500，900數(shù)據(jù)計(jì)算 ，結(jié)果如圖:第35頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 第36頁，共8

13、0頁，2022年，5月20日，7點(diǎn)1分，星期三 五. 遍歷性(Erdogic)一個(gè)時(shí)間序列的期望和第j個(gè)自協(xié)方差視作如下意義上的總體平均，即平穩(wěn)序列 的一個(gè)樣本是 的一個(gè)實(shí)現(xiàn)，而不是某個(gè)特定時(shí)刻t的 的簡(jiǎn)單抽樣，故不能直接引用統(tǒng)計(jì)中的大數(shù)定律的結(jié)果。第37頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 對(duì)于從隨機(jī)序列中得到的樣本量為N的實(shí)現(xiàn)， ，可計(jì)算： 樣本均值： (2.7) 樣本協(xié)方差： (2.8) 它們不是一個(gè)總體平均而是一個(gè)時(shí)間平均。第38頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 一個(gè)平穩(wěn)過程被稱作是關(guān)于均值遍歷的，如果當(dāng) 時(shí)，(2.7)依概率收斂于 。如果一個(gè)平

14、穩(wěn)過程的自協(xié)方差滿足 則 關(guān)于均值是遍歷的。一個(gè)平穩(wěn)過程，如果 對(duì)所有的j都成立，則稱該過程是關(guān)于二階矩遍歷的。第39頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 若 是一個(gè)正態(tài)平穩(wěn)過程時(shí)，條件足可以保證關(guān)于所有階矩的遍歷性。物理上的解釋： 時(shí)間平均=總體平均這一結(jié)果表明：求平穩(wěn)序列的統(tǒng)計(jì)特征矩只需序列的一次實(shí)現(xiàn)，而不需要多次實(shí)現(xiàn)。第40頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例2.5： 一個(gè)平穩(wěn)的但非遍歷的過程設(shè)第i個(gè)實(shí)現(xiàn) 的均值 是由 分布生成的，其中 是獨(dú)立于 的均值為0，方差為 的正態(tài)白噪聲過程。第41頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第4

15、2頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 第三節(jié) 偏相關(guān)函數(shù)估計(jì)偏相關(guān)函數(shù) 的估計(jì) 的遞推公式，第43頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 定理3.1 設(shè) 為正態(tài)平穩(wěn)序列，則(1) (2) (3) 當(dāng)kp時(shí)， 的偏相關(guān)函數(shù)的估計(jì)為隨機(jī)向量 為漸近獨(dú)立且漸近分布為 ， 為M階單位陣，M為大于1的任意給定的正整數(shù)。第44頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第四節(jié) 模型的初步分析一. 獨(dú)立序列的判別方法(白噪聲)設(shè) 為獨(dú)立同分布的隨機(jī)序列，而且 , 從而 是白噪聲序列。 第45頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 1. 白噪聲的正

16、態(tài)分布檢驗(yàn)法 根據(jù) 的樣本數(shù)據(jù)列 計(jì)算出樣本自相關(guān)函數(shù) ，它們的誤差為 由Bartlett公式，可知其中H的第i行第j列的元素 為，于是有，第46頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 于是對(duì)于 j=1,2,k,我們有取m=1時(shí)， ，即在 中約有68.3%的點(diǎn)值落在區(qū)間 內(nèi);取m=2時(shí)， ，即在 中約有95.44%的點(diǎn)落在區(qū)間 內(nèi);取m=3時(shí)， ，即在 中約有99.74%的點(diǎn)落在區(qū)間 內(nèi)(稱為 原則)。第47頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 換一種角度，令 表示滿足下面條件的j的個(gè)數(shù)(j=1,2,k), 對(duì)于原假設(shè) ： 是獨(dú)立白噪聲下，對(duì)較大的n，應(yīng)當(dāng)有9

17、5%的 小于1.96，所以當(dāng)取值大于0.05值，應(yīng)當(dāng)拒絕 是白噪聲的假設(shè)。第48頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.1 (1) 樣本長度n=400, ，取m=2,這時(shí) 第49頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 也可取m=3的檢驗(yàn)方法，則第50頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 也可取m=1的檢驗(yàn)方法，則第51頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.2 樣本長度n=400, AR(1)序列第52頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三第53頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三

18、例4.3 樣本長度n=400, MA(1)序列：第54頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 二. 白噪聲的 檢驗(yàn)如果 是獨(dú)立同分布的標(biāo)準(zhǔn)正態(tài)隨機(jī)變量，它們的平方和 服從自由度為k的 分布對(duì)于獨(dú)立同分布的白噪聲 ，由樣本自相關(guān)函數(shù) 的中心極限定理，當(dāng)n充分大后， 近似服從k維標(biāo)準(zhǔn)正態(tài)分布，于是， 近似服從 分布，這里第55頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 由于在原假設(shè) 下，所以當(dāng)檢驗(yàn)統(tǒng)計(jì)量的取值較大時(shí)應(yīng)當(dāng)拒絕原假設(shè)，否則沒理由拒絕原假設(shè) 。具體地， 給定檢驗(yàn)水平 ，查k個(gè)自由度的 分布表得到臨界值滿足 當(dāng)實(shí)際計(jì)算結(jié)果 時(shí)，應(yīng)當(dāng)否定 是獨(dú)立白噪聲的原假設(shè),當(dāng)

19、 時(shí)，不能否定 是獨(dú)立白噪聲序列。第56頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.4 （例4.1的續(xù)）對(duì)于白噪聲序列 ，有 故，不能否定原假設(shè)。第57頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 對(duì)于AR(1)序列 有 故，否定原假設(shè) 。第58頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.5 對(duì)于AR(1)序列 樣本數(shù)n=400,重復(fù)n=500，得到否定原假設(shè) 的比例為，(1) m=5, b0.00.10.20.30.50.70.80.9 p4.5%26%88.5%99.5%100%100%100%100%第59頁，共80頁，2022年，5月20日

20、，7點(diǎn)1分，星期三 (2) m=20, b0.00.10.20.30.50.70.80.9 p4%13.5%60%96.5%100%100%100%100%第60頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.6 MA(1)序列： ,樣本數(shù)n=400,重復(fù)n=500，得到否定原假設(shè) 的比例為，(1) m=5, b0.00.10.20.30.50.70.80.9 p1.5%24%86.5%100%100%100%100%100%第61頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 (2) m=20， b0.00.10.20.30.50.70.80.9 p2.5%11.4%6

21、1%97%100%100%100%100%第62頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 注1. 上述討論的問題敘述的依據(jù)雖然都基于 是獨(dú)立同分布的白噪聲假設(shè)，但在實(shí)際問題中，這個(gè)假設(shè)條件可以放寬，即對(duì)于假設(shè) ： 是白噪聲，一般都可采用上面的方法。注2.在實(shí)際問題中，k一般既不能取得過大，亦不能取得太小。一般地，若觀測(cè)量較多，k可取 或 ，甚至更?。蝗粲^測(cè)量較小，m可取 。第63頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 二. 周期分量與季節(jié)序列的判別方法例4.7：序列其中 為某個(gè)平穩(wěn)線性序列.記 分別表示序列 的樣本自協(xié)方差函數(shù)，于是有經(jīng)計(jì)算，當(dāng) 時(shí)，第64頁，共8

22、0頁，2022年，5月20日，7點(diǎn)1分，星期三 由平穩(wěn)序列自相關(guān)協(xié)方差函數(shù)的相合性,當(dāng)k很大時(shí)，有第65頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.8. 北京1990.1-2000.12年的氣溫序列sample3.5第66頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 樣本自相關(guān)函數(shù) 第67頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 例4.9 序列：Sample3.6第68頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 樣本自協(xié)方差函數(shù)圖第69頁，共80頁，2022年，5月20日，7點(diǎn)1分，星期三 三. 回歸趨勢(shì)與求和模型判別考慮序列包含一個(gè)(d-1)次多項(xiàng)式的趨勢(shì)項(xiàng)，例如序列稱上式中 為回歸趨勢(shì)項(xiàng)。并記 分別為 的樣本均值，樣本自相關(guān)函