協(xié)方差相關(guān)系數(shù)和矩ppt課件

1、4.3 協(xié)方差、相關(guān)系數(shù)和矩協(xié)方差、相關(guān)系數(shù)和矩 一、協(xié)方差和相關(guān)系數(shù)的概念一、協(xié)方差和相關(guān)系數(shù)的概念 對(duì)于二維隨機(jī)變量對(duì)于二維隨機(jī)變量 ，除了關(guān)懷它的各個(gè)分，除了關(guān)懷它的各個(gè)分量的數(shù)學(xué)期望和方差外，還需求知道這兩個(gè)分量之量的數(shù)學(xué)期望和方差外，還需求知道這兩個(gè)分量之間的相互關(guān)系，這種關(guān)系無(wú)法從各個(gè)分量的期望和間的相互關(guān)系，這種關(guān)系無(wú)法從各個(gè)分量的期望和方差來(lái)闡明，這就需求引進(jìn)描畫這兩個(gè)分量之間相方差來(lái)闡明，這就需求引進(jìn)描畫這兩個(gè)分量之間相互關(guān)系的數(shù)字特征互關(guān)系的數(shù)字特征協(xié)方差及相關(guān)系數(shù)，但如何協(xié)方差及相關(guān)系數(shù)，但如何來(lái)描寫這種關(guān)系呢？來(lái)描寫這種關(guān)系呢？ 由由(4-17)知知,假設(shè)假設(shè) 相互獨(dú)立

2、相互獨(dú)立,那那么么 ;假設(shè)假設(shè) ,那么表示那么表示X與與Y不獨(dú)立不獨(dú)立,X與與Y之間之間存在著一定的關(guān)系存在著一定的關(guān)系.據(jù)此據(jù)此,我們引入以下定義我們引入以下定義),(YX0EYYEXXEYX與0EYYEXXE 定義定義4.6 設(shè)設(shè) 是二維隨機(jī)變量，是二維隨機(jī)變量， 那么稱那么稱 為為X與與Y的協(xié)方差的協(xié)方差Covariance，記為，記為 或或 ， 即即 420假設(shè)假設(shè) 且且 ，那么稱，那么稱 421為為X與與Y的相關(guān)系數(shù)的相關(guān)系數(shù)Correlation Coefficient 是是有量綱的量，而有量綱的量，而 那么是無(wú)量綱的量那么是無(wú)量綱的量 協(xié)方差常用以下公式計(jì)算協(xié)方差常用以下公式計(jì)算

3、 現(xiàn)實(shí)上，現(xiàn)實(shí)上， ),(YXEYYEXXEYX,covXYYX,covXYEYYEXXE0DXX0DYYXYYXXYDYDXYX),cov(YX,covXYEYEXXYEYX,cov 定理定理4.1 (柯西柯西許瓦茲許瓦茲CauchySchwarz不等式不等式)X，Y為二維隨機(jī)變量，假設(shè)為二維隨機(jī)變量，假設(shè) 和和 存在，那么存在，那么 428 證明證明 由于由于 , 所以所以 存在存在. 另一方面另一方面,對(duì)對(duì)恣意恣意 ，二次三項(xiàng)式，二次三項(xiàng)式 , 429 可見(jiàn)上述關(guān)于可見(jiàn)上述關(guān)于的二次三項(xiàng)式不能夠有兩個(gè)不同的實(shí)根的二次三項(xiàng)式不能夠有兩個(gè)不同的實(shí)根,因此判別式因此判別式即有即有 定理定理4.

4、2 設(shè)設(shè)X，Y是二維隨機(jī)變量，假設(shè)是二維隨機(jī)變量，假設(shè)X與與Y的相關(guān)的相關(guān)系系數(shù)數(shù) 存在，那么存在，那么1 4302 的充要條件是存在常數(shù)的充要條件是存在常數(shù) 使使 2XE2YE)()(222YEXEEXY2221YXXYXYER02)(2222YEXYEXEYXE0)()(44222YEXEEXY)()(222YEXEEXYXY1XY1XY,0b、a 1baXYP 證明證明 1 由定理由定理4.1知知 ,因此因此 , 即即 ，所以，所以 2我們略去結(jié)論我們略去結(jié)論2的充分性證明，這里只給出必要的充分性證明，這里只給出必要性的證明：性的證明： 將二次三項(xiàng)式將二次三項(xiàng)式429中的中的X和和Y分別

5、換為分別換為 和和 那么對(duì)恣意那么對(duì)恣意 ，有，有 ，即即 .特別地，當(dāng)特別地，當(dāng) 等于二次三項(xiàng)式的最小值點(diǎn)等于二次三項(xiàng)式的最小值點(diǎn) 時(shí)，上時(shí)，上式變?yōu)槭阶優(yōu)?DYDXEYYEEXXEEYYEXXEYX2222cov，1)cov(2DYDXYX，12XY1XY)(EXX )(EYY R ),cov(2)()(22DYYXDXEYYEXXE02)(222YYXXYXYXDXYXY00 )1 ()(220YXYYXD 由于由于 ，故，故 . 根據(jù)方差性質(zhì)根據(jù)方差性質(zhì)4,有有 即即 于是于是, 存在常數(shù)存在常數(shù) 和和 使使 顯然，利用顯然，利用431亦可證亦可證430的結(jié)論成立的結(jié)論成立. 不過(guò)不過(guò)

6、,給出給出431的主要目的還在于證明結(jié)論的主要目的還在于證明結(jié)論2的必要性的必要性. 定理定理4.2闡明：闡明：X與與Y的相關(guān)系數(shù)是衡量的相關(guān)系數(shù)是衡量X與與Y之間線性相關(guān)之間線性相關(guān)程度的量當(dāng)程度的量當(dāng) 時(shí)，時(shí)，X與與Y依概率依概率1線性相關(guān)；特別當(dāng)線性相關(guān)；特別當(dāng) 時(shí)時(shí),Y隨隨X的增大而線性增大的增大而線性增大,此時(shí)稱此時(shí)稱X與與Y線性正相關(guān)線性正相關(guān)Positive Correlation);當(dāng)當(dāng) 時(shí)時(shí),Y隨隨X的增大而線性地減的增大而線性地減小，此時(shí)稱小，此時(shí)稱X與與Y線性負(fù)相關(guān)線性負(fù)相關(guān)(Negative Correlation);當(dāng)當(dāng) 變小變小時(shí)時(shí),X與與Y的線性相關(guān)程度就變?nèi)醯木€

7、性相關(guān)程度就變?nèi)?假設(shè)假設(shè) =0,X與與Y之間就不存之間就不存在線性關(guān)系，此時(shí)稱在線性關(guān)系，此時(shí)稱X與與Y不相關(guān)不相關(guān)Uncorrelated 需求指出的是需求指出的是:這里的不相關(guān)這里的不相關(guān),指的是從線性關(guān)系上看沒(méi)有指的是從線性關(guān)系上看沒(méi)有關(guān)聯(lián)關(guān)聯(lián),并非并非X與與Y之間沒(méi)有任何關(guān)系之間沒(méi)有任何關(guān)系,也許此時(shí)還存在別的關(guān)系也許此時(shí)還存在別的關(guān)系1XY0)(0YXD)(00YXEYXP11)()(00YXEXYP0a)(0YXEb1baXYP1XY1XY1XYXYXY 獨(dú)立與不相關(guān)都是隨機(jī)變量之間相互聯(lián)絡(luò)程度的一種反映獨(dú)立與不相關(guān)都是隨機(jī)變量之間相互聯(lián)絡(luò)程度的一種反映,獨(dú)立指的是獨(dú)立指的是X與

8、與Y沒(méi)有任何關(guān)系，不相關(guān)指的沒(méi)有任何關(guān)系，不相關(guān)指的X與與Y之間沒(méi)有線之間沒(méi)有線性相關(guān)關(guān)系性相關(guān)關(guān)系 現(xiàn)實(shí)上，假設(shè)現(xiàn)實(shí)上，假設(shè)X與與Y獨(dú)立，那么獨(dú)立，那么X與與Y一定不相關(guān)這可以一定不相關(guān)這可以利用利用410和和419進(jìn)展證明；但反過(guò)來(lái)，假設(shè)進(jìn)展證明；但反過(guò)來(lái)，假設(shè)X與與Y不不相相關(guān)，那么關(guān)，那么X與與Y卻未必獨(dú)立卻未必獨(dú)立 然而，對(duì)于二維正態(tài)隨機(jī)變量然而，對(duì)于二維正態(tài)隨機(jī)變量 而言，而言，X與與Y的獨(dú)立性的獨(dú)立性與不相關(guān)性卻是等價(jià)的，我們有如下結(jié)果：與不相關(guān)性卻是等價(jià)的，我們有如下結(jié)果： 定理定理4.3 設(shè)設(shè) 那么那么 432 證明證明 顯然，我們有顯然，我們有 ，而，而),(YX，NYX2

9、22121,XY 222211,DYEYDXXE 推論設(shè)推論設(shè) ，那么，那么X與與Y相互獨(dú)立相互獨(dú)立的的充要條件是充要條件是X與與Y不相關(guān)不相關(guān) 證明證明 由定理由定理3.3知知, 假設(shè)假設(shè) ，那，那么么X與與Y相互獨(dú)立的充要條件是相互獨(dú)立的充要條件是 ，由定理，由定理4.3知知, ，因，因此，此，X與與Y相互獨(dú)立的充要條件是相互獨(dú)立的充要條件是X與與Y不相關(guān)不相關(guān) 根據(jù)上面的討論，二維正態(tài)隨機(jī)變量根據(jù)上面的討論，二維正態(tài)隨機(jī)變量 的概率密度中的概率密度中的參數(shù)的參數(shù) 就是就是X和和Y的相關(guān)系數(shù)，因此二維正態(tài)隨機(jī)變量的相關(guān)系數(shù)，因此二維正態(tài)隨機(jī)變量 的分布就完全可由的分布就完全可由X和和Y的數(shù)

10、學(xué)期望、方差以及它們的相關(guān)系的數(shù)學(xué)期望、方差以及它們的相關(guān)系數(shù)所確定數(shù)所確定 隨機(jī)變量除了前面引見(jiàn)的數(shù)學(xué)期望、方差、協(xié)方差以及它隨機(jī)變量除了前面引見(jiàn)的數(shù)學(xué)期望、方差、協(xié)方差以及它們的相關(guān)系數(shù)等數(shù)字特征外，還存在許多其它的數(shù)字特征們的相關(guān)系數(shù)等數(shù)字特征外，還存在許多其它的數(shù)字特征,下下面引見(jiàn)另外幾種常見(jiàn)的數(shù)字特征面引見(jiàn)另外幾種常見(jiàn)的數(shù)字特征 三、矩的概念三、矩的概念，NYX222121,，NYX222121,0XY),(YX),(YX 1. k階原點(diǎn)矩階原點(diǎn)矩 定義定義4.7 設(shè)設(shè)X是隨機(jī)變量，假設(shè)是隨機(jī)變量，假設(shè) 存在存在,那么稱它為那么稱它為X的的 階原點(diǎn)矩，簡(jiǎn)稱階原點(diǎn)矩，簡(jiǎn)稱 階矩，記為階

11、矩，記為 ，即，即 433顯然，顯然，X的數(shù)學(xué)期望是的數(shù)學(xué)期望是X的一階原點(diǎn)矩，即的一階原點(diǎn)矩，即 2. 階中心矩階中心矩 定義定義4.8 設(shè)設(shè)X是隨機(jī)變量，假設(shè)是隨機(jī)變量，假設(shè) ( , )存在，存在， 那么稱它為那么稱它為X的的k階中心矩，記為，即階中心矩，記為，即 ， 434顯然，顯然，X的方差是的方差是X的二階中心矩，即的二階中心矩，即 3. 階原點(diǎn)混合矩階原點(diǎn)混合矩定義定義4.9 設(shè)設(shè) 是二維隨機(jī)變量，假設(shè)是二維隨機(jī)變量，假設(shè) ( ,)(kXE, 2, 1kkkk, 2, 1)(kXEkk1EXkkEXXE, 2, 1k, 2, 1kEXXEvkK2vDX lk ),(YX)(lkYX

12、E, 2, 1,lk存在，那么稱它為存在，那么稱它為X 與與Y的的 階混合原點(diǎn)矩，簡(jiǎn)稱階混合原點(diǎn)矩，簡(jiǎn)稱 階階混合矩，記為混合矩，記為 ，即，即 435由由 可知，協(xié)方差可用可知，協(xié)方差可用( )的的1+1階混階混合原點(diǎn)矩合原點(diǎn)矩X與與Y和的一階原點(diǎn)矩表示和的一階原點(diǎn)矩表示4. 階中心混合矩階中心混合矩定義定義4.10 設(shè)設(shè) 是二維隨機(jī)變量，假設(shè)是二維隨機(jī)變量，假設(shè) 存在，那么稱它為存在，那么稱它為X與與Y的的 階混合中心矩階混合中心矩 記為記為 ，即即 436顯然，顯然，X與與Y的協(xié)方差是的協(xié)方差是X與與Y的的1+1階混合中心矩，即階混合中心矩，即由上可以看到，前面引見(jiàn)的一些數(shù)字特征如數(shù)學(xué)期望、方差、由上可以看到，前面引見(jiàn)的一些數(shù)字特征如數(shù)學(xué)期望、方差、協(xié)方差等均可用矩來(lái)表示，可見(jiàn)