概率空間和隨機(jī)對(duì)象

《隨機(jī)過(guò)程》教程第2章概率空間和隨機(jī)對(duì)象第2講隨機(jī)變量

簡(jiǎn)單地說(shuō),隨機(jī)變量、隨機(jī)向量、隨機(jī)過(guò)程就是個(gè)數(shù)上有不同：一個(gè)、n個(gè)、無(wú)窮個(gè)。考察一次試驗(yàn)，若試驗(yàn)結(jié)果只需要一個(gè)數(shù)（變量）就可以表示，則隨機(jī)對(duì)象是隨機(jī)變量；若試驗(yàn)結(jié)果需要n個(gè)數(shù)表示，則隨機(jī)對(duì)象是隨機(jī)向量；若試驗(yàn)結(jié)果需要無(wú)窮個(gè)數(shù)表示，則隨機(jī)對(duì)象是隨機(jī)過(guò)程。隨機(jī)對(duì)象2隨機(jī)對(duì)象映射方法：將具體的樣本空間映射到數(shù)集或者函數(shù)集直接方法：直接指定樣本空間為數(shù)集或函數(shù)集當(dāng)樣本空間為一維實(shí)數(shù)集合時(shí)，則稱該一維實(shí)變量為隨機(jī)變量當(dāng)樣本空間為一維復(fù)數(shù)集合時(shí)，則稱該一維復(fù)數(shù)變量為復(fù)隨機(jī)變量當(dāng)樣本空間為高維實(shí)數(shù)空間時(shí)，則稱該高維實(shí)數(shù)變量為隨機(jī)向量當(dāng)樣本空間為定義于某個(gè)數(shù)集上的函數(shù)組成，則稱該函數(shù)集合為隨機(jī)過(guò)程3隨機(jī)變量隨機(jī)變量的兩要素變量特征概率特征（統(tǒng)計(jì)特征）手機(jī)話費(fèi)（元）月使用時(shí)間（分鐘）4直觀理解

簡(jiǎn)單地說(shuō)，“隨機(jī)變量”就是用一個(gè)數(shù)（變量）來(lái)表示試驗(yàn)后的結(jié)果（樣本點(diǎn)）。因?yàn)槊看卧囼?yàn)結(jié)果的不確定，隨機(jī)變量既有取值問(wèn)題，又有取此值的可能性的問(wèn)題，所以叫“隨機(jī)變量”。引進(jìn)它，就是為了把具體問(wèn)題數(shù)學(xué)化。事件用“隨機(jī)變量取值”來(lái)表示。象“拋硬幣”，可以把“正面朝上”和“反面朝上”對(duì)應(yīng)于“X=0”和“X=1”。一般情況下，隨機(jī)變量往往是有實(shí)際意義的，例如上面的“擲出的點(diǎn)數(shù)”。5樣本空間的統(tǒng)一問(wèn)題當(dāng)隨機(jī)變量（隨機(jī)向量）的樣本空間只是實(shí)數(shù)集合的一部分時(shí)，仍用整個(gè)實(shí)數(shù)集合作為樣本空間。這樣將樣本空間統(tǒng)一之后，可以用概率密度函數(shù)、概率分布函數(shù)統(tǒng)一描述隨機(jī)變量的概率特性；被擴(kuò)充的樣本點(diǎn)處的概率密度被定義為零；對(duì)于離散型隨機(jī)變量（隨機(jī)向量），有時(shí)候?yàn)榱吮硎龅姆奖?，也用離散變量表示，而不進(jìn)行擴(kuò)充，此時(shí)概率特性用概率質(zhì)量函數(shù)表示6隨機(jī)變量的描述完全描述（包含所有信息）概率質(zhì)量函數(shù)（pmf）離（mass）概率生成函數(shù)（pgf）離

（generating）概率分布函數(shù)（cdf）離、連、混概率密度函數(shù)（pdf）離、連、混

（density）概率特征函數(shù)(pcf)離、連、混(characteristic)矩描述均值、均方、方差、中心矩、原點(diǎn)矩7離散型隨機(jī)變量當(dāng)隨機(jī)變量X僅取值于某可數(shù)實(shí)數(shù)集時(shí)，稱該隨機(jī)變量為離散型隨機(jī)變量。8概率質(zhì)量函數(shù)

(pmf:probabilitymassfunction)任何一種離散型隨機(jī)變量都可以統(tǒng)一地用概率質(zhì)量函數(shù)表示其他事件的概率通過(guò)概率質(zhì)量函數(shù)計(jì)算得到連續(xù)型隨機(jī)變量不可以用概率質(zhì)量函數(shù)表示9概率生成函數(shù)-母函數(shù)

(pgf:probabilitygeneratingfunction)實(shí)質(zhì)就是Z變換由Z變換的性質(zhì)，概率生成函數(shù)與概率質(zhì)量函數(shù)互相唯一確定。由概率生成函數(shù)求概率質(zhì)量，既可以用Z逆變換，也可以用Taylor展開(kāi)。[例]2.16,17,18,20P3110例子*11概率分布函數(shù)

(cdf:cumulativedistributionfunction)隨機(jī)變量的分布函數(shù)定義為：*12分布函數(shù)的性質(zhì)2.2*13證明*14*15概率密度函數(shù)

(pdf:probabilitydensityfunction)概率分布函數(shù)的導(dǎo)數(shù)概率在直線上的密度概率密度函數(shù)是分布函數(shù)的導(dǎo)數(shù)，這里所說(shuō)的導(dǎo)數(shù)指的是廣義函數(shù)導(dǎo)數(shù)。這樣，離散型隨機(jī)變量也有密度函數(shù)了，并且密度函數(shù)作為統(tǒng)一的描述方法可以描述混合型隨機(jī)變量。*16

廣義函數(shù)理論中的廣義函數(shù)導(dǎo)數(shù)是普通導(dǎo)數(shù)的推廣。當(dāng)普通導(dǎo)數(shù)存在時(shí)，廣義函數(shù)導(dǎo)數(shù)就是普通導(dǎo)數(shù)。跳躍間斷處的導(dǎo)數(shù)和都是廣義函數(shù)導(dǎo)數(shù)，

廣義函數(shù)的求導(dǎo)法則與普通函數(shù)類似，例如奇異函數(shù)的計(jì)算：導(dǎo)數(shù)17計(jì)算[求廣義函數(shù)導(dǎo)數(shù)]

可導(dǎo)點(diǎn)的導(dǎo)數(shù)是普通導(dǎo)數(shù)，跳躍間斷處的導(dǎo)數(shù)是沖激函數(shù)，=跳躍度間斷點(diǎn)），間斷點(diǎn)就是沖激點(diǎn)，跳躍度就是沖激強(qiáng)度。*18概率密度函數(shù)的性質(zhì)2.319注20概率特征函數(shù)

(pcf:probabilitycharacteristicfunction)

特征函數(shù)其實(shí)就是概率密度的Fourier變換+ω反轉(zhuǎn)。所以由Fourier變換公式，所以由逆變換公式，21特征函數(shù)的性質(zhì)特征函數(shù)包含了隨機(jī)變量的完全信息。是研究隨機(jī)變量的重要工具，它的分析性質(zhì)（可導(dǎo)性，與Fourier變換的關(guān)系等）比分布函數(shù)、密度更好。由F變換的性質(zhì)，特征函數(shù)與概率密度互相唯一確定---完全信息。22特征函數(shù)計(jì)算求特征函數(shù)相當(dāng)于F變換再w取-w（當(dāng)然也可以先反轉(zhuǎn)再變換，即但有時(shí)因果信號(hào)會(huì)翻成反因果信號(hào)，反而麻煩）。由特征函數(shù)求概率密度，可以用反轉(zhuǎn)+F逆變換

(或先逆后轉(zhuǎn))，前者更好---它就是上一項(xiàng)的逆過(guò)程。23正態(tài)分布設(shè)連續(xù)型隨機(jī)變量X的概率密度為其中μ,σ(σ>0)為常數(shù),則稱X服從參數(shù)為μ,σ的正態(tài)分布或高斯(Gauss)分布,記為X~N(μ,σ2).240.2660.3990.798mxOf(x)s=1.5s=1s=0.5251F(x)0.5xOm分布函數(shù)為26指數(shù)分布若連續(xù)型隨機(jī)變量X的概率密度為分布函數(shù)為則稱X是參數(shù)為λ(λ>0)的指數(shù)分布。Oxf(x)123123l=1/3l=1l=227對(duì)數(shù)正態(tài)分布*28從概率函數(shù)求解概率*29求概率分布函數(shù)和概率密度函數(shù)*30隨機(jī)變量X具有無(wú)記憶性：指數(shù)分布常用作各種“壽命”分布的近似。如果我們把X看作某儀器的壽命，則X的無(wú)記憶性表示:在儀器已工作了t

小時(shí)的條件下，它至少工作s+t

小時(shí)的概率與它原來(lái)至少工作s小時(shí)的概率是相同的。換句話說(shuō)如果儀器在時(shí)刻t是完好的，則它的剩余壽命的分布就是原來(lái)壽命的分布。指數(shù)分布在可靠性理論和排隊(duì)論中有廣泛的運(yùn)用。兩個(gè)無(wú)記憶隨機(jī)變量：離散幾何分布和連續(xù)指數(shù)分布。*31一個(gè)很有用的比喻將“概率”比喻成“質(zhì)量”在一條直線上分布總質(zhì)量為1的物質(zhì)概率質(zhì)量函數(shù)總質(zhì)量為1的可數(shù)個(gè)質(zhì)點(diǎn)分布在直線上概率分布函數(shù)分布在x左邊的總質(zhì)量概率密度函數(shù)在x處的概率的密度32隨機(jī)變量的分類離散型隨機(jī)變量除了cdf和pdf，還可以用pmf描述連續(xù)型隨機(jī)變量只能用cdf和pdf描述，不能用pmf描述混合型隨機(jī)變量只能用cdf和pdf描述，不能用pmf描述當(dāng)隨機(jī)變量的概率分布函數(shù)具有跳躍型的間斷點(diǎn)，并且存在一個(gè)開(kāi)區(qū)間，使得概率分布函數(shù)在該區(qū)間內(nèi)是嚴(yán)格單調(diào)遞增的連續(xù)函數(shù)，則稱該隨機(jī)變量是混合型隨機(jī)變量。332.2.2數(shù)字特征數(shù)字特征通常反映了隨機(jī)變量某個(gè)方面的統(tǒng)計(jì)特征，如平均取值，離散程度，信息量。34矩φ(X)是多項(xiàng)式，均值，均方，方差，原點(diǎn)矩，中心矩，絕對(duì)原點(diǎn)矩，絕對(duì)中心矩。*35E{φ(X)}這是一個(gè)很有用的公式，它實(shí)際上是隨機(jī)變量函數(shù)的期望公式。象特征函數(shù)就可以用它表示P.35*36標(biāo)準(zhǔn)化稱X*為X的標(biāo)準(zhǔn)化（歸一化）變量.例設(shè)隨機(jī)變量X具有數(shù)學(xué)期望E{X}=μ,方差D{X}=σ20.記X*=(X-μ)/σ.37概率特征函數(shù)和概率生成函數(shù)是隨機(jī)變量的完全描述，所以數(shù)字特征可以借助于它們求得。性質(zhì)2.538證明根據(jù)泰勒級(jí)數(shù)展開(kāi)公式39*40例：設(shè)隨機(jī)變量X服從參數(shù)為λ的Possion分布，求X的特征