《概率的解析》課件

概率的解析從理論基礎(chǔ)到實際應(yīng)用，探索隨機世界的數(shù)學(xué)之美課程介紹與內(nèi)容框架基礎(chǔ)概念概率空間與基本公理隨機變量離散與連續(xù)型變量特性概率分布常見分布及其應(yīng)用極限定理大數(shù)定律與中心極限定理概率論的起源與發(fā)展簡史117世紀(jì)初帕斯卡與費馬通信討論賭博問題218世紀(jì)拉普拉斯《概率分析理論》319世紀(jì)大數(shù)定律與中心極限定理形成420世紀(jì)科爾莫哥洛夫公理化體系建立概率問題的現(xiàn)實典型例子金融市場股票漲跌預(yù)測期權(quán)定價模型醫(yī)學(xué)研究新藥測試效果疾病篩查準(zhǔn)確率工程質(zhì)量產(chǎn)品故障率分析可靠性測試天氣預(yù)報降雨概率計算極端氣候風(fēng)險評估概率的基本概念綜述測度事件發(fā)生可能性的數(shù)值取值范圍在0到1之間可通過多種方式定義古典概率、頻率概率、主觀概率需滿足一系列公理和性質(zhì)非負(fù)性、規(guī)范性、可加性提供處理不確定性的數(shù)學(xué)工具構(gòu)建隨機現(xiàn)象的數(shù)學(xué)模型隨機現(xiàn)象與確定性現(xiàn)象對比隨機現(xiàn)象結(jié)果不可預(yù)測多次試驗結(jié)果各異具有偶然性特征例：拋硬幣、骰子點數(shù)確定性現(xiàn)象結(jié)果可以預(yù)先確定相同條件下結(jié)果相同遵循嚴(yán)格因果關(guān)系例：鐘表運行、物體下落試驗、樣本空間、事件定義隨機試驗在給定條件下可重復(fù)進行的實驗樣本空間所有可能結(jié)果的集合，記為Ω事件樣本空間的子集，記為A、B等樣本點樣本空間中的元素，最基本結(jié)果樣本點與事件的表示方法集合表示描述方式例子（拋兩枚硬幣）樣本空間Ω所有可能結(jié)果集合{正正,正反,反正,反反}樣本點ω單個基本結(jié)果ω=正反事件A樣本空間子集A={至少一個正面}={正正,正反,反正}事件的分類：必然、隨機、不可能必然事件概率為1，一定發(fā)生的事件隨機事件概率介于0到1之間，可能發(fā)生也可能不發(fā)生不可能事件概率為0，不會發(fā)生的事件概率空間的三要素1樣本空間Ω所有可能結(jié)果的集合2事件域F所關(guān)心事件的集合3概率測度P為事件賦予概率值的函數(shù)古典概率與頻率概率古典概率有限等可能樣本空間P(A)=A中樣本點數(shù)/總樣本點數(shù)適用：骰子、撲克牌、抽球局限：要求等可能性假設(shè)頻率概率基于大量重復(fù)試驗P(A)≈事件A發(fā)生次數(shù)/試驗總次數(shù)適用：實驗數(shù)據(jù)分析特點：隨試驗次數(shù)增加逐漸穩(wěn)定概率的公理化基礎(chǔ)回顧1非負(fù)性對任意事件A，P(A)≥02規(guī)范性樣本空間的概率為1，P(Ω)=13可列可加性互不相容事件序列的概率等于各事件概率之和概率的基本性質(zhì)1：范圍界定概率非負(fù)性任意事件A的概率P(A)≥0概率上界任意事件A的概率P(A)≤1邊界情況必然事件概率為1，不可能事件概率為0概率的基本性質(zhì)2：相加法則互斥事件加法若A∩B=?，則P(A∪B)=P(A)+P(B)一般加法公式一般情況：P(A∪B)=P(A)+P(B)-P(A∩B)多事件推廣可推廣至三個或更多事件的情況概率運算：互斥與對立事件互斥事件A∩B=?不能同時發(fā)生P(A∪B)=P(A)+P(B)對立事件A=B^c(B的補集)一個發(fā)生當(dāng)且僅當(dāng)另一個不發(fā)生P(A)+P(B)=1一般事件可能存在交集可能同時發(fā)生P(A∪B)=P(A)+P(B)-P(A∩B)條件概率定義與符號無條件概率P(A)條件概率P(A|B)條件概率的基本性質(zhì)定義：P(A|B)=P(A∩B)/P(B)B發(fā)生條件下A發(fā)生的概率范圍：0≤P(A|B)≤1與普通概率取值范圍相同特例：P(B|B)=1已知B發(fā)生，B再發(fā)生的概率為1性質(zhì)：滿足概率公理條件概率也是概率，滿足概率的所有性質(zhì)乘法公式推導(dǎo)與舉例公式推導(dǎo)從條件概率定義P(A|B)=P(A∩B)/P(B)可得P(A∩B)=P(B)·P(A|B)對稱性同樣可得P(A∩B)=P(A)·P(B|A)計算聯(lián)合概率的兩種方式鏈?zhǔn)酵茝VP(A∩B∩C)=P(A)·P(B|A)·P(C|A∩B)適用于多事件聯(lián)合概率計算貝葉斯公式及實際應(yīng)用應(yīng)用案例疾病篩查、垃圾郵件過濾、證據(jù)推理原理講解已知結(jié)果推導(dǎo)原因的概率工具公式表達P(B|A)=[P(A|B)·P(B)]/P(A)獨立事件的定義與判定定義若P(A∩B)=P(A)·P(B)或等價地，P(A|B)=P(A)則稱事件A與B相互獨立判定方法計算P(A∩B)與P(A)·P(B)比較兩者是否相等獨立性與互斥性不同獨立性意義一個事件發(fā)生與否不影響另一事件概率信息無關(guān)聯(lián)性簡化聯(lián)合概率計算多個事件的獨立與互斥獨立事件定義：P(A∩B)=P(A)·P(B)特點：信息無關(guān)聯(lián)例子：今日降雨與明日股票漲跌數(shù)學(xué)關(guān)系：可同時發(fā)生互斥事件定義：A∩B=?特點：不能同時發(fā)生例子：同一次投擲得到1點和6點概率關(guān)系：P(A∩B)=0，通常不獨立條件概率與獨立性的實際案例隨機變量的定義及類型定義從樣本空間到實數(shù)集的映射函數(shù)離散型取值有限或可數(shù)無限連續(xù)型取值在某區(qū)間連續(xù)分布混合型部分離散部分連續(xù)4離散型隨機變量舉例0/1伯努利隨機變量成功/失敗二值變量0,1,2...泊松隨機變量單位時間內(nèi)事件發(fā)生次數(shù)1-6離散均勻分布如骰子點數(shù)連續(xù)型隨機變量舉例均勻分布區(qū)間內(nèi)等可能分布正態(tài)分布鐘形曲線分布指數(shù)分布衰減曲線分布隨機變量的分布律及其性質(zhì)離散隨機變量X概率分布律表示性質(zhì)定義P{X=xk}=pk每個pk≥0表示方法表格或列表形式所有pk之和等于1應(yīng)用事件概率可用分布律計算完全刻畫隨機變量概率特征概率分布函數(shù)的基本性質(zhì)1定義：F(x)=P{X≤x}表示隨機變量不超過x的概率2單調(diào)非減性若x13右連續(xù)性對任意x，F(xiàn)(x+0)=F(x)4歸一性F(-∞)=0，F(xiàn)(+∞)=1常見分布1：二項分布成功次數(shù)k概率P(X=k)常見分布2：泊松分布概率質(zhì)量函數(shù)P(X=k)=e^(-λ)·λ^k/k!參數(shù)λ表示單位時間/空間內(nèi)平均發(fā)生次數(shù)應(yīng)用場景呼叫中心來電數(shù)，網(wǎng)站訪問量，放射性衰變期望與方差E(X)=Var(X)=λ常見分布3：正態(tài)分布公式與參數(shù)密度函數(shù)：f(x)=(1/σ√2π)·e^(-(x-μ)2/2σ2)參數(shù)：μ(均值)，σ(標(biāo)準(zhǔn)差)簡記：X~N(μ,σ2)標(biāo)準(zhǔn)正態(tài)分布μ=0，σ=1的特例通過變換Z=(X-μ)/σ得到查表計算概率：Φ(z)=P{Z≤z}分布函數(shù)之間的聯(lián)系與變換二項分布離散分布，n次獨立重復(fù)試驗泊松近似當(dāng)n大p小時，λ=np正態(tài)近似當(dāng)n足夠大時，中心極限定理聯(lián)合分布與邊緣分布聯(lián)合分布描述兩個隨機變量的概率關(guān)系邊緣分布從聯(lián)合分布得到單變量分布條件分布一個變量取特定值時另一變量的分布數(shù)學(xué)期望與方差的定義數(shù)學(xué)期望隨機變量的平均值或中心位置方差隨機變量離散程度的度量標(biāo)準(zhǔn)差方差的平方根，與原變量同單位隨機變量函數(shù)的數(shù)學(xué)期望線性性質(zhì)E(aX+b)=aE(X)+bE(X+Y)=E(X)+E(Y)獨立變量乘積若X、Y獨立則E(XY)=E(X)E(Y)一般函數(shù)離散型：E[g(X)]=∑g(xi)p(xi)連續(xù)型：E[g(X)]=∫g(x)f(x)dx方差與協(xié)方差的性質(zhì)定義Var(X)=E[(X-E(X))2]=E(X2)-[E(X)]2線性變換性質(zhì)Var(aX+b)=a2Var(X)和的方差Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y)獨立性條件若X,Y獨立，則Var(X+Y)=Var(X)+Var(Y)大數(shù)定律初識（切比雪夫等）貝努利大數(shù)定律試驗次數(shù)頻率概率p辛欽大數(shù)定律1結(jié)論樣本均值依概率收斂于總體期望條件獨立同分布隨機變量，有限方差數(shù)學(xué)表達P{|X?n-μ|<ε}→1(n→∞)大數(shù)定律典型應(yīng)用統(tǒng)計調(diào)查民意測驗、市場調(diào)研的理論基礎(chǔ)保險精算風(fēng)險評估與保費計算理論支撐蒙特卡洛方法通過隨機模擬求解復(fù)雜問題質(zhì)量控制產(chǎn)品抽檢與質(zhì)量預(yù)測理論基礎(chǔ)中心極限定理介紹基本形式獨立同分布的隨機變量之和經(jīng)適當(dāng)標(biāo)準(zhǔn)化后近似服從正態(tài)分布適用于任何原始分布（有限方差）直觀理解多種隨機因素的疊加效應(yīng)解釋了自然界正態(tài)分布的普遍性樣本均值的極限分布是正態(tài)分布中心極限定理的證明思路特征函數(shù)法利用特征函數(shù)的冪級數(shù)展開標(biāo)準(zhǔn)化后研究極限行為矩生成函數(shù)分析獨立隨機變量和的矩生成函數(shù)證明其收斂到正態(tài)分布的矩生成函數(shù)李雅普諾夫條件提供更一般的收斂條件適用于非同分布情況中心極限定理生活中的應(yīng)用測量誤差多種因素影響下的測量值呈正態(tài)分布金融市場資產(chǎn)收益率分布趨于正態(tài)質(zhì)量控制產(chǎn)品尺寸波動預(yù)測與控制概率模型的實際建立步驟問題分析明確研究對象與隨機現(xiàn)象特征模型假設(shè)確定概率空間與分布類型參數(shù)估計基于數(shù)據(jù)確定模型參數(shù)模型驗證檢驗?zāi)Ｐ团c實際數(shù)據(jù)的擬合度抽樣與事件概率估計1確定母體明確研究總體范圍2抽樣設(shè)計選擇合適的抽樣方法和樣本量3收集數(shù)據(jù)記錄樣本中事件發(fā)生頻率4概率估計頻率作為概率的估計值蒙特卡洛法簡介與案例原理通過隨機抽樣進行數(shù)值模擬步驟模型構(gòu)建、隨機采樣、結(jié)果統(tǒng)計2應(yīng)用求積分、優(yōu)化問題、物理模擬優(yōu)勢適用于復(fù)雜高維問題統(tǒng)計推斷中的概率分析點估計用樣本統(tǒng)計量估計總體參數(shù)通常采用矩估計或極大似然估計例：樣本均值估計總體期望假設(shè)檢驗基于概率評估統(tǒng)計假設(shè)的合理性通過顯著性水平控制錯誤概率例：t檢驗、卡方檢驗置信區(qū)間的概率意義95%常用置信水平對應(yīng)±1.96倍標(biāo)準(zhǔn)差99%高置信水平對應(yīng)±2.576倍標(biāo)準(zhǔn)差90%較低置信水平對應(yīng)±1.645倍標(biāo)準(zhǔn)差概率論在人工智能中的應(yīng)用貝葉斯網(wǎng)絡(luò)表示變量間概率依賴關(guān)系用于不確定性推理馬爾可夫模型序列數(shù)據(jù)建模語音識別、自然語言處理概率圖模型復(fù)雜系統(tǒng)不確定性建模計算機視覺、