貝葉斯信念網(wǎng)絡(luò)

1、六、貝葉斯信念網(wǎng)絡(luò)樸素貝葉斯分類器假定類條件獨(dú)立，即給定樣本的類標(biāo)號Y，屬性的值X之間相互條件獨(dú)立。但在實踐中，變量之間的依賴可能存在。貝葉斯信念網(wǎng)絡(luò)不要求給定類的所有屬性都條件獨(dú)立，而是允許指定哪些屬性條件獨(dú)立。它提供一種因果關(guān)系的圖形。2022-4-3012022-4-302某水文站內(nèi)裝有一個小型的警報系統(tǒng)，與該警報是否拉響相關(guān)的因素有：洪水到來、地震發(fā)生，同時該系統(tǒng)還肩負(fù)著安全警報的功能，當(dāng)水文站發(fā)生入室盜竊時，警報同樣也會拉響。而洪水的到來與降雨情況有關(guān)，地震的發(fā)生會反映在地震監(jiān)測儀的報告中。同時，入室盜竊也會帶來地震監(jiān)測儀的擾動。在水文站以往的數(shù)據(jù)庫中，關(guān)于以上這些因素都能找到詳細(xì)的

2、記錄。那么如何從這些數(shù)據(jù)中挖掘出有用的信息，來幫助工作人員進(jìn)行決策呢？ 假設(shè)某時刻警報突然拉響了，且此時正在下雨，值班人員要判斷此時發(fā)生地震、盜竊和洪水的概率分別是多少，以便采取相應(yīng)的措施加以應(yīng)對。問題引入：2022-4-3031、有向無環(huán)圖例如，得肺癌受其家族肺癌史的影響，也受是否吸煙的影響。2022-4-304有向無環(huán)圖條件概率圖概率依賴雙親或直接前驅(qū)后繼非后繼獨(dú)立節(jié)點(diǎn)：隨機(jī)節(jié)點(diǎn)：隨機(jī)變量變量貝葉斯網(wǎng)絡(luò)模型網(wǎng)絡(luò)的組成：（1）一個有向無環(huán)圖：表示變量之間的依賴關(guān)系（2）一個概率表：把各結(jié)點(diǎn)與它的直接父結(jié)點(diǎn)關(guān)聯(lián)起來貝葉斯網(wǎng)絡(luò)的一個重要性質(zhì)： 貝葉斯網(wǎng)絡(luò)中的一個結(jié)點(diǎn)，如果它的父母結(jié)點(diǎn)已知，則它條

3、件獨(dú)立于它的所有非后代結(jié)點(diǎn)概率表的建立（1）如果結(jié)點(diǎn)X沒有父母結(jié)點(diǎn)，則表中只包含先驗概率P（X）；（2）如果結(jié)點(diǎn)X只有一個父母結(jié)點(diǎn)Y，則表中包含條件概率P（X|Y）。（3）如果結(jié)點(diǎn)X有多個父母結(jié)點(diǎn)Y1，Y2，.,Yk，則表中包含條件概率P（X|Y1，Y2，.,Yk）。一個簡單的例子由左圖給出，它對下雨(R)引起草地變濕(W)建模。天下雨的可能性為，并且下雨時草地變濕的可能性為；也許的時間雨下得不長，不足以讓我們真正認(rèn)為草地被淋濕了。在這個例子中，隨機(jī)變量是二元的：真或假。存在的可能性草地變濕而實際上并沒有下雨，例如，使用噴水器時。2022-4-3072022-4-308()0.9P W R (

4、)0.2P WR 可以看到三個值就可以完全指定P(R,W)的聯(lián)合分布。如果P(R)=0.4， 則P(R)=0.6。類似地， ，而 這是一個因果圖，解釋草地變濕的主要原因是下雨。我們可以顛倒因果關(guān)系并且做出診斷。例如，已知草地是濕的，則下過雨的概率可以計算如下：()0.8PWR ()0.1PW R 2022-4-309現(xiàn)在，假設(shè)我們想把噴水器（）作為草地變濕的另一個原因，如下圖所示。l節(jié)點(diǎn)有兩個父節(jié)點(diǎn)和，因此它的概率是這兩個值上的條件概率 。l我們可以計算噴水器開著草地會濕的概率。這是一個因果（預(yù)測）推理：2022-4-3010(, )P W R S2022-4-3011=0.1給定草地是濕的，

5、我們能夠計算噴水器開著的概率。這是一個診斷推理。2022-4-3012知道草是濕的增加了噴水器開著的可能。現(xiàn)在讓我們假設(shè)下過雨，我們有：注意，這個值比 小。這叫作解釋遠(yuǎn)離explaining away;給定已知下過雨，則噴水器導(dǎo)致濕草地的可能性降低了。已知草地是濕的，下雨和噴水器成為相互依賴的。2022-4-3013()P S W2022-4-3014某水文站內(nèi)裝有一個小型的警報系統(tǒng)，與該警報是否拉響相關(guān)的因素有：洪水到來、地震發(fā)生，同時該系統(tǒng)還肩負(fù)著安全警報的功能，當(dāng)水文站發(fā)生入室盜竊時，警報同樣也會拉響。而洪水的到來與降雨情況有關(guān)，地震的發(fā)生會反映在地震監(jiān)測儀的報告中。同時，入室盜竊也會帶

6、來地震監(jiān)測儀的擾動。在水文站以往的數(shù)據(jù)庫中，關(guān)于以上這些因素都能找到詳細(xì)的記錄。那么如何從這些數(shù)據(jù)中挖掘出有用的信息，來幫助工作人員進(jìn)行決策呢？ 七、貝葉斯信念網(wǎng)絡(luò)應(yīng)用實例七、貝葉斯信念網(wǎng)絡(luò)應(yīng)用實例 ：警報分析警報分析（馬克威分析系統(tǒng)）（馬克威分析系統(tǒng)）2022-4-30151、有向無環(huán)圖2、條件概率表2022-4-3016先驗概率條件概率表2022-4-30173、推理（1 1）當(dāng)）當(dāng)“警報拉響降雨警報拉響降雨 地震、入室盜竊、洪地震、入室盜竊、洪水水”：假設(shè)某時刻警報突然拉響了，且此時正在下雨，值班人員要判斷此時發(fā)生地震、盜竊和洪水的概率分別是多少，以便采取相應(yīng)的措施加以應(yīng)對。首先，設(shè)置警

7、報和降雨為已知節(jié)點(diǎn)，觀察值分別為拉響和降雨；并且指定地震、入室盜竊和洪水為目標(biāo)節(jié)點(diǎn)。然后計算各種情況發(fā)生的后驗概率。2022-4-30182022-4-3019節(jié)點(diǎn)名稱節(jié)點(diǎn)名稱降雨降雨警報警報狀態(tài)取值降雨拉響已知變量的狀態(tài)觀察值狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 84.8015.20地震狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 12.0088.0入室盜竊狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 88.8011.2洪水（2 2）當(dāng)）當(dāng)“警報拉響降雨地震監(jiān)測儀信號弱警報拉響降雨地震監(jiān)測儀信號弱 地震、入室盜竊、洪水地震、入室盜竊、洪水”：假設(shè)，同樣在下雨天，警報突然拉

8、響，如果此時值班人員還注意到了地震監(jiān)測儀的狀態(tài)處于弱信號的范圍，那么到底地震、入室盜竊、洪水中哪個發(fā)生呢？解決的辦法是設(shè)定：降雨節(jié)點(diǎn)處于降雨狀態(tài)，警報節(jié)點(diǎn)處于拉響狀態(tài)，地震監(jiān)測儀處于弱狀態(tài)；目標(biāo)節(jié)點(diǎn)仍舊是地震、入室盜竊和洪水。然后，計算后驗概率。2022-4-30202022-4-3021節(jié)點(diǎn)名稱節(jié)點(diǎn)名稱降雨降雨警報警報地震監(jiān)測儀地震監(jiān)測儀狀態(tài)取值降雨拉響弱已知變量的狀態(tài)觀察值狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 100.000.00地震狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 8.3391.67洪水狀態(tài)取值狀態(tài)取值不發(fā)生不發(fā)生發(fā)生發(fā)生概率值100 91.678.33入室盜竊貝葉斯分類的優(yōu)缺點(diǎn)：優(yōu)點(diǎn)：在某些領(lǐng)域的應(yīng)用上，其分類效果優(yōu)于類神經(jīng)網(wǎng)絡(luò)和判定樹。用于大型數(shù)據(jù)庫，可以得出準(zhǔn)確高且有效率的分類結(jié)果。缺點(diǎn)：一般而言，貝葉斯分類中的屬性可以出現(xiàn)兩種以上不同的值，而目標(biāo)值則多半為兩元