BP神經(jīng)網(wǎng)絡(luò)-文檔資料

1、1BP神經(jīng)網(wǎng)絡(luò)2輸入樣本，計算誤差開始是否收斂數(shù)據(jù)初始化否結(jié)束是劃分訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)初始化BP網(wǎng)絡(luò)調(diào)整權(quán)值BP神經(jīng)網(wǎng)絡(luò)算法使用流程圖3數(shù)據(jù)初始化1、目前有300名管理學(xué)院全體男女生的身高，體重，性別的數(shù)據(jù)存在EXCEL表中；2、在EXCEL表中讀取數(shù)據(jù)；3、將數(shù)據(jù)存在DATA（height,weight,gender）的數(shù)組中。4劃分訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)取其中男女各50人作為訓(xùn)練數(shù)據(jù)，其他留作測試數(shù)據(jù)。5初始化BP網(wǎng)絡(luò)x1x2xMK1K2KIY1YJij6初始化BP網(wǎng)絡(luò)-輸入層x1x2xMK1K2KIY1YJ輸入層輸入層的節(jié)點數(shù)等于樣本的維度。在本例中，學(xué)生的維度為身高，體重，故神經(jīng)網(wǎng)絡(luò)輸入節(jié)

2、點為2。7初始化BP網(wǎng)絡(luò)-隱含層x1x2xMK1K2KIY1YJ輸入層隱含層隱含層實現(xiàn)了非線性映射。隱含層節(jié)點數(shù)對BP網(wǎng)絡(luò)性能有很大影響，一般較多的節(jié)點可以帶來更好的性能，但可能導(dǎo)致訓(xùn)練時間過長。隱含層節(jié)點數(shù)的經(jīng)驗公式：M=log2n,n為輸入層神經(jīng)元的個數(shù)8初始化BP網(wǎng)絡(luò)-輸出層x1x2xMK1K2KIY1YJ輸入層隱含層輸出層輸出層的個數(shù)需要根據(jù)實際問題中得到的抽象模型進(jìn)行確定。如在模式分別問題中，共有n個種類，則輸出層可以有n個神經(jīng)元。在本例中，輸出層為兩個神經(jīng)元，男、女。9初始化BP網(wǎng)絡(luò)-傳遞函數(shù)x1x2xMK1K2KIY1YJ輸入層隱含層輸出層傳遞函數(shù)每一層神經(jīng)元都有一個傳遞函數(shù)，在

3、經(jīng)典BP網(wǎng)絡(luò)中，輸入層傳遞函數(shù)原函數(shù)，隱含層傳遞函數(shù)為Sigmoid函數(shù)，輸出層傳遞函數(shù)為線性函數(shù)。10初始化BP網(wǎng)絡(luò)-神經(jīng)網(wǎng)絡(luò)的運行(工作信號正向傳播)x1x2xMK1K2KIY1YJ輸入層隱含層輸出層以隱含層為例，隱含層神經(jīng)元Ki的輸入令 為sigmoid函數(shù)，則隱含層神經(jīng)元Ki 的輸出m 1( )MmimiMuvn( )f ( )( )IiiIvnf u n11是否收斂1、可以給誤差設(shè)置一個閾值2、訓(xùn)練到固定代數(shù)，停止12調(diào)整權(quán)值-神經(jīng)網(wǎng)絡(luò)的運行(誤差反向傳播)x1x2xMK1K2KIY1YJ輸入層隱含層輸出層我們令輸出層的誤差為 ,則網(wǎng)絡(luò)總誤差為首先我們可以調(diào)節(jié)隱含層與輸出層的參數(shù)，根

4、據(jù)最速下降法,求導(dǎo)得，誤差向前傳播，我們可以調(diào)整輸入層和隱含層的參數(shù)。( )( )( )jjjJe nd nvn211( )( )2jJje ne n( )( )( )ijIw ne n v n 131、動量BP法2、學(xué)習(xí)率可變的BP算法3、擬牛頓法 調(diào)整權(quán)值- 的其他調(diào)整方式( )(1)( )( )(1)ijIw ne n v nw n 1(1)( )( ) ( )w nw nHn g n( )(1)( )incdecknnkn(1)( )e ne n(1)( )e ne n14實際MATLAB應(yīng)用% 腳本 使用newff函數(shù)實現(xiàn)性別識別% main_newff.m% 清理clear,clc

5、rng(default)rng(2)% 讀入數(shù)據(jù)xlsfile=student.xls;data,label=getdata(xlsfile);% 劃分?jǐn)?shù)據(jù)traind,trainl,testd,testl=divide(data,label);% 創(chuàng)建網(wǎng)絡(luò)net=feedforwardnet(3);%3代表隱含層的節(jié)點數(shù)net.trainFcn=trainbfg;% 訓(xùn)練網(wǎng)絡(luò)net=train(net,traind,trainl);%traind和 trainl分別代表輸入、出層節(jié)點數(shù) % 測試test_out=sim(net,testd);test_out(test_out=0.5)=1;test_out(test_out0.5