現(xiàn)代回歸與分類教學(xué)課件

現(xiàn)代回歸和分類:算法建模的回歸和分類吳喜之)算法建模的回歸和分類經(jīng)典的回歸和分類(判別)模型是可以寫成公式的。但是另外一些回歸和分類的方法是體現(xiàn)在算法之中,其具體形式是計(jì)算機(jī)程序。廣義地說(shuō),算法模型實(shí)際上包含了經(jīng)典模型·如果說(shuō),起源于前計(jì)算機(jī)時(shí)代的經(jīng)典統(tǒng)計(jì)目前大大受惠于計(jì)算機(jī)的發(fā)展,那么,沒(méi)有計(jì)算機(jī),就不可能存在算法建模在處理巨大的數(shù)據(jù)集上,在對(duì)付稱為維數(shù)詛咒的大量的變量上,在不用假定總體分布的情況時(shí),在對(duì)付眾多競(jìng)爭(zhēng)模型方面,算法建模較經(jīng)典建模有很多不可比擬的優(yōu)越性。決策樹:分類樹和回歸樹年齡<18?否是是否愛(ài)喝酒?是否開(kāi)紅車?是是高風(fēng)險(xiǎn)低風(fēng)險(xiǎn)高風(fēng)險(xiǎn)低風(fēng)險(xiǎn)例(數(shù)據(jù)shuttle.txt)library(MASS);shuttle[1:10,1這個(gè)數(shù)據(jù)是關(guān)于美國(guó)航天飛機(jī)在各種條件下是否自動(dòng)著陸的決策問(wèn)題。有256行及7列。頭六行為作為自變量的定性變量,而最后列為因變量。自變量包括穩(wěn)定性(stability,取值stab/stab)、誤差大小err,取值MM/SS/LⅩ/Ⅺ)、信號(hào)(sign,取值pp/n風(fēng)向Wnd,取值head/tai)、風(fēng)力magn,取值ight/MeumStrong/Ou)、能見(jiàn)度(vis,取值yes/no),因變量為是否用自動(dòng)著陸統(tǒng)(use,取值auto/noautoProblemsofcomputer-aidedconceptformation.fnApplicationsofExpertSystems2.edJ.R.Quinlan,TuringInstitutePress/ddison-Wesley,pp.310-333shuttle[1:10,]tabilityerrorsignwindmagnvisusexppheadlightnoautoL又BExstahLxpptailLightnoauto5asteRpptailMediumnoautoLxppLxnnheadLight.noaut.LnnheadmediurmnoaltoxstahLxnnheadstrongnoautoLxnntailLightnoauto例(數(shù)據(jù)shuttle.txt))n=231de),split,n,loss,yval,(yprob★denotestermin1nod1)xoot231100auto(0.567099570.43290043)2)vis=n。1150aut。(1.000000000.00000003)vis=yes11616noauto(0.137931030.86206897)5)eror=ss3012noauto(0.40000000600000012)stability=stab164auto(0.750000002500000*13)stability=stab140noauto(0.000000001.00000000)*7}exo=L,MM,XL864noauto(0.046511630.95348837)*noautonoautolibrary(MASS):shuttle[1:10,m=256,setseed(2)samp=sample(1:m,floor(m/10));samp=setdiff(1:m,samp)library(rpartplot);(b=rpart(use,shuttle,subset=tsamp));b:plot(b);tex