現(xiàn)代回歸與分類教學(xué)課件

現(xiàn)代回歸和分類:算法建模的回歸和分類吳喜之)算法建模的回歸和分類經(jīng)典的回歸和分類(判別)模型是可以寫成公式的。但是另外一些回歸和分類的方法是體現(xiàn)在算法之中,其具體形式是計算機程序。廣義地說,算法模型實際上包含了經(jīng)典模型·如果說,起源于前計算機時代的經(jīng)典統(tǒng)計目前大大受惠于計算機的發(fā)展,那么,沒有計算機,就不可能存在算法建模在處理巨大的數(shù)據(jù)集上,在對付稱為維數(shù)詛咒的大量的變量上,在不用假定總體分布的情況時,在對付眾多競爭模型方面,算法建模較經(jīng)典建模有很多不可比擬的優(yōu)越性。決策樹:分類樹和回歸樹年齡<18?否是是否愛喝酒?是否開紅車?是是高風(fēng)險低風(fēng)險高風(fēng)險低風(fēng)險例(數(shù)據(jù)shuttle.txt)library(MASS);shuttle[1:10,1這個數(shù)據(jù)是關(guān)于美國航天飛機在各種條件下是否自動著陸的決策問題。有256行及7列。頭六行為作為自變量的定性變量,而最后列為因變量。自變量包括穩(wěn)定性(stability,取值stab/stab)、誤差大小err,取值MM/SS/LⅩ/Ⅺ)、信號(sign,取值pp/n風(fēng)向Wnd,取值head/tai)、風(fēng)力magn,取值ight/MeumStrong/Ou)、能見度(vis,取值yes/no),因變量為是否用自動著陸統(tǒng)(use,取值auto/noautoProblemsofcomputer-aidedconceptformation.fnApplicationsofExpertSystems2.edJ.R.Quinlan,TuringInstitutePress/ddison-Wesley,pp.310-333shuttle[1:10,]tabilityerrorsignwindmagnvisusexppheadlightnoautoL又BExstahLxpptailLightnoauto5asteRpptailMediumnoautoLxppLxnnheadLight.noaut.LnnheadmediurmnoaltoxstahLxnnheadstrongnoautoLxnntailLightnoauto例(數(shù)據(jù)shuttle.txt))n=231de),split,n,loss,yval,(yprob★denotestermin1nod1)xoot231100auto(0.567099570.43290043)2)vis=n。1150aut。(1.000000000.00000003)vis=yes11616noauto(0.137931030.86206897)5)eror=ss3012noauto(0.40000000600000012)stability=stab164auto(0.750000002500000*13)stability=stab140noauto(0.000000001.00000000)*7}exo=L,MM,XL864noauto(0.046511630.95348837)*noautonoautolibrary(MASS):shuttle[1:10,m=256,setseed(2)samp=sample(1:m,floor(m/10));samp=setdiff(1:m,samp)library(rpartplot);(b=rpart(use,shuttle,subset=tsamp));b:plot(b);tex