實驗八多元線性回歸與逐步回歸

1、實驗八 多元線性回歸與逐步回歸（2學時）一、實驗目的和要求1. 掌握逐步回歸的思想與方法，掌握Matlab中stepwise命令的使用方法二、實驗內(nèi)容1.主要語句：逐步回歸命令stepwise提供了交互式畫面，可自由選擇變量，進行統(tǒng)計分析，格式stepwise(X,Y,in,penter,premove)X是自變量數(shù)據(jù),Y是因變量數(shù)據(jù),分別為矩陣,in是矩陣X列數(shù)指標,給出初始模型中包括的子集,缺省時設定為全部自變量不在模型中,penter為變量進入時顯著性水平,缺省時=0.05,premove為變量剔除時顯著性水平,缺省=0.10.在應用stepwise命令進行運算時，程序不斷提醒將某個變量

2、加入(Move in)回歸方程，或提醒將某變量從回歸方程中剔除(Move out).注意：應用stepwise命令,數(shù)據(jù)矩陣X第一列不需人工加一個全1向量,程序會自動求出回歸方程常數(shù)項(intercept).2.實驗數(shù)據(jù)與內(nèi)容選取1989-2003年的全國統(tǒng)計數(shù)據(jù)，考慮的自變量包括：x1-工業(yè)總產(chǎn)值（億元）；x2-農(nóng)業(yè)總產(chǎn)值（億元）； x3-建筑業(yè)總產(chǎn)值（億元）； x4-社會商品零售總額（億元）； x5-全民人口數(shù)（萬人）；x6-受災面積；y-國家財政收入（億元）。數(shù)據(jù)見表3-20，（1）建立多元回歸模型，求回歸參數(shù)的估計；（2）對上述回歸模型和回歸系數(shù)進行檢驗（要寫出統(tǒng)計量）；（3）用逐步回

3、歸求y與6個因素之間的回歸關系式.表3-20 1989-2003年統(tǒng)計數(shù)據(jù)年份X1X2X3X4X5X6y19896484.004100.60794.008101.40112704.046991.002664.9019906858.004954.30859.408300.10114333.038474.002937.1019918087.105146.401015.109415.60115823.055472.003149.48199210284.505588.001415.0010993.70117171.051333.003483.37199314143.806605.102284.7012

4、462.10118517.048829.004348.95199419359.609169.203012.6016264.70119850.055043.005218.10199524718.3011884.603819.6020620.00121121.045821.006242.20199629082.6013539.804530.5024774.10122389.046989.007407.99199732412.1013852.504810.6027298.90123626.053429.0086519014241.905231.4029152.5012476

5、1.050145.009875.95199935087.2014106.205470.6031134.70125786.049981.0011444.08200039047.3013873.605888.0034152.60126743.054688.0013395.23200142374.6014462.806375.4037595.20127627.052215.0016386.04200245975.2014931.507005.0042027.10128453.047119.0018903.64200353092.9014870.108181.3045842.00129227.0545

6、06.0021715.25解：（1）建立多元回歸模型建立多元線性回歸模型1）程序：data=1989 6484.00 4100.60 794.00 8101.40 112704.0 46991.00 2664.901990 6858.00 4954.30 859.40 8300.10 114333.0 38474.00 2937.101991 8087.10 5146.40 1015.10 9415.60 115823.0 55472.00 3149.481992 10284.50 5588.00 1415.00 10993.70 117171.0 51333.00 3483.371993 1

7、4143.80 6605.10 2284.70 12462.10 118517.0 48829.00 4348.951994 19359.60 9169.20 3012.60 16264.70 119850.0 55043.00 5218.101995 24718.30 11884.60 3819.60 20620.00 121121.0 45821.00 6242.201996 29082.60 13539.80 4530.50 24774.10 122389.0 46989.00 7407.991997 32412.10 13852.50 4810.60 27298.90 123626.0

8、 53429.00 8651.141998 33387.90 14241.90 5231.40 29152.50 124761.0 50145.00 9875.951999 35087.20 14106.20 5470.60 31134.70 125786.0 49981.00 11444.082000 39047.30 13873.60 5888.00 34152.60 126743.0 54688.00 13395.232001 42374.60 14462.80 6375.40 37595.20 127627.0 52215.00 16386.042002 45975.20 14931.

9、50 7005.00 42027.10 128453.0 47119.00 18903.642003 53092.90 14870.10 8181.30 45842.00 129227.0 54506.00 21715.25;n,p=size(data); %讀取行數(shù)n為樣本數(shù),列數(shù)p為回歸參數(shù)個數(shù)x=ones(n,1),data(:,2:7); %建立設計矩陣，第一列全是1y=data(:,8); %讀取Y b,bint,r,rint,stats=regress(y,x); %建立線性回歸模型，輸出回歸參數(shù)b,回歸參數(shù)b的置信區(qū)間，殘差r,殘差r的置信區(qū)間，輸出幾個統(tǒng)計量stats結果輸出：

10、b,bint,r,rint,stats結果：回歸參數(shù)估計值b = 1.0e+03 * -6.9226 0.0001 -0.0009 0.0000 0.0006 0.0001 -0.0000得回歸參數(shù)置信區(qū)間：bint = 1.0e+04 * -4.1630 2.7785 -0.0001 0.0001 -0.0001 -0.0001 -0.0003 0.0003 0.0000 0.0001 -0.0000 0.0000 -0.0000 0.0000得回歸參數(shù)的置信區(qū)間如上輸出殘差值r = -228.1801 132.3052 382.5207 -382.0969 -164.3261 413.26

11、97 235.0416 -64.6531 -215.4275 -83.5491 -101.2389 -476.3158 462.6145 92.4558 -2.4199得到殘差向量輸出隨機誤差項的置信區(qū)間rint = 1.0e+03 * -0.7047 0.2484 -0.3835 0.6481 -0.1704 0.9354 -1.0651 0.3009 -0.7159 0.3872 -0.2525 1.0791 -0.4882 0.9583 -0.8089 0.6795 -0.7999 0.3690 -0.8192 0.6521 -0.8553 0.6528 -1.1540 0.2014 -

12、0.2046 1.1299 -0.5519 0.7368 -0.4023 0.3974輸出統(tǒng)計量結果：stats = 1.0e+05 * 0.0000 0.0062 0.0000 1.4152接近1,相關性強，,均說明自變量對y線性關系顯著。注意：stats轉成長格式數(shù)據(jù)命令和結果: format long gstats結果：99785.6012083978 62056071.903951 3.15856319868346e-059742繪制殘差圖命令：rcoplot(r,rint)殘差示意圖殘差示意圖看出無異常點.（2）對上述回歸模型和回歸系數(shù)進行顯著性檢驗%求可決

13、系數(shù)，進行相關性檢驗，y是因變量Y數(shù)據(jù) TSS=y*(eye(n)-1/n*ones(n,n)*y; %總離差平方和H=x*inv(x*x)*x %帽子矩陣ESS= y*(eye(n)-H)*y; %計算殘差平方和 RSS= y*(H-1/n*ones(n,n)*y; %計算回歸平方和 MSE=RSS/n-p-1; %計算均方殘差R2=RSS/TSS; %計算樣本決定系數(shù)RSS/TSS ,相關性檢驗%F檢驗 檢驗回歸方程的顯著性F0=(RSS/p)/(ESS/(n-p-1); % 計算F0 Fa=finv(0.95, p,n-p-1); % F分布時的臨界值 %t檢驗 檢驗回歸系數(shù)的顯著性S=

14、MSE*inv(x*x); % 計算回歸參數(shù)的協(xié)方差矩陣 T0=b./sqrt(diag(S); % 每個回歸參數(shù)的T統(tǒng)計量,b為上述回歸參數(shù)返回結果 Ta=tinv(0.975, n-p-1); % t分布的上1-0.05/2分位數(shù) pp=2-2*tcdf(abs(T0),n-p-1); % 每個回歸參數(shù)檢驗的T統(tǒng)計量對應的概率pp結果：TSS =5.2808e+08H = Columns 1 through 6 0.6900 0.1814 0.2572 0.0049 -0.1232 0.0295 0.1814 0.6753 -0.0838 0.1415 0.1402 -0.1630 0.2

15、572 -0.0838 0.5153 0.2866 -0.0437 0.1492 0.0049 0.1415 0.2866 0.3287 0.1957 0.0946 -0.1232 0.1402 -0.0437 0.1957 0.6225 0.2607 0.0295 -0.1630 0.1492 0.0946 0.2607 0.3338 -0.0267 0.2168 -0.1760 -0.0513 0.1370 0.0937 0.1307 0.0307 -0.0756 -0.1369 -0.0402 0.0776 -0.0036 0.0081 0.0637 -0.0101 -0.2079 0.

16、0926 0.0338 -0.1353 0.0506 -0.0409 0.0055 0.0927 -0.0757 -0.0767 0.0521 0.0442 0.0669 0.0422 -0.1563 -0.0344 0.0951 0.1268 -0.0019 0.0568 -0.1331 0.0694 0.0431 0.1084 -0.0573 -0.0562 0.0127 0.1461 -0.0202 0.0376 -0.0762 -0.2105 0.1783 -0.1163 -0.1138 -0.1300 0.1217 0.1064 Columns 7 through 12 -0.026

17、7 0.1307 -0.0036 0.0338 -0.0757 -0.1563 0.2168 0.0307 0.0081 -0.1353 -0.0767 -0.0344 -0.1760 -0.0756 0.0637 0.0506 0.0521 0.0951 -0.0513 -0.1369 -0.0101 -0.0409 0.0442 0.1268 0.1370 -0.0402 -0.2079 0.0055 0.0669 -0.0019 0.0937 0.0776 0.0926 0.0927 0.0422 0.0568 0.3430 0.2333 0.2234 0.0598 0.0106 0.0

18、259 0.2333 0.3524 0.1391 0.2655 0.1600 -0.0570 0.2234 0.1391 0.5619 -0.0361 -0.1006 0.2328 0.0598 0.2655 -0.0361 0.3646 0.3135 -0.0237 0.0106 0.1600 -0.1006 0.3135 0.3298 0.0318 0.0259 -0.0570 0.2328 -0.0237 0.0318 0.2657 0.0122 -0.0615 0.1857 -0.0299 0.0487 0.2537 -0.0854 0.0132 -0.1440 0.1425 0.23

19、35 0.0884 -0.0165 -0.0315 -0.0051 -0.0627 -0.0804 0.0962 Columns 13 through 15 -0.1331 0.0127 0.1783 0.0694 0.1461 -0.1163 0.0431 -0.0202 -0.1138 0.1084 0.0376 -0.1300 -0.0573 -0.0762 0.1217 -0.0562 -0.2105 0.1064 0.0122 -0.0854 -0.0165 -0.0615 0.0132 -0.0315 0.1857 -0.1440 -0.0051 -0.0299 0.1425 -0.0627 0.0487 0.2335 -0.0804 0.2537 0.0884 0.0962 0.2933 0.2181 0.1052 0.2181 0.5098 0.13430.1052 0.1343 0.8141R2 = 0.997856015345558接近1，相關性顯著.回歸方程顯著性F檢驗結果：F0 =349.065936623445Fa =4.14680416227653表明模型顯著回歸參數(shù)檢驗結果：回歸參數(shù)檢驗t統(tǒng)計量值T0 = -0.0291935531909151 0.0281878798554941 -0.54