概率論與數(shù)理統(tǒng)計(jì)課件：9-2可線性化的一元非線性回歸

1、 前一節(jié)，我們學(xué)習(xí)了一元線性回歸分析問題，在實(shí)前一節(jié)，我們學(xué)習(xí)了一元線性回歸分析問題，在實(shí)際應(yīng)用中，有些變量之間并不是線性相關(guān)關(guān)系，但可以際應(yīng)用中，有些變量之間并不是線性相關(guān)關(guān)系，但可以經(jīng)過適當(dāng)?shù)淖儞Q，把非線性回歸問題轉(zhuǎn)化為線性回歸問經(jīng)過適當(dāng)?shù)淖儞Q，把非線性回歸問題轉(zhuǎn)化為線性回歸問題。題。 可線性化的一元非線性回歸可線性化的一元非線性回歸 常見的幾種變換形式：常見的幾種變換形式： 1、雙曲線、雙曲線 1bayx11,yxyxyabx令令 2、冪函數(shù)曲線、冪函數(shù)曲線 byaxln ,ln ,lnyy xx aayabx令令 化非線性回歸為線性回歸化非線性回歸為線性回歸 變形變形 lnlnlnya

2、bx3、指數(shù)函數(shù)曲線、指數(shù)函數(shù)曲線 bxyaeln ,lnyy aayabx令令 變形變形 lnlnyabx4、負(fù)指數(shù)函數(shù)曲線、負(fù)指數(shù)函數(shù)曲線 bxyae1ln ,lnyy xaaxyabx令令 化非線性回歸為線性回歸化非線性回歸為線性回歸 變形變形 lnlnbyax5、對數(shù)函數(shù)曲線、對數(shù)函數(shù)曲線 lnyabxlnxxyabx令令 6、S型（型（Logistic）曲線）曲線 1xKyAeln,lnKyyaAyyax令令 化非線性回歸為線性回歸化非線性回歸為線性回歸 變形變形 (1)xxyAeKyAyeKlnlnxKyKyAeAxyy例例1 測定某肉雞的生長過程，每兩周記錄一次雞的重量，測定某肉

3、雞的生長過程，每兩周記錄一次雞的重量，數(shù)據(jù)如下表數(shù)據(jù)如下表x/周2468101214y/kg0.30.861.732.22.472.672.8由經(jīng)驗(yàn)知雞的生長曲線為由經(jīng)驗(yàn)知雞的生長曲線為Logistic曲線，且極限生長量曲線，且極限生長量為為k=2.827，試求，試求y對對x的回歸曲線方程。的回歸曲線方程。解解 由題設(shè)可建立雞重由題設(shè)可建立雞重y與時(shí)間與時(shí)間x的相關(guān)關(guān)系為的相關(guān)關(guān)系為 2.8271xyAe2.827ln,lnyyaAyyax令令 則有則有 列表計(jì)算列表計(jì)算 序號序號xyyX2y2xy120.32.13144.5414.262240.860.827160.6843.309361.

4、73-0.456360.208-2.733482.2-1.255641.576-10.0425102.47-1.9341003.741-19.3426122.67-2.8341448.029-34.0037142.8-4.64219621.544-64.982 5613.03-8.16256040.323-123.531所以所以 8.00 x 1.166y 112xxL30.807y yL 58.236xyL 0.519967xyxxLL 2.993762ayx19.96063aAe所以所求曲線方程為所以所求曲線方程為 0.519972.8271 19.9606xye上機(jī)操作上機(jī)操作 輸入原始

5、數(shù)據(jù)輸入原始數(shù)據(jù) 上機(jī)操作上機(jī)操作 計(jì)算計(jì)算 2.827*lnyyy上機(jī)操作上機(jī)操作 上機(jī)操作上機(jī)操作 上機(jī)操作上機(jī)操作 是是y*，而不是，而不是y 自變量自變量 上機(jī)操作上機(jī)操作 回歸方程，還要回代系數(shù)回歸方程，還要回代系數(shù) 多重回歸分析多重回歸分析 在實(shí)際問題中，自變量的個(gè)在實(shí)際問題中，自變量的個(gè)數(shù)可能多于一個(gè)，隨機(jī)變量數(shù)可能多于一個(gè)，隨機(jī)變量 y y與與多個(gè)可控變量多個(gè)可控變量x x1 1,x,x2 2,x,x3 3, ,x,xk k之間之間是否存在相關(guān)關(guān)系，則屬于多重是否存在相關(guān)關(guān)系，則屬于多重（元）回歸問題。本節(jié)討論多重（元）回歸問題。本節(jié)討論多重線性回歸。線性回歸。多重線性回歸模型

6、多重線性回歸模型 隨機(jī)變量隨機(jī)變量 與與 之間的線性關(guān)系之間的線性關(guān)系y12,kx xx01 122kkyxxx(1) 其中其中 20,N012,k , ,未知未知 則（則（1）式稱為多重線性回歸模型。）式稱為多重線性回歸模型。 多重線性回歸模型多重線性回歸模型 若對變量若對變量 與與 分別作分別作n次觀測，則可得次觀測，則可得一個(gè)容量為一個(gè)容量為n的子樣的子樣y12,kx xx01122iiikikiyxxx(2) 其中其中 20, (1,2, )iNin012k , ,為待定參數(shù)，稱為回歸系數(shù)。為待定參數(shù)，稱為回歸系數(shù)。 （2）式含有）式含有k+1個(gè)參數(shù)，故觀測次數(shù)應(yīng)滿足個(gè)參數(shù)，故觀測次數(shù)

7、應(yīng)滿足nk+1。 12,1,2,iiikixxxyin則有則有 多重線性回歸模型的矩陣形式多重線性回歸模型的矩陣形式 記記 12nyyYy111212122212111kknnnkxxxxxxXxxx01k12ne則（則（2）有矩陣形式）有矩陣形式 YXe20,eNE其中其中 確定確定 的最小二乘法的最小二乘法 考慮多元函數(shù)考慮多元函數(shù) 20111niikikiQyxx目標(biāo)：確定目標(biāo)：確定 使使 最小最小 01,k Q方法：方法： 0, 1,2,iQik解得解得 01 122kkyxxx多重線性回歸方程多重線性回歸方程 線性回歸方程的有效性檢驗(yàn)線性回歸方程的有效性檢驗(yàn)方差分析法方差分析法 01

8、2:0kH 線性回歸方程線性回歸方程是否有統(tǒng)計(jì)意義，可檢驗(yàn)假設(shè)是否有統(tǒng)計(jì)意義，可檢驗(yàn)假設(shè) 01 122kkyxxx是否成立是否成立 方法：方差分析法，將總離差平方和分解方法：方差分析法，將總離差平方和分解 222111nnnTiiiiiiiSSyyyyyyRESSSS線性回歸方程的有效性檢驗(yàn)線性回歸方程的有效性檢驗(yàn)方差分析法方差分析法 21nRiiSSyy21nEiiiSSyy回歸平方和，反映線性關(guān)系對觀測結(jié)果產(chǎn)生的數(shù)回歸平方和，反映線性關(guān)系對觀測結(jié)果產(chǎn)生的數(shù)據(jù)波動(dòng)，據(jù)波動(dòng)，SSR越大，線性相關(guān)關(guān)系越強(qiáng)。越大，線性相關(guān)關(guān)系越強(qiáng)。剩余平方和（或殘差平方和），反映除線性因素之剩余平方和（或殘差平方

9、和），反映除線性因素之外的其它因素對觀測結(jié)果產(chǎn)生的數(shù)據(jù)波動(dòng)，外的其它因素對觀測結(jié)果產(chǎn)生的數(shù)據(jù)波動(dòng)，SSE越大，越大，則其它因素對則其它因素對Y的影響越大。的影響越大。線性回歸方程的有效性檢驗(yàn)線性回歸方程的有效性檢驗(yàn)方差分析法方差分析法 221TSSn在在H0成立的條件下，可以證明：成立的條件下，可以證明： 22RSSk221ESSnk（n為觀測次數(shù)，為觀測次數(shù)，k為自變量個(gè)數(shù)）為自變量個(gè)數(shù)） 構(gòu)造構(gòu)造F統(tǒng)計(jì)量統(tǒng)計(jì)量 ,11RESSkFF k nkSSnk當(dāng)當(dāng) 時(shí)，拒絕時(shí)，拒絕H0。,1FFk nk回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn)回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn) 回歸方程的有效性檢驗(yàn)，只是解決了回歸方程的有效性檢驗(yàn)，只是解

10、決了 與與之間是否有線性相關(guān)關(guān)系，至于變量之間是否有線性相關(guān)關(guān)系，至于變量 對對 的影響是否的影響是否有統(tǒng)計(jì)意義，無從看出，因此，還需對回歸系數(shù)有統(tǒng)計(jì)意義，無從看出，因此，還需對回歸系數(shù) 是否是否為為0作統(tǒng)計(jì)檢驗(yàn)。作統(tǒng)計(jì)檢驗(yàn)。y12,kx xxixyi提出假設(shè)提出假設(shè) 01:0; :0iiHH如果如果H0成立，可以證明統(tǒng)計(jì)量成立，可以證明統(tǒng)計(jì)量 1(1)iiiETt nkC SSnk當(dāng)當(dāng) 時(shí)，拒絕時(shí)，拒絕H0。21Ttnk2(1)1niik ikCx利用回歸方程作預(yù)測及控制利用回歸方程作預(yù)測及控制 對于給定的對于給定的 12,kx xx001 122kkyxxx點(diǎn)估計(jì)值點(diǎn)估計(jì)值 置信水平為置信

11、水平為 的預(yù)測區(qū)間為的預(yù)測區(qū)間為 1102000011TTESSytXX XXnk例例2 某種水泥在凝固時(shí)放出的熱量某種水泥在凝固時(shí)放出的熱量Y（cal/g）與水泥中）與水泥中下列下列4種化學(xué)成分有關(guān)：種化學(xué)成分有關(guān)：123:3axc o Al o的成分（的成分（%）22:3axc o Sio的成分（的成分（%）32323:4axc o Al oFe o的成分（的成分（%）42:2axc o Sio的成分（的成分（%）現(xiàn)記錄了現(xiàn)記錄了13組觀測數(shù)據(jù)，列在下表中，試求組觀測數(shù)據(jù)，列在下表中，試求 對對 的線性回歸方程。的線性回歸方程。y12,x x34,x x1 1223344yab xb xb xb x編號X1(%)X2(%)X3(%)X4(%)Y(cal/g）172666078.52129155274.331156820104.341