《回歸分析續(xù)》PPT課件.pptVIP

第九講 回歸分析（續(xù)）,一、預(yù)測(cè)和控制,二、一元曲線回歸,三、多元回歸分析,一、預(yù)測(cè)和控制,在回歸檢驗(yàn)中，如果回歸方程的效果顯,著，,著，,預(yù)測(cè)和控制。,測(cè)（或預(yù)報(bào)）相應(yīng)的 值或其可能的取值范,圍。,也就是回歸方程與實(shí)際數(shù)據(jù)擬合效果顯,緊接著的問(wèn)題就如何利用回歸方程進(jìn)行,所謂預(yù)測(cè)就是對(duì)給定的 ，,預(yù),而控制正好與預(yù)測(cè)相反，,它是根據(jù) 的預(yù),期范圍來(lái)如何控制 的范圍。,（一）預(yù)測(cè),設(shè) 是樣本，,給定 ，,有,且 與 相互獨(dú)立。,有,回歸方程為 。,根據(jù)回歸方程,的意義，自然用回歸值（或擬合值）,作為 的預(yù)測(cè)值。,由于,所以 是 的無(wú)偏估計(jì)。,下求 的預(yù)測(cè)區(qū)間：,獨(dú)立，由于,且 與 相互獨(dú)立，,則有,設(shè),根據(jù) 與 相互獨(dú)立有,即,又由于 相互獨(dú)立，,可知 與 獨(dú)立；,再,由 與 獨(dú)立，,可知 與 獨(dú)立，,故,這樣置信度為 的預(yù)測(cè)（置信）區(qū)間為,其中,由上式可知，殘差平方和 越小，預(yù)測(cè)區(qū)間越,窄，即預(yù)測(cè)越精確；,另對(duì)給定的樣本觀測(cè)值和,置信度，,越靠近 ，,預(yù)測(cè)區(qū)間越精確。,由于 的任意性，,因此夾在兩曲線,之間的部分就是 的置信度,的預(yù)測(cè)帶。,特別地當(dāng) 很大且 越接近 時(shí)，,若要 的值以概率 落在給定,（二）控制,的置信度,為 的預(yù)測(cè)區(qū)間可近似的表示為,區(qū)間 內(nèi)，那么變量 應(yīng)控制在什么范圍,內(nèi)，,即就是要求出區(qū)間 ，,使當(dāng),時(shí)，對(duì)應(yīng)的 值以概率 落在區(qū)間,之內(nèi)。,在此僅討論 很大且 越接近 的情形。,令,求解方程組可得,當(dāng) 時(shí)，,的控制區(qū)間為 ；,時(shí)， 的控制區(qū)間為 。,而當(dāng),顯然要實(shí)現(xiàn)上述,對(duì) 的控制，,必須有,二、一元曲線回歸,常用的線性化方法：,1.,雙曲線,則可線性化為,2.,冪函數(shù),則可線性化為,3.,指數(shù)曲線,則可線性化為,4.,倒指數(shù)曲線,則可線性化為,5.,對(duì)數(shù)曲線,則可線性化為,6.,曲線,則可線性化為,7.,多項(xiàng)式,則可線性化為,這種情形常用的是二次多項(xiàng)式。,注,(1),線性化的過(guò)程使得有關(guān)的顯著性檢驗(yàn),無(wú)法進(jìn)行，,但仍可根據(jù)原始數(shù)據(jù)計(jì)算,及,仍稱其為擬合優(yōu)度。,(2),可以根據(jù),的值來(lái)評(píng)判擬合的好壞。,三、多元回歸分析,考慮含 個(gè)因素的回歸模型,其中 是可觀測(cè)的隨機(jī)變量，,是未參,數(shù)，稱為回歸系數(shù)，,是不可觀測(cè)的隨機(jī)誤差，,稱為回歸因子或設(shè)計(jì)因子，簡(jiǎn)稱因子。,實(shí)際上反映了因子 對(duì)觀測(cè)值 的,（一）多元回歸模型,貢獻(xiàn)大小，因此也稱 為因子 的效應(yīng)。,設(shè)有 組觀測(cè)值,則有,用矩陣可表示如下：,（*）,其中,稱 為設(shè)計(jì)矩陣，且一般假設(shè) 。,顯然有,（二）參數(shù)的最小二乘估計(jì)及性質(zhì),誤差的平方和為,選擇參數(shù) 使上式達(dá)到最小。,可得,令,有,此方程稱為正規(guī)方程，,由于 可逆，所以,就是參數(shù) 的最小二乘估計(jì)。,性質(zhì)1,使得 達(dá)到最小。,證明,由于,所以,性質(zhì)2,是 的線性無(wú)偏估計(jì)。,性質(zhì)4,是 的最好(協(xié)方差陣最小)線性無(wú)偏,證明,設(shè) 是 的任一線性無(wú)偏估計(jì)，,即,這樣對(duì)任一 有,所以,同時(shí)亦有,最小二乘估計(jì),的協(xié)方差陣是,估計(jì)。,性質(zhì)3,分解式 成立，,總誤差平方和，,回歸平方和，,殘差平方和。,即,這樣有,即,對(duì)任一 維向量 ，,由于,性質(zhì)5,稱 為擬合值，,稱,為殘差向量。,即 與 不相關(guān)。,證明,性質(zhì)6,的無(wú)偏估計(jì)為,證明,由于,性質(zhì)7,若在模型(*)中再假設(shè) ，,則 也是 的極大似然估計(jì)。,（三）回歸方程和回歸系數(shù)的顯著性檢驗(yàn),現(xiàn)在考慮模型,即在模型(*)的基礎(chǔ)上再假設(shè)誤差向量服從多維,正態(tài)分布。,（*）,定理,對(duì)模型(*)而言，有,(1),(2),(3),(4),(1),回歸方程的顯著性檢驗(yàn),考慮假設(shè)檢驗(yàn)問(wèn)題,由定理知當(dāng) 成立時(shí)，,有,因此顯著性水平為 的拒絕域?yàn)?(2),回歸系數(shù)的顯著性檢驗(yàn),考慮假設(shè)檢驗(yàn)問(wèn)題,由定理知當(dāng) 成立時(shí)，,有,其中 為矩陣 對(duì)角線上的元素，即向量,的第 個(gè)元素。,因此顯著性水平為 的拒絕域?yàn)?同理，,也可給出被擇假設(shè)分別為,時(shí)回歸系數(shù)的檢驗(yàn)的拒絕域。,順便給出回歸系數(shù)的區(qū)間估計(jì)。,的置信區(qū)間為 ，,置信度為,其中,注：,如果協(xié)方差矩陣 ，,其中,此時(shí)有,令,則有,(四),“最優(yōu)”回歸方程的選擇,“全部比較” 法， “只出不進(jìn)” 法，,“只進(jìn)不出” 法，,逐步回歸法,稱為加權(quán)最小二乘估計(jì)。,就變?yōu)槟Ｐ?*)，,由該模型得到的最小二乘估計(jì),課外小論文：,利用逐步回歸法建立國(guó)家財(cái)政收入回,歸模型。影響財(cái)政收入的因素可能為工業(yè),總產(chǎn)值(億元)、農(nóng)業(yè)總產(chǎn)值(億元) 、建筑業(yè),總產(chǎn)值(億元) 、社會(huì)商品零售總額(億元) 、,人口數(shù)(萬(wàn)人)、受災(zāi)面積(萬(wàn)公頃)等。,具體,數(shù)據(jù)可