第五章-離散選擇模型

1、第五章 離散選擇模型在初級計量經濟學里，我們已經學習了解釋變量是虛擬變量的情況，除此之外，在實際問題中，存在需要人們對決策與選擇行為的分析與研究，這就是被解釋變量為虛擬變量的情況。我們把被解釋變量是虛擬變量的線性回歸模型稱為離散選擇模型，本章主要介紹這一類模型的估計與應用。本章主要介紹以下內容：1、為什么會有離散選擇模型。2、二元離散選擇模型的表示。3、線性概率模型估計的缺陷。4、Logit模型和Probit模型的建立與應用。第一節(jié) 模型的基礎與對應的現象一、問題的提出在研究社會經濟現象時，常常遇見一些特殊的被解釋變量，其表現是選擇與決策問題，是定性的，沒有觀測數據所對應；或者其觀測到的是受某

2、種限制的數據。1、被解釋變量是定性的選擇與決策問題，可以用離散數據表示，即取值是不連續(xù)的。例如，某一事件發(fā)生與否，分別用1和0表示；對某一建議持反對、中立和贊成5種觀點，分別用0、1、2表示。由離散數據建立的模型稱為離散選擇模型。2、被解釋變量取值是連續(xù)的，但取值的范圍受到限制，或者將連續(xù)數據轉化為類型數據。例如，消費者購買某種商品，當消費者愿意支付的貨幣數量超過該商品的最低價值時，則表示為購買價格；當消費者愿意支付的貨幣數量低于該商品的最低價值時，則購買價格為0。這種類型的數據成為審查數據。再例如，在研究居民儲蓄時，調查數據只有存款一萬元以上的帳戶，這時就不能以此代表所有居民儲蓄的情況，這種

3、數據稱為截斷數據。這兩種數據所建立的模型稱為受限被解釋變量模型。有的時候，人們甚至更愿意將連續(xù)數據轉化為上述類型數據來度量，例如，高考分數線的設置，就把高出分數線和低于分數線劃分為了兩類。下面是幾個離散數據的例子。例5.1 研究家庭是否購買住房。由于，購買住房行為要受到許多因素的影響，不僅有家庭收入、房屋價格，還有房屋的所在環(huán)境、人們的購買心理等，所以人們購買住房的心理價位很難觀測到，但我們可以觀察到是否購買了住房，即 我們希望研究買房的可能性，即概率的大小。例5.2 分析公司員工的跳槽行為。員工是否愿意跳槽到另一家公司，取決于薪資、發(fā)展?jié)摿Φ戎T多因素的權衡。員工跳槽的成本與收益是多少，我們無

4、法知道，但我們可以觀察到員工是否跳槽，即 例5.3 對某項建議進行投票。建議對投票者的利益影響是無法知道的，但可以觀察到投票者的行為只有三種，即 研究投票者投什么票的可能性，即。從上述被解釋變量所取的離散數據看，如果變量只有兩個選擇，則建立的模型為二元離散選擇模型，又稱二元型響應模型；如果變量有多于二個的選擇，則為多元選擇模型。本章主要介紹二元離散選擇模型。離散選擇模型起源于Fechner于1860年進行的動物條件二元反射研究。1962年，Warner首次將它應用于經濟研究領域，用于研究公共交通工具和私人交通工具的選擇問題。70-80年代，離散選擇模型被普遍應用于經濟布局、企業(yè)選點、交通問題、

5、就業(yè)問題、購買行為等經濟決策領域的研究。模型的估計方法主要發(fā)展于20世紀80年代初期。（參見李子奈，高等計量經濟學，清華大學出版社，2000年，第155頁-第156頁）二、線性概率模型對于二元選擇問題，可以建立如下計量經濟模型。1、線性概率模型的概念設家庭購買住房的選擇主要受到家庭的收入水平，則用如下模型表示其中，為家庭的收入水平，為家庭購買住房的選擇，即Y01概率1-pp由于是取值為0和1的隨機變量，并定義取值為1的概率是p，則的分布為 即隨機變量服從兩點分布。根據兩點分布，可得的數學期望為顯然從而 （5-1）上述數學模型的經濟學解釋是，因為選擇購買住房變量取值是1，其概率是p，并且這時對應

6、p的表示是一線性關系，因此，在給定下的條件期望可解釋為在給定下，事件（家庭購買住房）將發(fā)生的條件概率為，亦即家庭選擇購買住房的概率是家庭收入的一個線性函數。我們稱這一關系式為線性概率函數。由于，服從兩點分布，所以，的方差為2、線性概率函數的估計及存在的問題對線性概率函數直接運用OLS估計，會存在以下困難。（1）隨機誤差項的非正態(tài)性表現表明服從兩點分布。而在經典計量經濟學中，假定服從正態(tài)分布。（2）的異方差性。事實上，根據服從兩點分布概率則的方差為。表明隨著i的變動是一個變量，則的方差不是一個固定常數。（3）利用加權最小二乘法修正異方差取權數為可以證明具有同方差。在具體估計線性概率模型時，用作為

7、p的估計來計算權數的估計。3、可決系數的非真實性。由于，被解釋變量只取值1或0，不可能有估計的線性概率模型能很好地擬合這些點，所以，這時計算的會比1小許多，在大多數例子中，介于0.2與0.6之間。4、01不成立?？朔@一問題可直接從對線性概率模型的估計，求出，用人工的方法定義當>1時，取=1；當<0時，取=0。但要比較好地解決這類問題，只能考慮采用新的估計方法，這就是將要介紹的Logit模型和Probit模型。第二節(jié) Logit模型一、Logit模型的產生1、產生Logit模型的背景由上述介紹可知，對于線性概率模型來說，存在一些問題，有的問題盡管可以用適當的方法加以彌補，但并不完善

8、和理想。（1）古典假定不再成立，如存在異方差性，可用加權OLS方法加以彌補。（2）在線性概率模型中，對于不滿足01的情況，用人工的方法處理，即當>1時，取=1當<0時，取=0雖然能夠彌補不足，但仍然具有較強的主觀因素。 （3）經濟意義也不能很好地得到體現。在線性概率模型中，概率會隨著的變化而線性變化，但這與實際情況通常不符。例如購買住房，通常收入很高或很低，對于購買住房的可能性都不會有太大的影響，而當收入增加很快時，對購買住房的影響將會很大。所以，購買住房的可能性與收入之間并不是線性關系，有可能是一種非線性關系。2、Logit模型的含義綜合上述討論，我們所需要的是具有如下二分性質的

9、模型。（1）隨著的減小，趨近0的速度會越來越慢；反過來隨著的增大，接近1的速度也越來越慢，而當增加很快時，的變化會比較快。故與之間應呈非線性關系。（2）并且由概率的屬性，的變化應始終在0和1之間。因此，一個很自然的想法是采用隨機變量的分布函數來表示與的這種非線性關系。從幾何圖形看，所需要的模型有點像圖5.1那樣，概率位于0與1之間，并隨著非線性地變化。 圖5.1 一個累積分布函數的圖形形如圖5.1所示的S型曲線，就是隨機變量的一個累積分布函數（CDF）。因此，當回歸中的被解釋變量是取0和1的二分變量時，并且概率值的變化與解釋變量之間有上述變化特征，則可用CDF去建立回歸模型。在二分被解釋變量的

10、研究中可使用多種分布函數（Cox，1970）來表示。但最常用的是Logistic分布函數和標準正態(tài)分布函數，前者導出Logit模型，后者導出Probit模型。 （3）Logistic分布函數設 （5-2）式中，。并且在該表達式中，有如下變動規(guī)律，當時，；當時，；當時，。稱（5-2）式為Logistic分布函數，它具有明顯的S型分布特征。 （4）Logit模型 以下是由Logistic分布函數導出Logit模型。 其中，為機會概率比（簡稱機會比，下同），即事件發(fā)生與不發(fā)生所對應的概率之比。稱（5-3）式為Logit模型。3、Logit模型的特點（1）隨著從0變到1，從變到（亦即從變到）?？梢钥闯?/p>

11、，在LPM中概率必須在0與1之間，但對Logit模型并不受此約束。（2）對為線性函數。（3）當為正的時候，意味著隨著的增加，選擇1的可能性也增大了。當為負的時候，隨著的增加，選擇1的可能性將減小。換言之，當機會比由1變到0時，會變負并且在幅度上越來越大；當機會比由1變到無窮時，為正，并且也會越來越大。4、Logit模型與線性回歸模型的區(qū)別（1）Logit模型為非線性模型，盡管等式右端看上去是線性形式，而普通回歸模型是線性模型。（2）線性回歸模型研究被解釋變量的均值與解釋變量之間的依存關系，而Logistic分布函數研究的是事件發(fā)生的概率與解釋變量的依存關系。（3）線性回歸模型中包含隨機誤差項，

12、對的要求是要滿足基本假定，而Logistic分布函數沒有出現隨機誤差項，對模型沒有這樣的要求。（4）在估計Logit模型時，要求數據必須來自于隨機樣本，即各觀測值相互獨立，或者說要求樣本分布與總體分布具有同一性，而對線性回歸模型一般情況下并無這樣嚴格的要求。此外，Logit模型與線性回歸模型的一個相同的要求是，解釋變量之間要無多重共線性，否則，會導致參數估計的方差變大和不穩(wěn)定。二、Logit模型的估計為了估計Logit模型，除了外，我們還應有的數值。由于只取值為1和0（即事件發(fā)生或不發(fā)生，如買房或不買房），使得無意義，通常情況下，沒有具體的數據，所以直接對Logit模型進行估計有困難。這時，可

13、有以下估計方法。1、根據數據類型選用OLS方法可通過市場調查獲得分組或重復數據資料，用相對頻數作為的估計。以購買住房為例，將購買住房的情況分組，假設第i組共有個家庭，收入為，其中有個家庭已購買住房，其余未購買。則收入為的家庭，購買住房的頻率為將其作為的估計，并代入對數機會比，有于是，樣本回歸函數為對上式可直接運用OLS法估計未知參數了。具體應用可參見Damodar N. Gujarati 計量經濟學基礎（第四版）下冊，中國人民大學出版社，2005年。第559頁-第560頁。2、最大似然估計方法在線性回歸中估計總體未知參數時主要采用OLS方法，這一方法的原理是根據線性回歸模型選擇參數估計，使被解

14、釋變量的觀測值與模型估計值之間的離差平方值為最小。而最大似然估計方法則是統(tǒng)計分析中常用的經典方法之一，它是建立在由聯(lián)合密度函數所導出的似然函數，并對其求極值而得到參數估計的一種方法。在線性回歸分析中最大似然估計法可以得到與最小二乘法一致的結果。但是，與最小二乘法相比，最大似然估計法既可以用于線性模型，又可以用于非線性模型，由于Logit回歸模型是非線性模型，因此，最大似然估計法是估計Logit回歸模型最常用的方法。下面，以單變量為例，說明該方法的運用。假設有n個樣本觀測數據，由于樣本是隨機抽取，所以，在給定條件下得到的和的概率分別是和。于是，一個觀測值的概率為 其中，或。因為，各項觀察相互獨立

15、，則n次觀察所得的樣本數據的聯(lián)合分布可表示為各邊際分布的連乘積 稱上式為n次觀察的似然函數。由最大似然估計法的原理知，最大似然估計就是求解出具有最大可能取所給定的樣本觀測數據的參數估計。于是，最大似然估計的關鍵是估計出和，使得上述表達式取得最大值。將上式兩端取對數得 稱上式為對數似然函數。為了估計能使有最大的總體參數估計和，先分別對求偏導數，然后令其為0，得 在線性回歸中，似然函數是通過把偏離差平方和分別對求偏導數得到，它對于未知參數都是線性的，因此，很容易求解。但是對于Logit回歸中的上述兩個方程是關于的非線性函數，求解十分困難。隨著現代計算機技術的發(fā)展，許多計量經濟學和統(tǒng)計學的軟件包均有

16、Logit回歸的參數最大似然估計值，常用的EViews軟件就含有該估計方法。 3、Logit回歸最大似然估計的統(tǒng)計性質（1）參數估計具有一致性，即當樣本觀測增大時，模型的參數估計值將比較接近參數的真值。（2）參數估計為漸近有效，即當樣本觀測增大時，參數估計的標準誤相應減小。（3）參數估計滿足漸近正態(tài)性，即隨著樣本觀測的增大，估計的分布近似于正態(tài)分布。這意味著，可以利用這一性質對未知參數進行假設檢驗和區(qū)間估計了。有關證明可參見Aldrich, John & Forrest D. Nelson. 1984. Linear Probability, Logit, and Probit Mod

17、els. Newbury Park, Sage Publications. 三、Logit 回歸模型的評價和參數的統(tǒng)計檢驗與一般線性回歸模型一樣，在得到Logit回歸模型的參數估計后，還應對模型進行評價和相應的統(tǒng)計檢驗。1、模型的擬合優(yōu)度檢驗模型估計完成以后，需要對模型是否有效地描述了模型與觀測數據的匹配程度進行評價。如果模型的預測值（擬合值）能夠與對應的觀測值有較高的一致性，就認為該模型能擬合數據，否則，將不接受這一模型。對Logit回歸模型的評價有多種方法，不同的計算軟件給出的評價結果也有差異。這里，我們將根據EViews軟件，介紹模型擬合優(yōu)度的檢驗方法。（1）McFadden 在前面的介

18、紹中，已經提到對于離散選擇模型，通常的擬合優(yōu)度沒有多大意義。在EViews軟件里，有一種方法即McFadden ，簡記為。其計算公式為 式中，為模型中包含所有解釋變量的無約束對數似然函數值，為模型中僅含有截距項的有約束的對數似然函數值。從概念上講，和分別等價于普通線性回歸模型中的RSS和TSS。與一樣，也在0到1之間變動。（2）期望-預測表檢驗該方法的原理是，在模型參數估計后，選取適當的截斷值，將觀測數據分成兩組，一組為，另一組為，其中，。如果樣本中的一個觀測數據的數值為0，并且該樣本屬于第1組，同時另一個觀測數據的數值為1，并且屬于第2組，就稱這個觀測數據是分組恰當的，否則就稱這個觀測數據是

19、分組不恰當的。該方法的思想是利用分組恰當與否，得到觀測數據占總樣本的比重來檢驗模型的擬合優(yōu)度。如果模型估計與實際觀測數據比較一致，則大多數的觀測數據應該是分組恰當的，反之，如果分組不恰當的觀測數據所占的比重很大，說明模型估計與實際觀測數據的擬合程度較差，模型就需要調整。利用軟件EViews進行期望-預測表檢驗的步驟如下：第一步，在估計好模型的窗口中按此路徑選擇View/Expectation Prediction Table。第二步，出現一個對話框，在對話框里輸入一個截斷值，系統(tǒng)默認的截斷值是0.5。通常情況下，可取為1的次數在總觀測次數中所占的比例作為截斷值的估計值。第三步，點擊OK后可生成

20、對應的期望-預測表。這時便可利用該表進行擬合優(yōu)度的判斷。有關Logit回歸模型的擬合優(yōu)度其它檢驗方法，如皮爾遜檢驗、偏差檢驗、擬合優(yōu)度指標和信息測量指標等?？蓞⒁娤嚓P文獻，如王濟川、郭志剛，Logistic回歸模型方法與應用，高等教育出版社，2001年，第58頁第89頁。2、參數的顯著性檢驗對模型中參數的顯著性檢驗，就是決策判斷某個解釋變量對事件的發(fā)生（即選?。┦欠裼酗@著性影響。如果檢驗結果表明該解釋變量對選取的發(fā)生有顯著性影響，則認為將該解釋變量放入Logit回歸模型中是恰當的。否則，需要對模型進行適當的調整。（1）Z檢驗以一元Logit回歸模型為例，設模型為 對該模型中的參數的顯著性檢驗的

21、原假設為，即解釋變量對事件發(fā)生的概率沒有顯著性影響。根據參數的最大似然估計性質可知，在大樣本條件下，漸近服從正態(tài)分布，于是，在成立的前提下，檢驗統(tǒng)計量為漸近服從標準正態(tài)分布。式中，為最大似然估計的標準誤差。因此，可按常規(guī)查標準正態(tài)分布表，對原假設進行判斷，從而檢驗模型中參數的顯著性。（2）Wald檢驗對模型中參數顯著性檢驗還可使用Wald檢驗，其檢驗統(tǒng)計量為 在下，漸近服從自由度為1的分布。因此，可根據分布表，在給定的顯著性水平下，得到相應的臨界值，從而判斷參數的顯著性。 可參閱Hauck, W. W. & A. Donner.1977.Walds tests as applied t

22、o hypotheses in logit analysis. Journal of the American Statistical Association,Vol.72:851-853.（3）似然比檢驗統(tǒng)計學上已經證明，在大樣本情況下，兩個模型之間如果具有嵌套關系，則兩個模型之間的對數似然值乘以-2的結果之差近似服從分布。這一統(tǒng)計量就是似然比統(tǒng)計量。該檢驗的思想是，假設一個模型記為中有解釋變量，另一個模型記為包含了中所有其它解釋變量，而沒有包含，則稱嵌套于，亦即中包含了。通過這一模型之間嵌套關系，我們實際上需要判斷的是出現在模型中是否合適。Hanushek & Jackson ,1

23、977; Aldrich & Nelso, 1984; Greene, 1990; Long, 1997分別證實了似然比統(tǒng)計量為 其中，為所設定的原模型（即包含了所有解釋變量“有約束”）的最大似然函數的對數值， 為省略模型（即省略了解釋變量“無約束”）的最大似然函數的對數值，兩者之間的差乘以-2近似地服從分布，其自由度為省略了的解釋變量的個數。接下來，可根據分布表，在給定的顯著性水平下，得到臨界值，從而判斷參數的顯著性。 例 分析某種教學方法對成績影響的有效性，被解釋變量GRADE為接受新教學方法后成績是否改善，如果改善取1，否則取0；GPA為平均 分數；TUCE為測驗得分；PSI為是

24、否接受新教學方法，如果接受取1，否則取0。運用EViews軟件中Logit模型估計方法得到如下結果1、由表格寫出估計表達式2、參數的顯著性檢驗包括截距項在內的4個參數估計的標準差分別為它們的z統(tǒng)計量分別是給定，表明除了變量TUCE外，其它兩個變量對機會比均有顯著性的正影響。3、模型的顯著性檢驗（1）由計算表格知，擬合優(yōu)度指標，表明模型有一定的擬合優(yōu)度。（2）期望-預測表檢驗。因為，接受新方法成績有所改善的比例為34.38%，所以選取截斷值為0.34。在建好模型的窗口按前述的路徑得到如下結果由上表可知，左邊給出的是對觀測數值分組的結果，歸入第1組的觀測數值共為19個，其中，分組恰當的為17個，分

25、組不恰當的為2個，即對被解釋變量的觀測數值（總共21個）來講，模型分組恰當的比率為80.95%（）；歸入第2組的觀測數值為13個，其中，分組恰當的為9個，分組不恰當的為4個，即對被解釋變量的觀測數值（總共11個）來講，模型分組的恰當比率為81.82%（）；由此得到模型所有觀測數值總的分組恰當比率為81.25%（），說明估計的模型有較好的擬合優(yōu)度。四、Logit模型回歸系數的解釋由前面的推導可知，將事件發(fā)生的條件概率定義為，則我們可得到如下模型 （5-3）進一步，在發(fā)生比的基礎上，我們還可得到如下模型 （5-4）對模型（5-4），由于等式右端為線性表示，則可完全按照線性回歸模型系數那樣來解釋。一

26、個解釋變量的作用如果是增加對數發(fā)生比的話，也就增加了事件發(fā)生的概率。具體來講， Logit模型的系數如果是正的并且統(tǒng)計顯著，則在控制其它變量的情況下，對數發(fā)生比隨對應的解釋變量值增加而增加，相反，一個顯著的負系數代表對數發(fā)生比隨對應解釋變量的增加而減少。如果系數的統(tǒng)計性質不顯著，說明對應解釋變量的作用在統(tǒng)計上與0無差異。1、按發(fā)生比率來解釋Logit模型的系數對Logit模型的回歸系數進行解釋時，很難具體把握以對數單位測量的作用幅度，所以通常是將Logit作用轉換成對應的發(fā)生比來解釋。設模型為轉換成發(fā)生比的形式（還原成以為底的指數函數） （5-5）式中，截距可以作為基準發(fā)生比的對數?；鶞实囊馑?/p>

27、是指當Logit模型中沒有任何解釋變量時所產生的發(fā)生比。或者，除了常量外，所有解釋變量都取0值時所產生的發(fā)生比。對于解釋變量的作用的解釋，由（5-5）式看出，各項作用之間已經由加法的關系轉變?yōu)槌朔P系。因此，系數的作用可解釋為，當為正值時，將大于1，則在其它條件不變的情況下，每增加一個單位值時發(fā)生比會相應增加；當為負值時，將小于1，說明每增加一個單位值時發(fā)生比會相應減少；而當為0時，將等于1，那么不論怎樣變化發(fā)生比都不會變化。例如，在新教學方法采納的分析中，已估計的方程可按指數運算法則轉變?yōu)橛缮鲜霰磉_式可以看出，由于GPA>0，則，因此，在其它條件不變的情況下，平均分數每增加一個單位，將

28、導致接受新教學方法后成績有所改善的發(fā)生比會相應提高。同理，對于變量TUCE也可作類似的討論；由于PSI為虛擬解釋變量，表示是否接受新教學方法，如果接受取1，否則取0，因此，在其它條件不變的情況下，當PSI=1時，則將會使接受新教學方法后，學習成績改善的發(fā)生比有所提高，而當PSI=0時，則將會使接受新教學方法后，學習成績改善的發(fā)生比保持不變。2、用概率來解釋Logit模型的系數除了解釋變量對于對數發(fā)生比的偏作用外，有時也用事件發(fā)生的概率來解釋模型中系數的偏作用。對事件發(fā)生概率的偏作用可以通過對Logit模型 求的偏導數來加以解釋。其求導結果如下 于是，變量對事件發(fā)生概率的偏作用就等于該解釋變量的

29、系數與的乘積。因為永遠為正值，所以偏作用的符號由決定，作用的幅度依賴于的幅度和對應于特定值的概率，而它與模型中所有其它解釋變量有關。因此，不同于對發(fā)生比作用的解釋，對事件發(fā)生概率的偏作用是隨值的變化而變化的。這就需要在討論變量對事件發(fā)生概率的偏作用時，應將概率值計算出來后，才能解釋其偏作用。3、預測概率與一般線性回歸模型一樣，根據Logit模型也可以獲得事件發(fā)生的預測概率。以一個解釋變量的Logit模型為例，如果我們知道參數估計和，并確定某一事件的，便可將其代入Logit模型，計算預測概率。計算公式為 在計算預測概率的基礎上，還進一步計算在解釋變量發(fā)生離散變化時預測概率的變化，這種方法被稱為概率離散變化法。其計算公式是 另外，與一般線性回歸模型一樣，由一個解釋變量的Logit模型也可擴展到多個解釋變量的Logit模型，見下式 相應的對數發(fā)生比為 類似多元線性回歸模型，在Logit模型中，由于多個解釋變量可能會以多個不同的尺度加以測量，這個時候要直接對比不同解釋變量對發(fā)生比的影響是不行的，因此，需要對解釋變量進行標準化變換，將解釋變量和被解釋變量由非標準化變量轉換為標準化變量