兩個統(tǒng)計總體的比較.docx

第六章總體的比較到目前為止我們已經(jīng)討論了來自一個單一樣本的數(shù)據(jù)分析。在許多環(huán)境下，我們需要比較2個或者多個總體。我們可以比較兩個生產(chǎn)過程的平均值以及方差，去看看其中一個過程是否比另一個更加一致或精確。我們可以比較一個新的過程和標(biāo)準(zhǔn)過程，或者許多過程，去了解是否存在差異。在這一章中,我們將首先檢查兩個總體的比較問題，然后通過方差分析(ANOVA)表提出一個通用程序來比較任意數(shù)量的總體。6.1 兩個一直均值和方差的比較假定我們有興趣比較兩個過程的平均值，其中我們認(rèn)為觀察值來自同一個總體。是來自第j總體的第i觀察值，是這個總體的平均值，表示第j個總體中第i個觀察值發(fā)生隨機(jī)誤差的概率。因此，這個問題的模型：其中，我們通常假定這些錯誤是獨(dú)立的，同時服從平均值為0以及方差為的正態(tài)分布。正在研究的過程 可能有不同的平均值，因為他們代表不同的處理方法，如兩種化學(xué)添加劑、兩個分析測量設(shè)備,或兩個操作計劃。由于方差已知，通過標(biāo)準(zhǔn)正態(tài)變量我們可以用中心極限定理比較不同的處理方法；讓， (6.1.1)其中是來自第j個處理方法的個觀察值得平均值，是已知的方差。為了保證這些觀察值得獨(dú)立性，它們是隨機(jī)抽取而獲得的。因此，統(tǒng)計量的方差是。為了測驗0假設(shè)：=0（或者是其它的值），或者是為了計算的置信區(qū)間。我們只需要參考標(biāo)準(zhǔn)正態(tài)偏差表。例 6.1 假設(shè)認(rèn)為通過改變高速鉆所在的冷卻液流動速度可以使工具得壽命增加。為了檢驗這個假設(shè)，應(yīng)用標(biāo)準(zhǔn)流動速率（過程1）能夠得到7個觀察值，同時從新的流動速率（過程2）中得到6個觀察值，所有的13種試驗隨機(jī)排列。結(jié)果如下：由于-1.74比-1.645小很多(Pr(z-1.645) = 0.05),流動度率對工件壽命無影響的假設(shè)不成立。這個推理是基于一個顯著性水平為5%單邊的假設(shè)檢驗（I型錯誤概率）。6.2 兩個方差的比較我們還可以檢驗兩個方差是否相同。假設(shè)兩個來源的觀察值服從正態(tài)分布。其中一個處理過程比另一個更容易變化嗎？更精確或者可以重復(fù)使用嗎？要回答這些問題，我們首先應(yīng)該估計每一個過程的方差，如下：每一個都服從分布，.為了檢驗0假設(shè):,我們需要建立一個檢驗統(tǒng)計。我們用分布去檢驗一個獨(dú)立方差的假設(shè)。要檢驗兩個方差的相等性，我們使用檢驗統(tǒng)計，這個檢驗統(tǒng)計服從F分布。定義： 其中是含有2個變量的F分布。是所涉及比例的2個分布的自由度，雨分子相關(guān)和與分母相關(guān)由此可見：即，如果，服從的自由分布。因此，當(dāng)：（即=1），檢驗統(tǒng)計服從自由度為的F分布。圖 6.1 F分布從分布中期望獲得什么樣合理的值？一個處理左邊尾部的F分布的有用的關(guān)系式如下：例 6.2返回到例6.1中工具壽命的問題，為比例方差建立一個90%的置信區(qū)間。假設(shè)估計的方差是：然后轉(zhuǎn)換不等式的符號：從F分布圖中可以看出，.0.067 1.45因此，我們能夠相信置信度為90時坐落于0.067和1.45之間。于是，可以接受的假設(shè)。比較兩個方差的標(biāo)準(zhǔn)近似法是把較大的值放在分子上，然后只測試：(其中).通過這種近似法，我們通過比較與相反的=4.39來檢驗與：=1相反的。然后我們就可以接受。（這是一個單邊5%的測試，或者等價于一個雙邊10%的測試）。觀察值得正常假設(shè)可以用來構(gòu)建這種測試。通過比較不同的方差，偏離正態(tài)分布的方差可能引起重大的錯誤，這種錯誤會導(dǎo)致接受不相等的方差作為相等的方差，反之亦然。因此，在比較方差的時候，因該多加注意，特別是在認(rèn)識與方差分布有關(guān)的問題上。6.3 兩個未知的平均值和方差的比較當(dāng)兩個方差已知，在比較兩個過程方式的不同時，這兩個方差是否相等沒有區(qū)別。我們簡單地計算出相應(yīng)的標(biāo)準(zhǔn)正態(tài)值，并把其與臨界值進(jìn)行比較。當(dāng)方差未知時，我們繼續(xù)像我們單一總體一樣處理；即，我們用估計值代替，用t代替z. 然而,正如我們將要看到的,不相等的方差導(dǎo)致某些額外的困難。我們應(yīng)該假設(shè)方差是相等的。這通常是一個合理的假設(shè)，因為數(shù)據(jù)的方差即是所涉及的錯誤的方差，Var(xij) = Var ( + ) = Var ().盡管過程可能已經(jīng)被改變，我們通常還是用同樣的設(shè)備和程序來獲得數(shù)據(jù)，這些錯誤有時會大于過程可變性中的偏差。6 .3. 1 t分布檢驗，方差相等在比較2個總體的方法 上，其中，我們用下式：其中，是自由度為的t分布，因為這些自由度在因為這些自由度在聯(lián)合估計方差中；如果的假設(shè)成立，然后我們期望的觀察值盡可能的與不同。因此，同意參數(shù)的兩個獨(dú)立的估計是可用的,同時可以合并。由于在個體估計中有兩個自由度（即通過和所得的均值），所以聯(lián)合估計中有個自由度。如果，則在雙邊檢驗的級數(shù)為5%時，假設(shè)不成立。然而，這一統(tǒng)計數(shù)據(jù),對于測試任何假設(shè)是是完全通用的。注意，如果：,有Var是最小的當(dāng)這也可以認(rèn)為我們用來估計。因此，如果我們假定（已知或者未知），為了最小化Var()，選擇相等的樣本，因此可以縮短相應(yīng)的置信區(qū)間。如果，然后檢驗統(tǒng)計量減小為： (6.1.3)其中=n, 同時例6.3 再次考慮工具的壽命問題 給出下面的結(jié)果，檢驗。一個置信度為95%的置信區(qū)間是：然后這個95%的置信區(qū)間有：12.4 - 13.6 2.20 (0.66)-1.2 1.45(-2.65 0,b是分布的自由度。通過等價等式兩邊的前兩階矩，同時解出b,我們可以得到平均值檢驗的近似臨界值。解出的值如下：因此，由于，所以服從一個分布。其中，分別用，則b的值就可以被估計出來， (6.1.6)注意：min () b .自由度的這種計算方法被稱作Satterthwaites Aperoximation，該方法一般可以應(yīng)用于將幾個方差獨(dú)立的估計結(jié)合成一個單一的總方差的估計。然而，在一些復(fù)雜的例子中，必須注意要保證估計方差之間相加而不是相減。在這樣復(fù)雜的例子中，建議你咨詢當(dāng)?shù)氐慕y(tǒng)計學(xué)家！例6.4 來自例6.2中工具壽命的數(shù)據(jù)或者是Satterthwaites Approximation 6.3.3確定樣本大小來比較兩個樣本的平均值在3.6節(jié)我們已經(jīng)討論過怎樣決定檢驗一個類型I錯誤和類型II錯誤發(fā)生的概率的假設(shè)所需要的樣本大小。具體來說,我們演示了如何找到所需的樣本量n,以確保，當(dāng)一個平均值的錯誤率不超過100%時，我們會拒絕一個真正的零假設(shè)，同時，當(dāng)錯誤率不超過100 %，我們可以接受一個錯誤的選擇性假設(shè)。如果分布的方差未知，可以從下式中直接確定所需樣本的大?。喝绻讲钗粗?，一個迭代過程可以應(yīng)用于t分布,或所需的樣本容量可以從表IX中查找。在處理比較兩個平均值的問題上，我們同樣可以這么做。讓： 其中是我們用高的概率去檢測的平均數(shù)的差值（即當(dāng)是正確的概率比較小時，就接受）。檢驗統(tǒng)計假設(shè)是：其中，對于，當(dāng)每個均勻的樣本大小都相等時時，的方差最小?，F(xiàn)在進(jìn)行與3.6.3節(jié)相同的程序，可以發(fā)現(xiàn)：例 6.5 假如我們希望檢測大小為的兩個平均值的差值，如果它存在的話，其中是兩個總體的標(biāo)準(zhǔn)偏差。如果我們允許拒絕零假設(shè)的錯誤率是，同時想要檢測的準(zhǔn)確率是95%，即，然后有：也就是說，如果我們想檢驗單邊置信度為95%的以及當(dāng)概率為0.95時檢驗，對于每一個均勻樣本，我們需要6個觀察值。如果方差未知，并通過獲得數(shù)據(jù)進(jìn)行估計，我們用t代替z,同時必須經(jīng)過迭代法獲得n.表X提供了這個例子中所需的樣本尺寸。當(dāng)，時，我們可以從表中找出n=7(對于每一個均勻樣本).所提供的相等的方差的條件不是最重要的考慮，其條件是來自于每個總體的樣本容量相同或者近似相同。然后，一個置信度為100y%的置信區(qū)間包含實際值的概率接近。對于相等的樣本容量，t分布對假設(shè)的相等方差的偏離程度是不敏感的。做出這個假設(shè)的理由是很充分的。6.4 配對t實驗為區(qū)分平均值而進(jìn)行的一個非常大的方差估計不是一個不尋常的試驗，因此，即使他們存在差異，我們也很難發(fā)現(xiàn)。這種情況與找一個未加工的高爾夫球不同！如果草方差很高,我們必須努力長期的尋找(大的樣本容量)去尋找小球。如果我們能把草剪掉，我們有一個更好的機(jī)會找到我們所尋找的。經(jīng)常發(fā)生的是,不是即將要檢驗的實驗單元中存在較大的方差，而是在處理的方法中。假設(shè)我們要比較一個特定類型的合金樣本的耐腐蝕性，未經(jīng)處理的樣本應(yīng)該進(jìn)行特定的化學(xué)方式處理。其中一組樣本進(jìn)行處理，另一組樣本不進(jìn)行處理，這能夠使我們演示一個比較腐蝕性的t分布的試驗。然而如果樣本的耐蝕性觀察值各不相同，我們將無法知道是否存在差異，也就是說試驗不是非常的有效。如果合金樣本的容量很大足夠?qū)?jīng)過處理的和未經(jīng)過處理每組樣本進(jìn)行測試，將會怎么樣呢？處理過的未處理的 然后我們可以對每個實驗單元的腐蝕性結(jié)果進(jìn)行比較（合金樣本）。通過成對的抽取不同的觀察值，比較兩個平均值的試驗就會轉(zhuǎn)變成一個單獨(dú)整體的問題。因，這個實驗被稱作配對t實驗。分析過程如下經(jīng)過處理的未經(jīng)過處理或者標(biāo)準(zhǔn)的差值. 我們要注意以下內(nèi)容：1、 自由度是n-1,而不是單個實驗中的2（n-1）。其它的相等，自由度為2（n-1）的實驗比自由度為n-1的實驗更加有效。但是,所有的事情在這里是不平等的。通過比較每個實驗單元的結(jié)果，我們減小樣本觀察值的方差，即已經(jīng)排除了單元或者塊之間的變化問題。2、 對于每一種處理方法的樣本大小必須相等。3、 隨機(jī)變量之間的方差可能相等，也可能不相等，實際上有可能是相關(guān)的，。在這個事實的發(fā)展過程中，配對t實驗有時候也叫做相關(guān)t實驗。用配對t實驗比較平均值的優(yōu)點(diǎn)是由于實驗單元之間的差異，你可以忽略數(shù)據(jù)中的大量變量，因此也形成了一個更加有效的實驗，假設(shè)一個大的變量存在。然而，一個重要的考慮是實驗單元內(nèi)的處理方法的比較有一個自然基礎(chǔ)。自然配對的例子是測量值，而不是被指定為前后和有無這樣的條件，或者像把同一鋼錠用不同的設(shè)備分成兩等分這樣在同一實驗單元中不同條件下所做的重復(fù)試驗。如果你忽略了單元變量之間不存在的差異，由此產(chǎn)生的方差估計不會明顯減小，但你的t統(tǒng)計量的自由度將會減半為(n - 1),而更準(zhǔn)確的未配對的實驗會有2(n - 1)個自由度。另一方面，如果因單元變量之間的差異過大不能忽略，則所導(dǎo)致的聯(lián)合估計方差也很高。兩個情況都會導(dǎo)致檢驗無效，即試驗將會接受更多的零假設(shè)。然而有一個經(jīng)驗規(guī)則是，如果你懷疑一個單元塊對單元變量有影響，使用自由度盡可能多的配對t試驗。結(jié)果導(dǎo)致的錯誤要比沒有配對的要少，并做一個不恰當(dāng)?shù)募僭O(shè)。例6.6 為了檢驗經(jīng)過特殊化學(xué)處理的樣本合金的耐腐蝕性，我們從合金試樣中隨機(jī)選取10個樣本。每個試樣的一半經(jīng)過處理，另一半不經(jīng)過處理。耐腐蝕性樣本：實驗單元或者塊未處理的處理的差值樣本平均值112. 1 14. 72.613.40210.9 14.03. 112.45313. 1 12.9-0.213.00414.5 16.21.715.3559.6 10.20.69.90611.2 12.41.211.8079.8 12.02.210.90813.7 14.81.114.25912.0 11.8-0.211 .90109. 1 9.70.69.40 ，即，假設(shè)不成立。經(jīng)過處理的合金和未經(jīng)過處理的合金在耐腐蝕性方面是有差異的。經(jīng)過處理的合金的穩(wěn)定性顯著提高。6.5 t檢驗的假設(shè)比較t檢驗的時候涉及到三種基本假設(shè)，它們是：1） 正態(tài)假設(shè)2） 方差相等3） 相互獨(dú)立由于我們是處理平均值，中心極限定理允許我們假設(shè)服從正態(tài)分布。盡管樣本容量很?。╪4）,我們?nèi)匀恍鑼€體觀察值進(jìn)行正態(tài)假設(shè)；盡管其沒有真正的實際作用。在它產(chǎn)生任何有實質(zhì)性的結(jié)果之前，必須讓偏離常態(tài)的程度極端化。我們已經(jīng)聲明將t檢驗應(yīng)用于不相等方差的理由是充分的。相等方差 的假設(shè)的一個解決方法是使用一個配對t檢驗。另一個方法是使用大小相等的樣本去最小化出現(xiàn)錯誤結(jié)論的幾率。然而，第三個假設(shè)，觀察值的獨(dú)立性，也是很重要的。（在一個配對t檢驗中，差值也是獨(dú)立的）。為了保證獨(dú)立性，應(yīng)該進(jìn)行隨機(jī)化抽樣。也就是說，像擲硬幣或者使用一個隨機(jī)數(shù)發(fā)生器一樣，要隨機(jī)的抽取觀察值。我們需要選擇一個適用于特定的隨機(jī)響應(yīng)的處理方法。在一個配對t檢測中，我們要隨機(jī)的選取要檢驗的單元，同時要隨機(jī)選取一種首先被實用的處理方式（或者對于單元的一邊）。6.6 k個方差的比較現(xiàn)在我們討論比較兩個以上的總體的問題。為了比較兩個以上的方差之間可能存在的差異，有以下幾種可行的方法，每一種方法都有難度：1. 哈特利的測試max-f試驗對于k個總體以及，其中每個都有自由度，計算：臨界值已經(jīng)被列入到各種各樣的表格中，同時k處于5%和1%的水平。然而，這些表格不是現(xiàn)成的。有一個來源是歐文的統(tǒng)計手冊表，24。這種方法的一個額外的缺點(diǎn)是，對于每一個方差估值，最大的F分布會對相等的自由度產(chǎn)生限制。2. 科克倫測試這個測試是為了確定k個方差估計值中的某一個和其它的值是否在一直線上。所有的估計值必須有相等的自由度，同時一個估計值可以控制其它的值。同時，這個試驗需要一個特殊的表而這個表不是現(xiàn)成的。見Dixon 和 Massey 8表A-17.3. 巴特利特的同性方差試驗這個測試很普通，因為他不要求所有方差的自由度都相等。然而，它存在一個對正態(tài)假設(shè)的敏感度的問題，同時他的計算也是很繁瑣的。它可以被編程,而且只需要使用一個標(biāo)準(zhǔn)的X表。對于k個自由分布的總體，有，其中，。例 6.7 4個方差的比較 K=4 正態(tài)總體 沒有證據(jù)證明方差不相等。6.7 k個平均值的比較來自正態(tài)總體的任何數(shù)量的數(shù)據(jù)分析都可以通過方差分析表進(jìn)行總結(jié)，或者通過ANOVA表進(jìn)行簡短的總結(jié)，或者用一個模型去代替這些情況。模型總是出現(xiàn)在數(shù)據(jù)分析中，但不幸的是常常沒有被寫出來。然而他也沒有被隱藏在那里。在開始進(jìn)行k個平均值得比較之前，這對于我們檢驗類似于檢驗單個平均值以及比較兩個平均值這種簡單問題的ANOVA表示有利的。6.7.1 方差分析的檢驗 對于來自單個樣本的觀察數(shù)據(jù)，模型如下：, (6.7.1)其中-是x的平均值，同時，i=1,2,n.平方和可以被看成是對數(shù)據(jù)中總信息量的測量。這可以分割成兩部分：其中是估計均值中的信息占有量。信息仍然需要去衡量，-是錯誤所導(dǎo)致的，此式除以n-1,可以得到，也就是方差。這種形式叫做殘差平方和，因為總體平均值估計之后剩下的殘余值。殘差值可以用于估計在獲取樣本觀察值生發(fā)生的錯誤。平方和，一般用于數(shù)據(jù)中總變量的測量，同時也包含了觀察值中所有變量的來源。定義根據(jù)被檢查 的模型，方差分析是零部件中總變異性的分區(qū)。然后可以確定出這些零部件對數(shù)據(jù)中總變異性的重要作用。從模型(6.7. 1)可以看出，ANOVA表對分析做出了總結(jié)，如下：表6.1 的ANOVA表來源平方和自由度平均方差總和n平均值（CF）1殘余值或者誤差值n-1其中平方均值是平方和除以自由度得到的，同時被用于估計方差函數(shù)。為了檢驗假設(shè)，我們要首先算出的期望值，已知Var因此，如果成立，我們會發(fā)現(xiàn) 的估計值是。剩余平方和除以自由度叫做剩余或誤差均方，并且實際上估計值，是最好的最公正的估計。除了隨機(jī)誤差，殘差變量沒有其它來源。因此，如果，和殘差均方應(yīng)該和估計值同時存在。我們可以通過F檢驗值檢驗這種假設(shè)，其中：也就是說，在假設(shè)的情況下，對的檢驗已經(jīng)在兩個獨(dú)立估計的相等性試驗中給予了解答?！咀⒁猓和ㄟ^Cov，可以看出在統(tǒng)計上是獨(dú)立的，其中Cov表示兩個隨機(jī)變量的方差?！咳绻嬎闼玫腇值比臨界值大，則假設(shè)不成立。【注意：】。例 6.8 冶金實驗室有來自于經(jīng)過電弧熔煉過程產(chǎn)生的一個鋯合金的五個觀察值，鋯合金樣本的重量分別是：90, 91, 93, 90, 和 94。ANOVA來源平方和自由度平均方差總和5平均值（CF）141952.8殘余值或者誤差值13.24（估計均值）平均值是91.6，方差是3.3。均值顯著性的F檢驗是41952.8/3.3，同時也是很重要的。這和T檢驗是等價的。當(dāng)一個F或者T檢驗拒絕零假設(shè)時，我們說所估計的參數(shù)是明顯不同于假設(shè)值的。在這個例子中，平均值顯然不同于0.6.7.2 通過方差方差分析來比較k個均值一個更有趣的問題是兩個或者兩個以上的均值是否相等。和這個問題有聯(lián)系的模型是： （6.7.2）即，來自于第j個總體有個觀察值，并且假定所有的總體方差相等。我們可以重新把這個模型寫作：其中是總體的平均值，是 對已經(jīng)來自于第j個總體的響應(yīng)所產(chǎn)生的額外影響。通常被叫做處理效果。定義，一個線性約束，存在于處理方法中。由于對于所有的總體是通用的，所以檢驗和檢驗是等價的。我們可以按照以前的方法進(jìn)行，同時根據(jù)總均值，我們也可以找出平方和，即。這就是通常所說的校正因子。剩余或者改正過的平方和是。這仍然包含一個來自于不同處理效果的變量源?？偲椒胶涂梢詣澐秩缦拢憾x：，然后， 其中第一步是剩余平方和，第二步是對平方和的處理，最后一步是矯正因子（由于平均值）。則ANOVA將變成：表6.2 用于比較k個平均值的ANOVA表來源平方和自由度平均方差EMS總和N平均值（CF）1修正總值N-1處理值SSTk-1殘余值或者誤差值SSEN-k由于總體均值的差異或者僅僅由于處理結(jié)果，所處理的平方和代表數(shù)據(jù)的可變性，總體均值的估計就是樣本均值；超過大均值的總體效應(yīng)估計是。從附錄D中可以看出處理方式中均方值得期望值，其中是實際處理效果。由于通過定義，這里的自由度是k-1而不是k。這種線性對比限制了估計的一個自由度。當(dāng)然，參與方差均值，或者聯(lián)合估計是不偏不倚的。處理方差均值可以看作是處理變量和殘余方差均值之間的估計，其中估計在假設(shè)條件下的方差處理內(nèi)估計，假設(shè)條件為：，對于所有的j都是相同的。方差比如下：這是對假設(shè)的一種檢驗，其中這些方差估計是兼容的，反過來說是對零假設(shè)的檢驗，對于所有的j。如果,我們可以預(yù)算所計算的F 值小于臨界值。如果值更大，我們說假設(shè)不成立，此時所有的處理值相等。一般來講，處理方法的均值可以和其他存在的變量源作比較，而這些變量源被忽略了，不在分析報告之中。例如配對t檢驗?？紤]到模型： （6.7.4） j=1.2k i=1.2.n其中代表分區(qū)效應(yīng)，并且一般情況下可以代表一個或者更多的效應(yīng)，其中每一個都可以被獨(dú)自分開。ANOVA表可以總結(jié)如下：來源平方和自由度平均方差EMS總和N平均值（CF）1修正總值N-1處理值SSTk-1MS(處理)限制值SSBn-1MS(限制)殘余值或者誤差值SSE通過減法運(yùn)算得到(n-1)(k-1)和上面