第八章第二節(jié)估計優(yōu)良性

1、 第八章 參數(shù)估計第二節(jié) 點估計量的優(yōu)良性 上一節(jié)中，我們介紹了估計總體參數(shù)的兩個常用的方法：矩估計法和極大似然估計法。并且已經(jīng)知道，對于同一個參數(shù)，用矩估計法和極大似然估計法得出的估計量有的時候是相同的，有的時候是不同的，即對于同一個參數(shù),可以有多個估計量等,究竟采用哪一個估計量好呢？這就涉及到用什么標(biāo)準(zhǔn)來評價估計量好壞的問題。通常采用下列標(biāo)準(zhǔn)。一、無偏估計這里我們給出一種對任何樣本容量都適用的評價估計量好壞的準(zhǔn)則。設(shè)是總體分布中的未知參數(shù)，為的估計量。既然是樣本的函數(shù)，因此對于不同的抽樣結(jié)果，的值也不一定相同，然而我們希望在多次試驗中，用作為的估計沒有系統(tǒng)誤差，即用作為的估計，其平均偏差為

2、0，用公式表示即，這就是估計量的無偏性的概念。這是估計量應(yīng)具有的一種良好性質(zhì)。沒有系統(tǒng)性偏差的性質(zhì)在統(tǒng)計學(xué)上稱作無偏性。顯然它可以作為衡量估計量估計量好壞的一個準(zhǔn)則。定義2 設(shè)（簡記為）為未知參數(shù)的估計量，若, (8.5)則稱為的無偏估計。例1 設(shè)總體的均值,總體方差。設(shè)為來自于總體的樣本,求證：（1）是的無偏估計量；（2）是的無偏估計量。（3）設(shè)常數(shù)滿足，則是總體均值的無偏估計。證明因為獨立且與同分布,;于是,故是的無偏估計量；,下面計算。方法1 ;方法2, ;方法3 ,故 . 但是，不是總體方差的無偏估計。事實上，,所以，它是有偏的.這個例題很給力例2 設(shè)總體的概率密度為 ,為來自總體的樣

3、本.(1)求總體均值,總體方差(2)求的矩估計量;(3)是否為的無偏估計？(4)求的方差 .解 (1)總體均值;總體方差;(2)令,即, 得的矩估計量為;(3),所以是的無偏估計;(4)的方差 . .例3 設(shè)總體X，X，X，X是來自X的一個樣本，試確定常數(shù)C，使為的無偏估計。解法一 因為，故,()( 若寫出,則錯了,因為不獨立.)故 ,而由 得到于是 ，故。解法二 因為獨立同分布,()，因而，故 。解法三,因獨立同分布，故，,于是 為使其為的無偏估計，必有，即。 解法四 由得到故 。 注意 上例解法四推演步驟甚多，但其使用的手法是很重要的。這個手法就是遇有隨即變量之差的平方時，將這個差變形為，

4、從而將差的平方與方差聯(lián)系起來。顯然，由例1我們看到，（）和都是總體均值的無偏估計。由此可見，一個未知參數(shù)可以有不同的的無偏估計量。因此，對于幾個無偏估計量，應(yīng)該有個區(qū)別好壞的標(biāo)準(zhǔn)。二、最小方差無偏估計 設(shè)是的無偏估計量，,我們很自然的要求與盡可能接近，也即要盡量小。而 ,這就看出，當(dāng)是的無偏估計量時，其方差越小越好。因此方差最小的無偏估計就是一個“最佳”的估計。 定義3 設(shè)是的一個無偏估計，若對于的任一無偏估計，成立 ,則稱是的最小方差無偏估計。例2設(shè)為來自于總體的樣本,總體均值,總體方差,求的最小方差線性無偏估計。解 已知獨立且與同分布,;的線性估計是將的線性函數(shù)作為的估計量。問題是如何選取

5、的值，使得無偏性和最小方差這兩個要求都能得到滿足。易知, , 無偏性要求,最小方差要求達(dá)到最??；利用Cauchy不等式得，且等號成立，當(dāng)且僅當(dāng)全相等，記，由條件,得到，于是當(dāng)時，達(dá)到最??；故,是的最小方差線性無偏估計。從這里，我們看到了選取樣本均值作為總體均值的估計的優(yōu)良性質(zhì)。若和都是的無偏估計量，且成立，則通常稱估計量較有效,或較佳,或較優(yōu).例 設(shè)為總體的一個樣本,試證下列估計量,都是總體均值的無偏估計量,且問哪一個最佳？證明 已知獨立同分布, 所以都是的無偏估計量;, , 于是,故最佳.三、一致估計設(shè)為總體參數(shù)的估計量，顯然與樣本有關(guān)，我們希望會隨著樣本容量的增大而越接近于，這一要求便是衡量估計量好壞的另一標(biāo)準(zhǔn)。定義4 設(shè)為未知參數(shù)的估計量，若依概率收斂于，即對任意的,成立 , (8.7)或 , 則稱為的一致性估計。例8試證樣本均值為總體均值的一致性估計。證 因為 ,所以，對于相互獨立且服從同一分布的隨機變量，由大數(shù)定律【第六章】，得，即得 。 此外，還可證明樣本方差是