文档介绍：点估计中两种常用方法的比较与分析
楚尚坤
河南理工大学数学与信息科学学院信息与计算科学专业2005级3班
摘要:本文首先介绍矩估计法和极大似然估计法,然后对于同一分布和同一参数,用这两种不同的方法求出矩估计量和极大似然估计量,利用估计量的三条评选标准:无偏性、有效性和一致性来判断哪个估计量在这种情况下与该参数的真实值更相近,从而选择相应的点估计法。
关键词:矩估计极大似然估计无偏性有效性一致性

§1 引言
当我们碰到这样的问题:假设总体分布函数的形式已知(它可由理论分析和过去经验得到,或者从抽样数据的直方图和概率纸描点初步估计出),但它的一个或多个参数未知,借助于总体的一个样本值,构造适当的样本函数来估计总体未知参数的问题,我们称之为点估计问题。点估计是数理统计学中内容很丰富的一个分支,其中两种最常用的构造的估计量的方法是矩估计法和极大似然估计法。当对于同一分布和同一参数时,先用矩估计法和极大似然估计法分别求得矩估计量和极大似然估计量,然后用无偏性、有效性和一致性对这两个估计量进行衡量,当样本容量足够大时,从而选出一个估计量使得这个估计量既在未知参数的真实值附近,又与未知参数真实值的偏离程度很小,而且随着样本容量的增大估计量与被估计参数的偏差越来越小,进而选择相应的点估计法。
§2 相关概念
参数估计
所谓参数估计,是指从样本中提取有关总体的信息,即构造样本的函数——统计量,然后用样本值代入,求出统计量的观测值,用该值来作为相应待估参数的值。
此时,把统计量称为参数的估计量,把称为参数的估计值。
参数估计的类型
参数估计问题常有两类:点估计和区间估计。
(1) 点估计:指对总体分布中的参数,根据样本及样本值,构造一统计量,将作为的估计值,则称为的点估计量,简称点估计,记为=。
由于这种估计是单个的数值,总是存在误差,对误差也不能准确地计算出来。另外,点估计无法指出对总体参数给予正确估计的概率有多大。所以,这种点估计只能作为一种不精确的大致的估计,更好的办法是对总体参数进行区间估计。
(2)区间估计:指对总体中的一维参数,构造两个统计量:
=
=
使得待估参数以较大的概率落在[,]内,此时,称[,]为的区间估计。
估计量的评选标准
(1)无偏性
设是未知参数的估计量,则是一个随机变量,对于不同的样本值就会得到不同的估计值,我们总希望估计值在的真实值左右徘徊,而若其数学期望恰等于
的真实值,这就导致无偏性这个标准。
设()是未知参数的估计量,若存在,且对有=,则称是的无偏估计量,称具有无偏性。
(2)有效性
那么,究竟哪个无偏估计更好、更合理,这就看哪个估计量的观察值更接近真实值的附近,即估计量的观察值更密集的分布在真实值的附近。我们知道,方差是反映随机变量取值的分散程度。所以无偏估计以方差最小者为最好、最合理。为此引入了估计量的有效性概念。
设()与()都是的无偏估计量,若有,则称有效。若对的无偏估计都有:
,则称为的最小方差无偏估计。
(3)一致性
关于无偏性和有效性是在样本容量固定的条件下提出的,即,我们不仅希望一个估计量是无偏的,而且是有效的,自然希望伴随样本容量的增大,估计值能稳定于待估参数的真值,为此引入一致性概念。
设是的估计量,若对,有,则称是的一致性估计量。
§3 矩估计
矩估计法的基本思想
矩估计法是英国统计学家K·Pearson提出的,是求估计量的最古老的也是最直观的方法,其基本思想是:由于样本来源于总体,样本矩在一定程度上反映了总体矩,而且由大数定律可知,样本矩依概率收敛于总体矩。因此,只要总体的k阶原点矩存在,就可以用样本矩作为相应总体矩的估计量,用样本矩的函数作为总体矩的函数的估计量。例如,用样本均值来估计总体均值,用样本方差来估计总体方差。矩估计法简单、直观,而且不必知道总体的分布类型,所以矩估计法得到了广泛应用。但矩估计法也有局限性,它要求总体以k阶原点矩存在,否则无法估计,它不考虑总体分布类型,因此也就没有充分利用总体分布函数提供的信息。
矩估计法的定义
假设为总体的待估参数(),是来自的一个样本,令

即
,
得一个包含个未知数的方程组,从中解出的一组解,然后用这个方程组的解分别作为的估计量,这种估计量称为矩估计量,矩估计量的观察值称为矩估计值。该方法称为矩估计法。
矩估计法的求解过程
(1)总体矩是未知参数的函数。一般来说,总体矩个数合未知参数个数相同:

(2)求出未知参数表达式,未知参数为总体矩的函数:

(3)用样本矩代替相应的总体矩,进而求出未知参数的估计计算式:

矩估计法的实践应用
例1 设总体, 均为未知参数