文档介绍：第二章参数估计
内容提要
§1 参数估计的基本概念
§2 点估计量的求法
§3 估计量的评选标准
§4 区间估计
§2-1 参数估计的概念
一、参数估计的思想数理统计的核心是统计推断,即由样本推断总体。根据Glivenke定理,当样本容量足够大时,可以用经验分布近似理论分布。但在实践中大样本往往是无法得到的。
根据理论分析、先验知识,或者利用样本观测值对总体类型进行检验和判断,可以认为总体的分布类型是已知的,只是其某些参数未知。利用相对小的样本估计参数是可行的。
§2-1 参数估计的概念
二、参数估计的方式
1、点估计:构造一个统计量作为参数θ的估计量,记作。
如果总体中有k个未知参数,则需要构造k个不同的统计量分别作为各个参数的估计量,即:
注:由于点估计是样本的函数,所以是随机变量或随机向量
§2-1 参数估计的概念
2、区间估计:给出参数空间的一个范围,使待估参数θ以较大概率落入其中。
一维情形下的区间估计:构造参数θ的两个估计量: ,使得待估参数θ以较大概率被随机区间所覆盖。
注:区间估计用来估计点估计的精度。
§2-2 点估计量的求法
求点估计量的主要方法:矩估计法,极大似然估计法,次序统计量法,最小二乘法,Bayes法,判决函数法,自适应法,稳健估计法等。
一、矩估计法:用样本的各阶原点矩的函数来估计总体的各阶原点矩的同一函数的方法。
方法叙述:
1、设总体X的r 阶原点矩存在。X的分布中含有k
(k<r)个待估参数θ1, …,θk 。总体的k阶原点矩为:
若上述方程组可解,则从中解出:
2、用样本矩作为原点矩的估计量,即
则得到参数估计:
说明:样本的k 阶中心矩也可以作为总体k 阶中心矩的矩估计量。这是因为k 阶中心矩可以展开为不超过k 阶的原点矩的函数。所以在矩估计法中,用原点矩和中心矩都是可以的,但就每一阶来说,两者只能选其一。
注:矩估计法的优缺点。
例2 设总体X在[a, b]上服从均匀分布, a, b未知,
X1, …, Xn是一个样本, 试求a, b的矩估计量.
例1 设总体X 的均值μ及方差σ2都存在, 且有σ2>,σ2均为未知. 又设X1, …, Xn是一个样本, 试求μ,σ2 的矩估计量.
二、极大似然估计法(Fisher, 1912)
1、似然函数:设X1, …, Xn是来自密度函数为f (x;θ1 , …, θk)的总体X的样本,称其联合密度函数为似然函数,记作
2、思想:“概率最大的事件最可能出现”。若似然函数在处达到极大值,即
则称是的极大似然估计。