文档介绍：它首先是由德国数学家
高斯在1821年提出的,
Gauss
Fisher
然而,这个方法常归功于
英国统计学家费歇(Fisher) .
费歇在1922年重新发现了
这一方法,并首先研究了
这种方法的一些性质.
§ 最大似然估计
思想方法
一次试验就出现的事件
有较大的概率
7-17
最大似然法的基本思想
先看一个简单例子:
一只野兔从前方窜过.
是谁打中的呢?
某位同学与一位猎人一起外出打猎.
如果要你推测,
你会如何想呢?
只听一声枪响,野兔应声倒下.
因为只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的.
其数学模型为
令X为打一枪的中弹数,则X~B(1,p),
:
p= 或 p=
两人中有一人打枪, 估计这一枪是谁打的,即估计总体X的参数p的值
当兔子不中弹,即{X =0}发生了
现有样本观测值x =1, 什么样的参数使该样本值出现的可能性最大呢?
若p=,则P{X=1}=
若p=,则P{X=1}=
若p=,则P{X=0}=
若p=,则P{X=0}=
当兔子中弹,即{X =1}发生了
引例设总体 X 服从0-1分布,且P (X = 1) = p,
用极大似然法求 p 的估计值。
解
X 的概率分布可以写成
设 X1, X2,…, Xn为总体 X 的样本,
设 x1, x2,…, xn为总体 X 的样本值,
则
对于不同的 p ,L (p)不同,见右下图
现经过一次试验,
发生了,
事件
则 p 的取值应使这个事件发生
的概率最大。
在容许的范围内选择 p ,使L(p)最大
注意到,ln L(p)是 L 的单调增函数,故若
某个p 使ln L(p)最大,则这个p 必使L(p)最大。
7-20
所以
为所求 p 的估计值.
最大似然估计法的基本思想:根据样本观测值,选择参数p的估计,使得样本在该样本值附近出现的可能性最大
一离散型随机变量的情况
最大似然估计的求法