参数估计:最大似然估计 (Maximum Likelihood Method – MLM)

上一篇文章里, 我们大概了解了基本的统计建模。这一篇文章我们来谈谈参数估计。

大家熟知的概率分布的类型,比如说泊松分布里有参数, \lambda ;伽玛分布里有参数, \alpha 和 \lambda 。 最开始大家做题里,这些参数都是已知的,可当我们想自己做统计建模时,我们又该如何得到这些参数?

答案就是:参数估计。参数估计的方法有很多,今天和大家分享其中一种:最大似然估计 (Maximum Likelihood Method – MLM)。

最大似然估计的原理是根据概率密度函数或质量函数,计算最高概率产生观察数据的估量参数。

公式也很简单:

L(\theta) = \prod_{n}^{i=1}\ p_{X} (x_{i};\theta) (质量函数)

L(\theta) = \prod_{n}^{i=1}\ f_{Y} (y_{i};\theta) (概率密度函数)

这里 \theta 是未知参数。

通过MLM得到的估计参数的值会将 L(\theta) 最大化,即 L(\hat{\theta}_{m}) \geq L(\theta)

我们只需要找出 L(\theta)\theta 的一阶导数,就可以得到 \hat{\theta}_{m} ,这个样本对应的估量参数。

接下来我们看一下两道简单的例题来了解MLM是怎么应用的。

1) 从伽马分布中提取n个随机样本,伽玛分布的参数 \alpha 是已知的。求 \lambda 的最大似然估计量。

伽玛分布的概率密度函数:

2) 一个随机变量X有帕累托分布,其概率密度函数为:

\alpha > 1

从帕累托分布中提取n个随机样本,求:

a) \alpha 的参数估计,用MLM。

b) 从帕累托分布中,取得一个随机样本,其中有5个观察数据,分别为:1.7,2.6,1.4,1.8,1.1。根据a)中得到的参数估计来计算这个样本的参数 \alpha

a)

b) 根据观察数据得出

得到了估量参数就可以放入自己的模型里来预测其他的值。估量真的是经济、统计里特别重要的一个概念呢,特别尊重各位想出来估量方法的学者们。

作者的话:

好啦今天就说道这里啦。最近好久没更真的特别抱歉,学校事情有点多,以后会督促自己勤快更新的~

这里还给大家带来了一个好消息~

为了能将我们喜爱的经济知识分享给更多的人,我们的微信公众号要上线啦! ! !

里面会有更新鲜、有趣的文章,让更多的人可以愉快地了解经济和相关实事。

这个礼拜北美的星期三,北京时间的星期四,请关注 "Lucy的经济日记”!期待与你相见!

(快来找我们玩! ! !

来源:知乎 www.zhihu.com

作者:Lucia

【知乎日报】千万用户的选择,做朋友圈里的新鲜事分享大牛。
点击下载