← 返回

茆诗松统计学核心速通讲义 - 6.3最大似然估计与EM算法 - 问题3

版权声明:本讲义为Knowecon制作,受版权保护。未经授权,禁止复制、传播。仅供Knowecon小小班学员学习使用。

问题 设总体概率函数如下, $x_1,x_2,\cdots,x_n$是样本,试求未知参数的最大似然估计. 1. $p(x;\theta)=\frac{1}{2\theta}e^{-|x|/\theta}, \theta>0$; 2. $p(x;\theta)=1, \theta-1/2; 3. $p(x;\theta_1,\theta_2)=\frac{1}{\theta_2-\theta_1}, \theta_1. ## 答案 (1) 概率密度函数(pdf)如下:
$$ p(x; \theta) = \frac{1}{2\theta} e^{- \frac{|x|}{\theta}}, \quad \theta > 0. $$
给定样本$x_1, x_2, \dots, x_n$,似然函数为:
$$ L(\theta) = \prod_{i=1}^{n} p(x_i; \theta) = \left( \frac{1}{2\theta} \right)^n e^{ - \frac{ \sum_{i=1}^{n} |x_i| }{ \theta } }. $$
对似然函数取自然对数,得到对数似然函数:
$$ \ln L(\theta) = - n \ln 2\theta - \frac{ \sum_{i=1}^{n} |x_i| }{ \theta } = - n \ln 2 - n \ln \theta - \frac{ S }{ \theta }, $$
其中$S = \sum_{i=1}^{n} |x_i|$。 为求$\theta$的最大似然估计量(MLE),我们对$\ln L(\theta)$求关于$\theta$的导数并令其为零:
$$ \frac{ \partial \ln L(\theta) }{ \partial \theta } = - \frac{ n }{ \theta } + \frac{ S }{ \theta^2 } = 0. $$
解出$\theta$: $$ - \frac{ n }{ \theta } + \frac{ S

Content truncated. Please enter passkey to view full content.

Knowecon Chat

$