コメント
大問1は例年通りオーソドックスな数理統計の問題が出題されました。本質的には[math]\mathcal{N}(\log{\theta}, 1)[/math]に従うi.i.dな確率変数の[math]\theta[/math]の推定量を評価する問題になります。
問2, 3でモーメント母関数をうまく使えるかがポイントで問3までは解答したいところです。最後の問4は計算ごり押しでも解けますが、背景知識としてフィッシャー情報量、一様最小分散不偏推定量(クラメール・ラオの不等式)を知っていれば見通し良く解けるのではと思います。
問題
なお、正規分布[math]\mathcal{N}(\mu, \sigma^2)[/math]の
- 確率密度関数: [math]f(x)=\frac{1}{\sqrt{2\pi}\sigma}\exp\left[-\frac{(x-\mu)^2}{2\sigma^2}\right][/math]
- モーメント母関数: [math]M_X(t)=E[e^{tX}]=\exp\left[\mu t + \frac{\sigma^2t^2}{2}\right][/math]
は既知として良い。
(出典:2016年受験時の問題冊子。問題文を一部略記。)
問1
確率変数[math]X_1,\dots,X_n[/math]が値[math]x_1,\dots,x_n[/math]を取る確率[math]L(\theta)[/math]は
[math]
\begin{eqnarray}
&&L(\theta)=\prod_{i=1}^n f(x_i)\\
&=&\dfrac{1}{(2\pi)^{n/2}}\exp\left[-\frac{1}{2}\sum_{i=1}^n(x_i-\log{\theta})^2\right]
\end{eqnarray}
[/math]
で与えられる。対数尤度[math]\log{L(\theta)}[/math]の微分
[math]\dfrac{d}{d\theta}\log L(\theta)=\dfrac{1}{\theta}\displaystyle\sum_{i=1}^n(x_i-\log{\theta})=0[/math]
より最尤推定量は[math]\hat{\theta}=e^{\bar{X}}[/math]である。
問2
[math]\bar{X}\sim\mathcal{N}(\mu,\frac{1}{n})[/math]より[math]E[\hat{\theta}]=E[e^{\bar{X}}]=M_{\bar{X}}(1)=e^{\mu+\frac{1}{2n}}[/math]なので
[math]
\begin{eqnarray}
E[\hat{\theta}-\theta]&=&e^{\mu+\frac{1}{2n}}-e^\mu \\
&=&e^{\mu}(e^{\frac{1}{2n}}-1)>0
\end{eqnarray}
[/math]
より[math]\hat{\theta}[/math]のバイアスは正である。
また、
[math]
\begin{eqnarray}
E[\tilde{\theta}]&=&E\left[e^{\bar{X}}\right]e^{-\frac{1}{2n}} \\
&=&e^{\mu+\frac{1}{2n}}\cdot e^{-\frac{1}{2n}}=\theta
\end{eqnarray}
[/math]
なので[math]\tilde{\theta}[/math]は不偏推定量である。
問3
[math]
\begin{eqnarray}
E[\hat{\theta}^2]&=&E[e^{2\bar{X}}]=M_{\bar{X}}(2) \\
&=&\exp\left[2\mu+\dfrac{2}{n}\right]=\theta^2e^{\frac{2}{n}}
\end{eqnarray}
[/math]
より
[math]
\begin{eqnarray}MSE(\hat{\theta})&=&E\left[(\hat{\theta}-\theta)^2\right] \\
&=&E[\hat{\theta}^2]-2\theta E[\hat{\theta}]+\theta^2 \\
&=&\theta^2(e^{\frac{2}{n}}-2e^{\frac{1}{2n}}+1)&
\end{eqnarray}
[/math]
を得る。これより[math]n\to\infty[/math]の時、[math]MSE(\hat{\theta})\to 0[/math]である。
問4
問1で求めた[math]\dfrac{d}{d\theta}\log L(\theta)[/math]をさらに[math]\theta[/math]で微分して
[math]
\begin{eqnarray}
&&\dfrac{d^2}{d\theta^2}\log L(\theta)\\
&=&-\dfrac{1}{\theta^2}\displaystyle\sum_{i=1}^n x_i+n\left(\dfrac{\log\theta}{\theta^2}-\dfrac{1}{\theta^2}\right) \\
&=&-\dfrac{n}{\theta^2}\left(\frac{1}{n}\sum_{i=1}^{n}x_i-\mu+1\right)
\end{eqnarray}
[/math]
より
[math]
\begin{eqnarray}
I(\theta)&=&-E\left[\dfrac{d^2}{d\theta^2}\log L(\theta)\right] \\
&=&\dfrac{n}{\theta^2}E\left[\bar{X}-\mu+1\right]=\dfrac{n}{\theta^2}
\end{eqnarray}
[/math]
となる。
次に[math]I(\theta)V[\tilde{\theta}][/math]の評価を行う[1]クラメール・ラオの不等式から[math]I(\theta)V[\tilde{\theta}]\geq … Continue reading。ここで[math]\tilde{\theta}[/math]は不偏推定量なので
[math]
\begin{eqnarray}
V[\tilde{\theta}]&=&E[\tilde{\theta}^2]-\theta^2 \\
&=&E[e^{2\bar{X}}]e^{-\frac{1}{n}}-\theta^2 \\
&=&\theta^2\left(e^{\frac{1}{n}}-1\right)
\end{eqnarray}
[/math]
となり
[math]I(\theta)V[\tilde{\theta}]=n\left(e^{\frac{1}{n}}-1\right)[/math]
を得る。さらに任意の[math]n[/math]について[math]e>\left(1+\frac{1}{n}\right)^n[/math]つまり[math]e^{\frac{1}{n}}>1+\frac{1}{n}[/math]なので
[math]I(\theta)V[\tilde{\theta}]>1[/math]
となる。以上より[math]V[\tilde{\theta}][/math]は[math]\dfrac{1}{I(\theta)}[/math]と一致しない。
シリーズ記事
- 過去問と解答例
- 2016年(統計数理)大問1
- 2016年(統計数理)大問1 解答例(本記事)
- 2016年(統計数理)大問2
- 2016年(統計数理)大問2 解答例
- 2016年(統計数理)大問3
- 2016年(統計数理)大問3 解答例
脚注
↑1 | クラメール・ラオの不等式から[math]I(\theta)V[\tilde{\theta}]\geq 1[/math]が成立します。等号が成立するか否かを調べることで[math]V[\tilde{\theta}][/math]と[math]\dfrac{1}{I(\theta)}[/math]が一致するかを調べます。 |
---|