【統計検定1級過去問】2016年(統計数理)大問1 解答例

投稿者: | 2017-07-30

コメント

大問1は例年通りオーソドックスな数理統計の問題が出題されました。本質的には[math]\mathcal{N}(\log{\theta}, 1)[/math]に従うi.i.dな確率変数の[math]\theta[/math]の推定量を評価する問題になります。

問2, 3でモーメント母関数をうまく使えるかがポイントで問3までは解答したいところです。最後の問4は計算ごり押しでも解けますが、背景知識としてフィッシャー情報量、一様最小分散不偏推定量(クラメール・ラオの不等式)を知っていれば見通し良く解けるのではと思います。

問題

確率変数[math]X_1,\dots,X_n\sim\mathcal{N}(\mu, 1)[/math]は互いに独立であるとし([math]n>1[/math])、標本平均を[math]\bar{X}=\frac{1}{n}\sum_{i=1}^{n}X_i[/math]とする時、以下の問に答えよ。
なお、正規分布[math]\mathcal{N}(\mu, \sigma^2)[/math]の

  • 確率密度関数: [math]f(x)=\frac{1}{\sqrt{2\pi}\sigma}\exp\left[-\frac{(x-\mu)^2}{2\sigma^2}\right][/math]
  • モーメント母関数: [math]M_X(t)=E[e^{tX}]=\exp\left[\mu t + \frac{\sigma^2t^2}{2}\right][/math]

は既知として良い。

(出典:2016年受験時の問題冊子。問題文を一部略記。)

問1

[math]\theta=e^\mu[/math]とする。尤度[math]L(\theta)[/math]および最尤推定量[math]\hat{\theta}[/math]を求めよ。

確率変数[math]X_1,\dots,X_n[/math]が値[math]x_1,\dots,x_n[/math]を取る確率[math]L(\theta)[/math]は

[math]
\begin{eqnarray}
&&L(\theta)=\prod_{i=1}^n f(x_i)\\
&=&\dfrac{1}{(2\pi)^{n/2}}\exp\left[-\frac{1}{2}\sum_{i=1}^n(x_i-\log{\theta})^2\right]
\end{eqnarray}
[/math]

で与えられる。対数尤度[math]\log{L(\theta)}[/math]の微分

[math]\dfrac{d}{d\theta}\log L(\theta)=\dfrac{1}{\theta}\displaystyle\sum_{i=1}^n(x_i-\log{\theta})=0[/math]

より最尤推定量は[math]\hat{\theta}=e^{\bar{X}}[/math]である。

問2

[math]\hat{\theta}[/math]のバイアスを求めその正負を理由をつけて答えよ。また、[math]\tilde{\theta}=\exp\left[\bar{X}-\dfrac{1}{2n}\right][/math]は不偏推定量であることを示せ。

[math]\bar{X}\sim\mathcal{N}(\mu,\frac{1}{n})[/math]より[math]E[\hat{\theta}]=E[e^{\bar{X}}]=M_{\bar{X}}(1)=e^{\mu+\frac{1}{2n}}[/math]なので

[math]
\begin{eqnarray}
E[\hat{\theta}-\theta]&=&e^{\mu+\frac{1}{2n}}-e^\mu \\
&=&e^{\mu}(e^{\frac{1}{2n}}-1)>0
\end{eqnarray}
[/math]

より[math]\hat{\theta}[/math]のバイアスは正である。

また、

[math]
\begin{eqnarray}
E[\tilde{\theta}]&=&E\left[e^{\bar{X}}\right]e^{-\frac{1}{2n}} \\
&=&e^{\mu+\frac{1}{2n}}\cdot e^{-\frac{1}{2n}}=\theta
\end{eqnarray}
[/math]

なので[math]\tilde{\theta}[/math]は不偏推定量である。

問3

最尤推定量[math]\hat{\theta}[/math]の平均二乗誤差[math]MSE(\hat{\theta})=E\left[(\hat{\theta}-\theta)^2\right][/math]を求め、[math]\displaystyle\lim_{n\to\infty}MSE(\hat{\theta})=0[/math]を示せ。

[math]
\begin{eqnarray}
E[\hat{\theta}^2]&=&E[e^{2\bar{X}}]=M_{\bar{X}}(2) \\
&=&\exp\left[2\mu+\dfrac{2}{n}\right]=\theta^2e^{\frac{2}{n}}
\end{eqnarray}
[/math]

より

[math]
\begin{eqnarray}MSE(\hat{\theta})&=&E\left[(\hat{\theta}-\theta)^2\right] \\
&=&E[\hat{\theta}^2]-2\theta E[\hat{\theta}]+\theta^2 \\
&=&\theta^2(e^{\frac{2}{n}}-2e^{\frac{1}{2n}}+1)&
\end{eqnarray}
[/math]

を得る。これより[math]n\to\infty[/math]の時、[math]MSE(\hat{\theta})\to 0[/math]である。

問4

尤度[math]L(\theta)[/math]についてフィッシャー情報量[math]I(\theta)=E\left[\left\{\dfrac{d}{d\theta}\log L(\theta)\right\}^2\right][/math]を求めよ。また[math]V[\tilde{\theta}][/math]は[math]\dfrac{1}{I(\theta)}[/math]と一致するか答えよ。
[math]I(\theta)[/math]を直接計算することもできますが、[math]E\left[\left\{\dfrac{d}{d\theta}\log L(\theta)\right\}^2\right]=-E\left[\dfrac{d^2}{d\theta^2}\log L(\theta)\right][/math]を使うと計算が少し楽になります。

問1で求めた[math]\dfrac{d}{d\theta}\log L(\theta)[/math]をさらに[math]\theta[/math]で微分して

[math]
\begin{eqnarray}
&&\dfrac{d^2}{d\theta^2}\log L(\theta)\\
&=&-\dfrac{1}{\theta^2}\displaystyle\sum_{i=1}^n x_i+n\left(\dfrac{\log\theta}{\theta^2}-\dfrac{1}{\theta^2}\right) \\
&=&-\dfrac{n}{\theta^2}\left(\frac{1}{n}\sum_{i=1}^{n}x_i-\mu+1\right)
\end{eqnarray}
[/math]

より

[math]
\begin{eqnarray}
I(\theta)&=&-E\left[\dfrac{d^2}{d\theta^2}\log L(\theta)\right] \\
&=&\dfrac{n}{\theta^2}E\left[\bar{X}-\mu+1\right]=\dfrac{n}{\theta^2}
\end{eqnarray}
[/math]

となる。

次に[math]I(\theta)V[\tilde{\theta}][/math]の評価を行う[1]クラメール・ラオの不等式から[math]I(\theta)V[\tilde{\theta}]\geq … Continue reading。ここで[math]\tilde{\theta}[/math]は不偏推定量なので

[math]
\begin{eqnarray}
V[\tilde{\theta}]&=&E[\tilde{\theta}^2]-\theta^2 \\
&=&E[e^{2\bar{X}}]e^{-\frac{1}{n}}-\theta^2 \\
&=&\theta^2\left(e^{\frac{1}{n}}-1\right)
\end{eqnarray}
[/math]

となり

[math]I(\theta)V[\tilde{\theta}]=n\left(e^{\frac{1}{n}}-1\right)[/math]

を得る。さらに任意の[math]n[/math]について[math]e>\left(1+\frac{1}{n}\right)^n[/math]つまり[math]e^{\frac{1}{n}}>1+\frac{1}{n}[/math]なので

[math]I(\theta)V[\tilde{\theta}]>1[/math]

となる。以上より[math]V[\tilde{\theta}][/math]は[math]\dfrac{1}{I(\theta)}[/math]と一致しない。

シリーズ記事

脚注

脚注
1 クラメール・ラオの不等式から[math]I(\theta)V[\tilde{\theta}]\geq 1[/math]が成立します。等号が成立するか否かを調べることで[math]V[\tilde{\theta}][/math]と[math]\dfrac{1}{I(\theta)}[/math]が一致するかを調べます。

スポンサーリンク


コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です