【統計検定1級過去問】2016年(統計数理)大問3 解答例

投稿者: | 2017-08-05

コメント

大問3は線形モデルの推定量を評価する問題が出題されました。大問1、2と比べ難度/計算量ともにずっと易しい問題で大問3が簡単と見抜いて早めに着手できたかどうかが勝負の分かれ目になったのではと思います。

問1、2は非常に簡単な問題で問3も最後の不等式評価が少し煩雑ですが、適当な[math]x_i[/math]を決めて計算すると[math]V[b_2]\leq V[b_1]\leq V[b_0][/math]と予想できるのであとはそれを証明するだけです。

問題

線形モデル[math]Y_i=\beta x_i+\epsilon_i\ (i=1,\dots,n)[/math]を考える。ここで

  • [math]Y_i[/math]: 確率変数
  • [math]x_i[/math]: 正の定数
  • [math]\beta[/math]: 未知パラメータ
  • [math]\epsilon_i[/math]: 互いに独立な確率変数で[math]E[\epsilon_i]=0,\ V[\epsilon_i]=\sigma^2[/math]

とする時、以下の問に答えよ。

(出典:2016年受験時の問題冊子。問題文を一部略記。)

問1

[math]b_0=\dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{Y_i}{x_i}},\ b_1=\dfrac{\sum_{i=1}^{n}Y_i}{\sum_{i=1}^{n}x_i}[/math]はそれぞれ[math]\beta[/math]の不偏推定量であることを示せ。

[math]E[Y_i]=\beta x_i[/math]なので

[math]
\begin{eqnarray}
E[b_0] &=& E\left[\dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{Y_i}{x_i}}\right] \\
&=& \dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{E[Y_i]}{x_i}} \\
&=& \dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{\beta x_i}{x_i}} \\
&=& \beta
\end{eqnarray}
[/math]

であり、

[math]
\begin{eqnarray}
E[b_1] &=& E\left[\dfrac{\sum_{i=1}^{n}Y_i}{\sum_{i=1}^{n}x_i}\right] \\
&=& \dfrac{\sum_{i=1}^{n}E[Y_i]}{\sum_{i=1}^{n}x_i} \\
&=& \dfrac{\beta\sum_{i=1}^{n}x_i}{\sum_{i=1}^{n}x_i} \\
&=& \beta
\end{eqnarray}
[/math]

より[math]\beta_0,\ \beta_1[/math]はともに[math]\beta[/math]の不偏推定量である。

問2

[math]\beta[/math]の最小二乗推定値[math]\beta_2[/math]および[math]E[\beta_2][/math]を求めよ。

[math]X=(x_1\ x_2\ \cdots x_n)^T[/math], [math]Y=(Y_1\ Y_2\ \cdots Y_n)^T[/math]とおくと正規方程式は

[math]
X^TX \beta = X^TY
[/math]

となりこれを解いて

[math]
\beta_2 = \dfrac{\sum_{i=1}^n x_iY_i}{\sum_{i=1}^nx_i^2}
[/math]

を得る。

問3

[math]V[\beta_0],\ V[\beta_1],\ V[\beta_2][/math]を求めその大小を比較せよ。

[math]V[Y_i]=\sigma^2[/math]なので[math]V[b_0][/math]は

[math]
\begin{eqnarray}
V[b_0] &=& V\left[\dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{Y_i}{x_i}}\right] \\
&=& \dfrac{1}{n^2}\displaystyle\sum_{i=1}^n{\dfrac{V[Y_i]}{x_i^2}} \\
&=& \dfrac{1}{n^2}\displaystyle\sum_{i=1}^n{\dfrac{1}{x_i^2}}\sigma^2
\end{eqnarray}
[/math]

であり、[math]V[b_1][/math]は

[math]
\begin{eqnarray}
V[b_1] &=& V\left[\dfrac{\sum_{i=1}^{n}Y_i}{\sum_{i=1}^{n}x_i}\right] \\
&=& \dfrac{\sum_{i=1}^{n}V[Y_i]}{\left(\sum_{i=1}^{n}x_i\right)^2} \\
&=& \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2
\end{eqnarray}
[/math]

であり、[math]V[b_2][/math]は

[math]
\begin{eqnarray}
V[b_2] &=& V\left[\dfrac{\sum_{i=1}^n x_iY_i}{\sum_{i=1}^nx_i^2}\right] \\
&=& \dfrac{\sum_{i=1}^{n}x_i^2V[Y_i]}{\left(\sum_{i=1}^{n}x_i^2\right)^2} \\
&=& \dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\sigma^2
\end{eqnarray}
[/math]

となる。

ここで、大小関係のあたりをつけるために[math]x_1=1,\ x_2=2[/math]とすると

[math]
\begin{eqnarray}
V[b_0]=\frac{5}{16}\sigma^2,\ V[b_1]=\frac{2}{9}\sigma^2,\ V[b_2]=\frac{1}{5}\sigma^2
\end{eqnarray}
[/math]

なので[math]V[b_2]\leq V[b_1]\leq V[b_0][/math]と予想できます。そこで、

  • [math]V[b_2]\leq V[b_1][/math]
  • [math]V[b_1]\leq V[b_0][/math]

を示します。

Cauchy-Schwarzの不等式より[math]\mathbf{a},\ \mathbf{b}\in\mathbb{R}^n[/math]に対して

[math]
\begin{eqnarray}
\left(\mathbf{a}\cdot \mathbf{b}\right)^2 \leq \|\mathbf{a}\|^2\|\mathbf{b}\|^2
\end{eqnarray}
[/math]

が成立する。ここで[math]\mathbf{a}=(1\ 1\ \cdots 1),\ \mathbf{b}=(x_1\ x_2\ \cdots x_n)[/math]として

[math]
\begin{eqnarray}
&& \left(\sum_{i=1}^n x_i\right)^2 \leq n\sum_{i=1}^nx_i^2 \\
&\Leftrightarrow& \dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\leq \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}
\end{eqnarray}
[/math]

なので

[math]
\begin{eqnarray}
V[b_2]&=&\dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\sigma^2 \\
&\leq& \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2=V[b_1]
\end{eqnarray}
[/math]

が成立する。なお、等号成立は[math]x_1= \dots = x_n[/math]の時である。

最後に[math]V[b_1]\leq V[b_0][/math]を示す。[math]f(x)[/math]が凸関数で[math]\lambda_i[/math]は[math]\sum_{i=1}^n\lambda_i=1[/math]を満たす正の定数とするとJensenの不等式より

[math]
f\left( \sum_{i=1}^n \lambda_i x_i\right)\leq \sum_{i=1}^n \lambda_i f(x_i)
[/math]

が成立する。ここで[math]f(x)=\frac{1}{x^2},\ \lambda_i=\frac{1}{n}[/math]とすると[math]f(x)[/math]は[math]x>0[/math]で凸関数なので

[math]
\begin{eqnarray}
\displaystyle &&\dfrac{1}{\left(\frac{1}{n}\sum_{i=1}^n x_i\right)^2} \leq \dfrac{1}{n}\sum_{i=1}^n \dfrac{1}{x_i^2}\\
&\Leftrightarrow& \dfrac{n}{\left(\sum_{i=1}^n x_i\right)^2} \leq \dfrac{1}{n^2}\sum_{i=1}^n \dfrac{1}{x_i^2}
\end{eqnarray}
[/math]

が成立し、これより

[math]
\begin{eqnarray}
V[b_1]&=&\dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2 \\
&\leq& \dfrac{1}{n^2}\sum_{i=1}^n \dfrac{1}{x_i^2}\sigma^2 = V[b_0]
\end{eqnarray}
[/math]

が成立する。また、[math]f(x)[/math]は[math]x > 0[/math]で狭義凸関数なので等号成立は[math]x_1 = \dots = x_n[/math]の時である。以上より

[math]
V[b_2]\leq V[b_1]\leq V[b_0]
[/math]

が成立し、等号成立はいずれも[math]x_1 = \dots = x_n[/math]の時である。

シリーズ記事

スポンサーリンク


コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です