コメント
大問3は線形モデルの推定量を評価する問題が出題されました。大問1、2と比べ難度/計算量ともにずっと易しい問題で大問3が簡単と見抜いて早めに着手できたかどうかが勝負の分かれ目になったのではと思います。
問1、2は非常に簡単な問題で問3も最後の不等式評価が少し煩雑ですが、適当な[math]x_i[/math]を決めて計算すると[math]V[b_2]\leq V[b_1]\leq V[b_0][/math]と予想できるのであとはそれを証明するだけです。
問題
- [math]Y_i[/math]: 確率変数
- [math]x_i[/math]: 正の定数
- [math]\beta[/math]: 未知パラメータ
- [math]\epsilon_i[/math]: 互いに独立な確率変数で[math]E[\epsilon_i]=0,\ V[\epsilon_i]=\sigma^2[/math]
とする時、以下の問に答えよ。
(出典:2016年受験時の問題冊子。問題文を一部略記。)
問1
[math]E[Y_i]=\beta x_i[/math]なので
[math]
\begin{eqnarray}
E[b_0] &=& E\left[\dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{Y_i}{x_i}}\right] \\
&=& \dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{E[Y_i]}{x_i}} \\
&=& \dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{\beta x_i}{x_i}} \\
&=& \beta
\end{eqnarray}
[/math]
であり、
[math]
\begin{eqnarray}
E[b_1] &=& E\left[\dfrac{\sum_{i=1}^{n}Y_i}{\sum_{i=1}^{n}x_i}\right] \\
&=& \dfrac{\sum_{i=1}^{n}E[Y_i]}{\sum_{i=1}^{n}x_i} \\
&=& \dfrac{\beta\sum_{i=1}^{n}x_i}{\sum_{i=1}^{n}x_i} \\
&=& \beta
\end{eqnarray}
[/math]
より[math]\beta_0,\ \beta_1[/math]はともに[math]\beta[/math]の不偏推定量である。
問2
[math]X=(x_1\ x_2\ \cdots x_n)^T[/math], [math]Y=(Y_1\ Y_2\ \cdots Y_n)^T[/math]とおくと正規方程式は
[math]
X^TX \beta = X^TY
[/math]
となりこれを解いて
[math]
\beta_2 = \dfrac{\sum_{i=1}^n x_iY_i}{\sum_{i=1}^nx_i^2}
[/math]
を得る。
問3
[math]V[Y_i]=\sigma^2[/math]なので[math]V[b_0][/math]は
[math]
\begin{eqnarray}
V[b_0] &=& V\left[\dfrac{1}{n}\displaystyle\sum_{i=1}^n{\dfrac{Y_i}{x_i}}\right] \\
&=& \dfrac{1}{n^2}\displaystyle\sum_{i=1}^n{\dfrac{V[Y_i]}{x_i^2}} \\
&=& \dfrac{1}{n^2}\displaystyle\sum_{i=1}^n{\dfrac{1}{x_i^2}}\sigma^2
\end{eqnarray}
[/math]
であり、[math]V[b_1][/math]は
[math]
\begin{eqnarray}
V[b_1] &=& V\left[\dfrac{\sum_{i=1}^{n}Y_i}{\sum_{i=1}^{n}x_i}\right] \\
&=& \dfrac{\sum_{i=1}^{n}V[Y_i]}{\left(\sum_{i=1}^{n}x_i\right)^2} \\
&=& \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2
\end{eqnarray}
[/math]
であり、[math]V[b_2][/math]は
[math]
\begin{eqnarray}
V[b_2] &=& V\left[\dfrac{\sum_{i=1}^n x_iY_i}{\sum_{i=1}^nx_i^2}\right] \\
&=& \dfrac{\sum_{i=1}^{n}x_i^2V[Y_i]}{\left(\sum_{i=1}^{n}x_i^2\right)^2} \\
&=& \dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\sigma^2
\end{eqnarray}
[/math]
となる。
[math]
\begin{eqnarray}
V[b_0]=\frac{5}{16}\sigma^2,\ V[b_1]=\frac{2}{9}\sigma^2,\ V[b_2]=\frac{1}{5}\sigma^2
\end{eqnarray}
[/math]
なので[math]V[b_2]\leq V[b_1]\leq V[b_0][/math]と予想できます。そこで、
- [math]V[b_2]\leq V[b_1][/math]
- [math]V[b_1]\leq V[b_0][/math]
を示します。
Cauchy-Schwarzの不等式より[math]\mathbf{a},\ \mathbf{b}\in\mathbb{R}^n[/math]に対して
[math]
\begin{eqnarray}
\left(\mathbf{a}\cdot \mathbf{b}\right)^2 \leq \|\mathbf{a}\|^2\|\mathbf{b}\|^2
\end{eqnarray}
[/math]
が成立する。ここで[math]\mathbf{a}=(1\ 1\ \cdots 1),\ \mathbf{b}=(x_1\ x_2\ \cdots x_n)[/math]として
[math]
\begin{eqnarray}
&& \left(\sum_{i=1}^n x_i\right)^2 \leq n\sum_{i=1}^nx_i^2 \\
&\Leftrightarrow& \dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\leq \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}
\end{eqnarray}
[/math]
なので
[math]
\begin{eqnarray}
V[b_2]&=&\dfrac{1}{\left(\sum_{i=1}^{n}x_i^2\right)}\sigma^2 \\
&\leq& \dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2=V[b_1]
\end{eqnarray}
[/math]
が成立する。なお、等号成立は[math]x_1= \dots = x_n[/math]の時である。
最後に[math]V[b_1]\leq V[b_0][/math]を示す。[math]f(x)[/math]が凸関数で[math]\lambda_i[/math]は[math]\sum_{i=1}^n\lambda_i=1[/math]を満たす正の定数とするとJensenの不等式より
[math]
f\left( \sum_{i=1}^n \lambda_i x_i\right)\leq \sum_{i=1}^n \lambda_i f(x_i)
[/math]
が成立する。ここで[math]f(x)=\frac{1}{x^2},\ \lambda_i=\frac{1}{n}[/math]とすると[math]f(x)[/math]は[math]x>0[/math]で凸関数なので
[math]
\begin{eqnarray}
\displaystyle &&\dfrac{1}{\left(\frac{1}{n}\sum_{i=1}^n x_i\right)^2} \leq \dfrac{1}{n}\sum_{i=1}^n \dfrac{1}{x_i^2}\\
&\Leftrightarrow& \dfrac{n}{\left(\sum_{i=1}^n x_i\right)^2} \leq \dfrac{1}{n^2}\sum_{i=1}^n \dfrac{1}{x_i^2}
\end{eqnarray}
[/math]
が成立し、これより
[math]
\begin{eqnarray}
V[b_1]&=&\dfrac{n}{\left(\sum_{i=1}^{n}x_i\right)^2}\sigma^2 \\
&\leq& \dfrac{1}{n^2}\sum_{i=1}^n \dfrac{1}{x_i^2}\sigma^2 = V[b_0]
\end{eqnarray}
[/math]
が成立する。また、[math]f(x)[/math]は[math]x > 0[/math]で狭義凸関数なので等号成立は[math]x_1 = \dots = x_n[/math]の時である。以上より
[math]
V[b_2]\leq V[b_1]\leq V[b_0]
[/math]
が成立し、等号成立はいずれも[math]x_1 = \dots = x_n[/math]の時である。
シリーズ記事
- 過去問と解答例
- 2016年(統計数理)大問1
- 2016年(統計数理)大問1 解答例
- 2016年(統計数理)大問2
- 2016年(統計数理)大問2 解答例
- 2016年(統計数理)大問3
- 2016年(統計数理)大問3 解答例(本記事)