投稿者「starpentagon」のアーカイブ

重回帰モデルの予測区間

誤差項が独立同一な正規分布に従う場合、「回帰係数の確率分布」の結果から予測区間(Prediction Interval)を構成することができます。 なお、予測区間の意味や解釈の仕方、信頼区間との違いがややこしく誤解しやす… 続きを読む »


重回帰モデルの信頼区間

誤差項が独立同一な正規分布に従う場合、「回帰係数の確率分布」の結果から信頼区間(Confidence Interval)を構成することができます。 なお、信頼区間の意味や解釈の仕方、予測区間との違いがややこしく誤解しやす… 続きを読む »


重回帰モデルでの回帰係数の有意性検定

誤差項が独立同一な正規分布に従う場合、「回帰係数の確率分布」で見たように最小二乗推定量[math]\boldsymbol{\hat{\beta}}[/math]と誤差項の分散[math]\sigma^2[/math]の不… 続きを読む »


重回帰モデルでの「回帰係数/誤差分散の確率分布」の導出

誤差項が独立同一な正規分布に従う場合 最小二乗推定量[math]\boldsymbol{\hat{\beta}}[/math]が正規分布に従う 分散の不偏推定量[math]S^2[/math]に対し[math](N-P-… 続きを読む »


重回帰モデルの最尤推定量と誤差分散の不偏推定量

ここからは誤差項が正規分布に従うモデルを考えます。 [math] \begin{eqnarray} 
Y_i &=& \beta_0 + \beta_1 x_1 + \cdots + \beta_P … 続きを読む »


ガウス・マルコフの定理:重回帰モデルでの証明

今までは学習データ[math](x_{i,1},\ x_{i,2},\dots,\ x_{i,P},\ y_i)[/math]に確率的な仮定を置かず回帰超平面の当てはめを考えましたが、ここからは確率的な誤差項を含むモデル… 続きを読む »


重回帰モデルと決定係数の関係

重回帰モデルでも単回帰モデルと同様に決定係数[math]D[/math]と相関係数[math]\rho[/math]の関係 [math] 
D = \rho^2 [/math] を導くことができます。 重回帰モデル 重回… 続きを読む »


幾何学でみる重回帰の性質

重回帰の各種性質の多くは行列、ベクトル計算で示すことできます。ただ、計算手順だけを追っても性質が成立する「仕組み」や「背景」を理解しづらいです。ここでは重回帰を幾何的に解釈しながら基本的な性質として 射影による回帰係数の… 続きを読む »


重回帰の考え方と基本的な性質

単回帰では説明変数が1つでしたが、説明変数を複数に拡張したモデルが重回帰(multiple linear regression)です。ここでは重回帰の考え方と基本的な性質として 回帰係数の導出 回帰超平面の性質 計算量 … 続きを読む »


単回帰モデルの予測区間

誤差項が独立同一な正規分布に従う場合、「単回帰係数が従う確率分布」の結果から予測区間(Prediction Interval)を構成することができます。 よく「信頼区間」と混同されるので違いに注意しながら説明していきます… 続きを読む »