確率変数[math]X[/math]に対して関数[math]M_X(t)=E\left[e^{tX}\right][/math]をモーメント母関数(moment generating function)と呼びます。
その名前からも分かるとおりモーメント[math]E[X^n][/math]と密接な関係があるのはもちろん確率密度関数を求める際や確率変数列[math]\left\{X_n\right\}[/math]が収束する分布を解析する際にも活躍します。
統計検定でも
- モーメント母関数を求める問題: 2016年理工学 大問4など
- モーメント母関数を使って平均、分散を求める問題: 2016年理工学 大問4など
- モーメント[math]E[X^n][/math]を求める問題: 2015年統計数理 大問1など
- 確率密度関数を求める問題: 2016年統計数理 大問2など
など毎年のように出題されており頻出テーマと言えます。
本記事では「モーメント母関数の求め方」を中心に説明します。モーメント母関数を使った応用についても別記事
にしているので合わせてご参照ください。
モーメント母関数の定義と性質
改めてモーメント母関数を定義すると以下になります。
なお、[math]X[/math]が従う確率分布によっては平均[math]E\left[e^{tX}\right][/math]が存在しないケース[1][math]X[/math]がコーシー分布、F分布、t分布などに従う場合はモーメント母関数が存在しないことが知られています。がありますが、正規分布、ガンマ分布、ポアソン分布、二項分布など多くの有名な確率分布に対してモーメント母関数が存在することが知られています。
「モーメント母関数」という名前の由来となっているモーメント母関数とモーメント[math]E\left[X^n\right][/math]と関係づける以下の結果が知られています。
なお、[math]M^{(n)}_X(0)[/math]は[math]M_X(t)[/math]の[math]n[/math]階導関数に[math]t=0[/math]を代入したものを表します。
つまり、愚直に計算すると煩雑になりやすいモーメント[math]E\left[X^n\right][/math]を
- モーメント母関数の算出
- モーメント母関数[math]M_X(t)[/math]の[math]t=0[/math]における[math]n[/math]次微分係数の算出
で求めることができます。もちろん、モーメント母関数の算出自体が煩雑だとあまり意味がない[2]実際、煩雑な計算になりやすいので効率的な計算方法を知っているかで差がつきやすいテーマだと思います。のでモーメント母関数の効率的な算出方法を見てみましょう。
確率変数の線形変換とモーメント母関数
モーメント母関数を計算する際の有用な公式として線形変換した確率変数のモーメント母関数を求める公式があります。
例えば標準正規分布など基準となる分布のモーメント母関数を求めておけば、この公式から一般の正規分布のモーメント母関数も求まることがわかります。
では、実際にこの公式を使って正規分布のモーメント母関数を求めてみます。
正規分布のモーメント母関数
一般の正規分布[math]X\sim \mathcal{N}(\mu,\sigma^2)[/math]は標準正規分布[math]Z\sim \mathcal{N}(0,1)[/math]を用いて[math]X=\sigma Z + \mu[/math]と線形変換で書くことができるのでまずは標準正規分布のモーメント母関数を求めます。確率密度関数は[math]f_Z(z)=\dfrac{1}{\sqrt{2\pi}}e^{-\frac{z^2}{2}}[/math]なので
[math]\begin{eqnarray}M_Z(t)&=&E\left[e^{tZ}\right]\\
&=&\displaystyle\int_{-\infty}^{\infty}e^{tz}f(z)dz\\
&=&\displaystyle\int_{-\infty}^{\infty}\dfrac{1}{\sqrt{2\pi}}e^{-\frac{z^2-2tz}{2}}dz
\end{eqnarray}[/math]
となります。ここで定石「平均(解法1. 定義に基づいて計算)」に従い別の正規分布の確率密度関数の積分に帰着します。具体的には正規分布の確率密度関数の形にするため[math]z^2-2tz=(z-t)^2-t^2[/math]と平方完成すると以下になります。
[math]\begin{eqnarray}M_Z(t)
&=&\displaystyle\int_{-\infty}^{\infty}\dfrac{1}{\sqrt{2\pi}}e^{-\frac{(z-t)^2}{2}+\frac{t^2}{2}}dz \\
&=&e^{\frac{t^2}{2}}\displaystyle\int_{-\infty}^{\infty}\dfrac{1}{\sqrt{2\pi}}e^{-\frac{(z-t)^2}{2}}dz
\end{eqnarray}[/math]
被積分関数は平均[math]t[/math], 分散[math]1[/math]の正規分布の確率密度関数より積分値は1になり
[math]M_Z(t)=e^{\frac{t^2}{2}}[/math]
を得ます。これより一般の正規分布[math]X\sim \mathcal{N}(\mu,\sigma^2)[/math]のモーメント母関数は
[math]M_X(t)=e^{\mu t}M_Z(\sigma t)=e^{\mu t+\frac{\sigma^2t^2}{2}}[/math]
になります。