コクランの定理(Cochran's Theorem)
コクランの定理は、
分散分析で使用される統計量の確率分布に関する重要な結果を示す理論です。この定理は、1934年にアメリカの統計学者
ウィリアム・ゲメル・コクランによって初めて発表されました。
概要
コクランの定理は、標準
正規分布に従うランダムベクトルや、自由度をもつ
カイ二乗分布の性質を扱います。具体的には、多変量
正規分布における平方和を異なる自由度を持つ独立した
カイ二乗分布へと分解できる条件を提供します。この理論は、
分散分析や線形モデルにおける統計的な検定において、非常に重要な役割を果たします。
まず、次のように標準正規変数のベクトルを定義します。
$$Z hicksim N_n(0, I_n)$$
ここで、$$I_n$$は同次
正規分布の単位行列です。次に、若干の対称的な実行列$$A_1, A_2, ext{...}, A_s$$を考え、それに基づいて新たに以下を定義します:
$$Q_k = Z^T A_k Z$$
この定理は、これらの$$Q_k$$が互いに独立であり、それぞれが
カイ二乗分布に従うという条件を提示します。すなわち、次のように表現されます。
- - $$Q_1, Q_2, ..., Q_s$$は独立であり、各$$Q_k$$は自由度$$n_k$$のカイ二乗分布に従う。
- - 特に、全体の平方和は各個別の平方和の和として表現可能です。
この構成は、幾何学的には直交射影行列の応用に関連しており、直交分解を通じて平方和を独立な要素に分解することが可能であることを示唆しています。
コクランの定理の詳細な応用の一例として、正規誤差を仮定した線形モデルが挙げられます。モデルは以下の形を持ちます。
$$Y = Xeta + ext{ε}$$
ここで、$$ ext{ε}$$は平均が0の
正規分布に従います。この場合、射影行列を用いることで平方和を直交的に分解することができます。まず、次のような射影行列を考えます:
- - $$P_1 = rac{1}{n} oldsymbol{1} oldsymbol{1}^T$$(すべての要素が1のベクトル)
- - $$P_X = X( X^T X)^{-1} X^T$$
これらを用いると、総平方和、回帰平方和、残差平方和はそれぞれ以下のように表すことができます:
- - 総平方和(中心化): $$ ext{SST} = Y^T(I_n - P_1)Y$$
- - 回帰平方和: $$ ext{SSR} = Y^T(P_X - P_1)Y$$
- - 残差平方和: $$ ext{SSE} = Y^T(I_n - P_X)Y$$
ここで、コクランの定理に基づくと、帰無仮説の下で$$rac{ ext{SSR}}{ heta^2}$$と$$rac{ ext{SSE}}{ heta^2}$$は独立した
カイ二乗分布に従います。これにより、
分散分析のF検定が成り立つ根拠が提供されます。
すなわち、F比は次のように定義されます:
$$F = rac{rac{ ext{SSR}}{
u_1}}{rac{ ext{SSE}}{
u_2}}$$
ここで、$$
u_1$$と$$
u_2$$は各分散の自由度です。コクランの定理により、これらの比がF分布に従うことが保証され、
分散分析における各種統計手法の基盤が築かれます。
まとめ
コクランの定理は、
分散分析と線形モデルの理解において重要な役割を果たしています。標準
正規分布の性質を活用してさまざまな平方和を分解し、独立した
カイ二乗分布に基づいた検定を可能にするこの理論は、統計学の分野で広く利用されています。