推定量の偏り

推定量の偏りについて

概要

推定量の偏りとは、統計学で用いられる重要な概念であり、特定の推定量が示す期待値と、実際に求めたい対象の真の値との差を指します。この偏りが０である推定量は「不偏推定量」と呼ばれ、統計における重要な評価基準となります。この記事では、偏りの概念とそれが実用統計においてどのように扱われるかについて掘り下げていきます。

定義と性質

推定量の偏りは、通常、以下の数式で定義されます。

$$
Bias(\hat{\theta}, \theta) = E[\hat{\theta}] - \theta
$$

ここで、$\hat{\theta}$は推定量で、$\theta$はその真のパラメータを示します。推定量が不偏であるとは、この偏りがいかなる場合においてもゼロであることを意味します。したがって、すべての可能な真のパラメータに対して、期待値が真の値に一致している必要があります。

不偏性は、データの変換に対して保証されるわけではなく、特に非線形の変換の場合、不偏性が失われることがあります。しかし、線形なデータ変換については、不偏性が保存される特性があります。

偏りのある推定量の利用

実際の統計分析では、偏りのある推定量を使うことがしばしばあります。これは次のような理由によります。

1. 計算の容易さ: 偏りのある推定量は、計算が簡単であることが多く、特にデータセットが大きい場合には、計算負担を軽減します。
2. 平均二乗誤差の最小化: 時には、偏りのある推定量が不偏推定量に比べて平均二乗誤差が小さくなる場合があります。
3. 不偏推定量の存在条件: 母集団に関する十分な情報がない場合、不偏推定量が存在しないことがあります。そのため、偏りのある推定量を利用することが現実的になります。

具体例

標本分散の推定

標本分散の計算において、簡易な推定量は分散を過小評価する傾向があります。このため、個々のデータ値が真の分散に対して偏った推定値を持つことがあります。実際、不偏推定量はベッセル補正を必要とすることが多いです。

標本平均や標本共分散を使った場合、特に標本共分散はセンサーリングを通じて真の分散に対して偏りを持つことが示されます。他方で、標本平均は母集団の平均に対して不偏な推定量となります。

最尤推定量

ポアソン分布に基づく最尤推定量は、しばしば最良の推定量とみなされます。特に、ポアソン分布の母数$λ$に基づいて、数量を推定する際には、最尤推定量が優れたパフォーマンスを発揮します。これは、観測されたデータに基づく確率解析で平均二乗誤差が小さく、偏りのない推定量よりも実用的であるからです。

偏り、分散と平均二乗誤差

偏りが推定量の期待値と真の値のずれを評価する一方で、有限標本からの推定量は、その標本に含まれるランダム性によって異なるずれを生じます。この2つの差異を反映する指標が平均二乗誤差(MSE)です。

$$
MSE(\hat{\theta}) = E[(\hat{\theta} - \theta)^{2}] = (Bias(\hat{\theta}, \theta))^{2} + Var(\hat{\theta})
$$

このように、推定量の選択においては、偏りと分散のトレードオフを考慮することが非常に重要です。これは、偏りを最小化しつつ、分散を適正に管理することによって、より良い統計推定を行う手助けとなります。

最後に

推定量の偏りは、統計学において重要な役割を果たします。正確な分析と意思決定には、偏りを理解し適切に活用することが不可欠です。そのため、統計を用いる際には、常に偏りの存在を念頭に置き、どの推定量を使用するかを慎重に検討する必要があります。

もう一度検索