シャノン＝ハートレーの定理

シャノン・ハートレーの定理：ノイズのある通信路における情報伝送の限界

シャノン・ハートレーの定理は、情報理論において中心的な役割を果たす定理です。この定理は、ガウスノイズ（正規分布するノイズ）が存在する理想的な連続アナログ通信路において、誤りなく転送できる情報の最大量、すなわち通信路容量を定量的に示しています。この定理は、1940年代にクロード・シャノンによって、ハリー・ナイキストやラルフ・ハートレーの先駆的な研究を基に確立されました。

歴史的背景：ナイキストとハートレーの貢献

シャノン・ハートレーの定理の基礎には、1920年代後半のナイキストとハートレーの研究があります。ナイキストは、電報通信における帯域幅と転送可能なパルス数の関係を示す「ナイキスト・レート」を定式化しました。これは、帯域幅 B の通信路では、1秒間に最大 2B 個のパルスを送信できることを意味します。

一方、ハートレーは、通信路で転送可能な情報の量を、信号の振幅レベル数と帯域幅、通信時間に比例するものとして定式化しました。「ハートレーの法則」と呼ばれるこの定式化は、信号の振幅レベル数を M とすると、転送レート R は R = 2B log₂(M) で表されます。ただし、ハートレーの法則ではノイズの影響は考慮されていませんでした。

シャノン・ハートレーの定理：ノイズの影響を考慮した通信路容量

シャノンは、ナイキストとハートレーの成果を拡張し、ノイズの影響を考慮した通信路容量の概念を確立しました。シャノン・ハートレーの定理は、帯域幅 B、信号電力 S、ノイズ電力 N を用いて、通信路容量 C を以下の式で表します。


C = B log₂(1 + S/N)


ここで、S/N は信号対雑音比を表します。この式は、通信路容量が帯域幅、信号電力、ノイズ電力の影響を受けることを示しています。S/N比が大きいほど、通信路容量は大きくなります。また、帯域幅が広いほど、通信路容量は大きくなります。

通信路符号化と通信路容量

シャノンは、通信路符号化定理も示しました。この定理は、通信路容量 C より小さいレート R で情報を転送する場合、誤り率を限りなくゼロに近づけることができる符号化方式が存在することを示しています。逆に、R > C の場合、誤り率は避けられません。

シャノン・ハートレーの定理の意味

シャノン・ハートレーの定理は、ノイズのある現実的な通信路において、情報伝送の限界を定量的に示しています。この定理によって、通信システムの設計者は、帯域幅、信号電力、ノイズ電力の制約の中で、最適なデータ転送レートを選択できるようになりました。

式の解釈と拡張

シャノン・ハートレーの定理の基本式は、ホワイトノイズ（周波数に依存しないノイズ）を仮定しています。しかし、周波数依存のノイズの場合にも、積分を用いて拡張された式が適用できます。また、S/N比が非常に大きい場合や小さい場合、近似式を用いて計算を簡略化することもできます。

応用例

シャノン・ハートレーの定理は、様々な通信システムの設計に用いられています。例えば、デジタル通信システムでは、この定理に基づいて、最適な変調方式や誤り訂正符号を選択することができます。また、無線通信システムでは、この定理を用いて、必要な送信電力を算出することができます。

まとめ

シャノン・ハートレーの定理は、情報理論における重要な成果であり、現代の通信システムの設計・開発に大きな影響を与えています。この定理は、ノイズの存在下における情報伝送の限界を明確に示し、通信システムの設計指針として広く利用されています。 ナイキストやハートレーの先駆的な研究とシャノンの革新的な理論の融合により、私たちは効率的な通信システムを構築することが可能になっています。

もう一度検索