通信路容量

通信路容量とは

通信路容量（または伝送路容量）は、電気工学、計算機科学、情報理論において、通信路が持つ情報伝送能力の上限を表す指標です。これは、特定の通信路を通してどれだけの情報をエラーなく確実に送れるかを示すもので、通信システムの設計や評価において非常に重要な概念となります。

情報理論における定義

この概念は、クロード・シャノンが確立した情報理論において、数学的なモデルとともに定義されました。通信路容量は、通信路の入力と出力の間の相互情報量を、入力分布に関して最大化したときの最大値として与えられます。具体的には、ある時間内に送信される信号（X）と受信される信号（Y）を確率変数として考え、通信路の特性を条件付き確率分布関数 p(Y|X) で記述します。このとき、XとYの同時分布 p(X,Y) は、p(Y|X) と X の周辺分布 p(X) によって決定されます。

相互情報量 I(X;Y) は、通信路を介して伝送できる情報量の尺度として用いられ、この相互情報量を最大化する入力分布を求めることで、通信路容量 C が定義されます。数式では、以下のように表されます。

math
C = \sup_{p_X} I(X;Y)


ここで、sup は上限を意味し、p_X は入力信号 X の分布を表します。

具体例

2元対称通信路

2元対称通信路は、入力されたビットが一定の確率で反転する通信路です。この通信路の容量は、エントロピー関数 H(p) を用いて C = 1 − H(p) と表されます。

2元消失通信路

2元消失通信路では、入力されたビットが一定の確率で失われる（消失する）通信路です。この通信路の容量は、消失確率 p を用いて C = 1 − p と表されます。

通信路符号化定理

通信路符号化定理は、通信路容量の重要性を示す定理です。この定理によると、任意の小さなエラー率で情報を伝送したい場合、そのレート（単位時間あたりの情報量）が通信路容量より小さければ、適切な符号化・復号化方法が存在します。逆に、レートが通信路容量を超えると、どれだけ工夫してもエラー率を小さくすることはできません。つまり、通信路容量は、通信路を介して情報が信頼性高く伝送できる限界を示していると言えます。

まとめ

通信路容量は、情報伝送の限界を示す基本的な概念であり、通信システムの設計、分析、評価において不可欠です。この容量を理解することで、より効率的で信頼性の高い通信システムを構築するための基盤となります。情報理論の発展とともに、通信路容量の概念は、現代の通信技術を支える重要な柱となっています。

参考文献

Cover, Thomas M.; Thomas, Joy A. (2006). Elements of information theory (Second ed.). Wiley-Interscience John Wiley & Sons.

関連項目

情報源
エンコード
冗長性
スループット
スペクトル効率

もう一度検索