シグモイド関数

シグモイド関数の概要

シグモイド関数とは、数学的に定義された実数値関数で、特に生物の神経細胞の特性をモデル化するために用いられます。この関数は、主に学習アルゴリズムや人工ニューラルネットワークにおいて活性化関数として利用され、データの正規化や分類を行う際に重要な役割を果たします。

定義

シグモイド関数は次のように定義されます：

$$
ς_a(x) = \frac{1}{1 + e^{-ax}} = \frac{\tanh(ax/2) + 1}{2}
$$

ここで、$a$ はゲインと呼ばれ、関数の傾きを調整する役割を果たします。特に、ゲインが1のとき、これを標準シグモイド関数と呼びます。標準シグモイド関数は次のように表現されます：

$$
ς_1(x) = \frac{1}{1 + e^{-x}} = \frac{\tanh(x/2) + 1}{2}
$$

命名

「シグモイド」という名称は、ギリシャ文字のシグマに似た曲線の形状に由来しています。この曲線は多くの関数（例えば、累積正規分布関数やゴンペルツ関数など）と似た特性を持つため、シグモイド曲線と呼ばれることもあります。シグモイド関数はロジット関数の逆関数でもあり、統計解析に用いられる際には expit 関数としても知られています。

特性

シグモイド関数は、$(-rac{∞}{1}, ∞)$ の範囲から $(0, 1)$ への単調増加連続関数として特性を持ち、一つの変曲点を有しています。具体的には：

• - $y = 0$ と $y = 1$ を漸近線とし、
• - $x = 0$ の際に関数値は $rac{1}{2}$ になります。

さらに、シグモイド関数は以下の性質を持ちます：

• - 対称性：$ς_a(-x) = 1 - ς_a(x)$
• - 逆関数：$ς_a^{-1}(y) = rac{1}{a} ext{logit} y = rac{1}{a} ext{ln}igg(rac{y}{1 - y}igg)$

導関数

シグモイド関数の導関数は、次のように表されます：

$$
ς_a'(x) = a \cdot ς_a(x)(1 - ς_a(x))
$$

この性質から、シグモイド関数はバックプロパゲーションなどの微分計算に非常に適しています。

他の関数との関係

シグモイド関数は双曲線正接関数（tanh）とも関連があり、以下のように表現することも可能です：

$$
ς_a(x) = \frac{\tanh(ax/2) + 1}{2}
$$

また、ロジスティック関数にも関連しており、特定のパラメータ設定の下で対応します。

応用

シグモイド関数は、特に機械学習、特にニューラルネットワークの活性化関数として使用されることが多いです。微分が容易で、分類タスクにおいて非常に有効な特性を持っています。この関数の多次元版は、ソフトマックス関数と呼ばれます。さまざまな分野で幅広く利用され、データ解析に欠かせないツールとなっています。

参考文献

• - 高校数学の美しい物語『シグモイド関数の意味と簡単な性質』にて、シグモイド関数に関するさらなる情報が提供されています。

もう一度検索