メインメニューを開く

差分

ソフトマックス関数

248 バイト追加, 2022年9月13日 (火) 01:57
編集の要約なし
'''ソフトマックス関数'''(softmax function)とは、[[ロジスティック関数]]を[[多次元]]に[[一般化]]したもので、K次元の[[実数]][[ベクトル]](K個の[[実数]][[配列]])をK個の確率分布(0.0〜1.0)に変換し、かつその確率分布の合計が1.0になる[[関数]]のことである。の総称である。最終的な結果は「合計1.0」にはなるが、個々の値は実装により異なる。
「softargmax」や「正規化指数関数」などとも呼ばれる。
「正規化指数関数」という名称からもわかるように、「正規化指数関数」という名称からもわかるように[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。[[正規化関数]]をグラフにすると[[直線]]になるが、正規化指数関数は[[曲線]]になる。
[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。
数式
:<math>\sigma(\mathbf{z})_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}} </math>
C# で書くとこんな感じ。
<source lang="csharp">
float[] softmax(float[] z)