ソフトマックス関数 - 版の履歴

2022年9月13日 (火) 01:57にAdministratorによる

2022-09-13T01:57:19Z

← 古い版		2022年9月13日 (火) 01:57時点における版
2行目:		2行目:

	「softargmax」や「正規化指数関数」などとも呼ばれる。		「softargmax」や「正規化指数関数」などとも呼ばれる。
	~~「正規化指数関数」という名称からもわかるように、~~[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。[[正規化関数]]をグラフにすると[[直線]]になるが、正規化指数関数は[[曲線]]になる。
			「正規化指数関数」という名称からもわかるように[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。[[正規化関数]]をグラフにすると[[直線]]になるが、正規化指数関数は[[曲線]]になる。

	[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。		[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。

2022年9月13日 (火) 01:57にAdministratorによる

2022-09-13T01:57:03Z

← 古い版		2022年9月13日 (火) 01:57時点における版
1行目:		1行目:
	'''ソフトマックス関数'''（softmax function）とは、[[ロジスティック関数]]を[[多次元]]に[[一般化]]したもので、K次元の[[実数]][[ベクトル]]（K個の[[実数]][[配列]]）をK個の確率分布（0.0〜1.0）に変換し、かつその確率分布の合計が1.0になる[[関数]]~~のことである。~~		'''ソフトマックス関数'''（softmax function）とは、[[ロジスティック関数]]を[[多次元]]に[[一般化]]したもので、K次元の[[実数]][[ベクトル]]（K個の[[実数]][[配列]]）をK個の確率分布（0.0〜1.0）に変換し、かつその確率分布の合計が1.0になる[[関数]]の総称である。最終的な結果は「合計1.0」にはなるが、個々の値は実装により異なる。

	「softargmax」や「正規化指数関数」などとも呼ばれる。		「softargmax」や「正規化指数関数」などとも呼ばれる。
			「正規化指数関数」という名称からもわかるように、[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。[[正規化関数]]をグラフにすると[[直線]]になるが、正規化指数関数は[[曲線]]になる。
	「正規化指数関数」という名称からもわかるように、[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。

	[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。		[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。

2022年9月13日 (火) 01:47にAdministratorによる

2022-09-13T01:47:00Z

← 古い版		2022年9月13日 (火) 01:47時点における版
7行目:		7行目:
	[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。		[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。

			数式
	:<math>\sigma(\mathbf{z})_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}} </math>		:<math>\sigma(\mathbf{z})_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}} </math>

			C# で書くとこんな感じ。
	<source lang="csharp">		<source lang="csharp">
	float[] softmax(float[] z)		float[] softmax(float[] z)

2022年9月13日 (火) 01:46にAdministratorによる

2022-09-13T01:46:20Z

← 古い版		2022年9月13日 (火) 01:46時点における版
6行目:		6行目:

	[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。		[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。

			:<math>\sigma(\mathbf{z})_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}} </math>

			<source lang="csharp">
			float[] softmax(float[] z)
			{
			var exp = z.Select(System.MathF.Exp);
			var sum_exp = exp.Sum();
			var ret = exp.Select(j => j / sum_exp);
			return ret.ToArray();
			}

			// test
			var a = new[] { 1.0f, 2.0f, 3.0f, 4.0f, 1.0f, 2.0f, 3.0f };
			var b = softmax(a);
			Console.WriteLine(String.Join(", ", b));

			</source>

			== 関連項目 ==
			* [[シグモイド関数]]

			[[category: 算数]]

Administrator: ページの作成:「'''ソフトマックス関数'''（softmax function）とは、ロジスティック関数を多次元に一般化したもので、K次元の実数ベ…」

2022-09-13T01:34:38Z

ページの作成:「'''ソフトマックス関数'''（softmax function）とは、ロジスティック関数を多次元に一般化したもので、K次元の実数ベ…」

新規ページ

'''ソフトマックス関数'''（softmax function）とは、[[ロジスティック関数]]を[[多次元]]に[[一般化]]したもので、K次元の[[実数]][[ベクトル]]（K個の[[実数]][[配列]]）をK個の確率分布（0.0〜1.0）に変換し、かつその確率分布の合計が1.0になる[[関数]]のことである。

「softargmax」や「正規化指数関数」などとも呼ばれる。

「正規化指数関数」という名称からもわかるように、[[Unity]]や[[MonoGame]]なんかで3Dゲームなどを作っているとよく使う[[正規化関数]]「normalize(vector3)」の亜種であり、3次元だけでなく4次元でも5次元でも100次元でも「合計1.0」にしてくれるというもの。

[[ニューラルネットワーク]]の最後の[[活性化関数]]として、[[ルースの選択公理]]に基づいて、ネットワークの出力を予測される出力クラスに対する確率分布に正規化するためによく使われる。