ReLU関数

ReLU（英語: Rectified Linear Unit, 正規化線形関数）とは、人工知能用語のひとつで、隠れ層の活性化関数のひとつである。 「max(0, x)」で表される区分線形関数を使った1次スプライン曲線の線形補間である。 tanhやSoftplusよりも良いとされる。