MonoBook

「DENSE INT8」の版間の差分

ビジュアルウィキテキスト
ページの作成:「'''DENSE INT8'''とは、深層学習において使用されるニューラルネットワークの精度と効率を向上させるための技術の一つで…」
 
編集の要約なし
 
4行目: 4行目:


ただし、DENSE INT8による精度の低下が懸念される場合もあります。8ビットの整数による表現では精度が低下するためDNNが正確な予測を行うことができなくなる可能性があります。そのためDENSE INT8は深層学習アルゴリズムが求める精度のバランスを取る必要があります。
ただし、DENSE INT8による精度の低下が懸念される場合もあります。8ビットの整数による表現では精度が低下するためDNNが正確な予測を行うことができなくなる可能性があります。そのためDENSE INT8は深層学習アルゴリズムが求める精度のバランスを取る必要があります。
[[category: 人工知能]]
「https://monobook.org/wiki/DENSE_INT8」から取得