差分

ナビゲーションに移動 検索に移動

DENSE INT8

28 バイト追加, 2024年6月3日 (月)
編集の要約なし
ただし、DENSE INT8による精度の低下が懸念される場合もあります。8ビットの整数による表現では精度が低下するためDNNが正確な予測を行うことができなくなる可能性があります。そのためDENSE INT8は深層学習アルゴリズムが求める精度のバランスを取る必要があります。
 
[[category: 人工知能]]

案内メニュー