メインメニューを開く
MonoBook
検索
差分
← 古い編集
DENSE INT8
28 バイト追加
,
2024年6月3日 (月)
編集の要約なし
ただし、DENSE INT8による精度の低下が懸念される場合もあります。8ビットの整数による表現では精度が低下するためDNNが正確な予測を行うことができなくなる可能性があります。そのためDENSE INT8は深層学習アルゴリズムが求める精度のバランスを取る必要があります。
[[category: 人工知能]]
Administrator
ビューロクラット
、
インターフェース管理者
、
管理者
8,527
回編集