差分
ナビゲーションに移動
検索に移動
← 古い編集
DENSE INT8
28 バイト追加
,
2024年6月3日 (月)
編集の要約なし
ただし、DENSE INT8による精度の低下が懸念される場合もあります。8ビットの整数による表現では精度が低下するためDNNが正確な予測を行うことができなくなる可能性があります。そのためDENSE INT8は深層学習アルゴリズムが求める精度のバランスを取る必要があります。
[[category: 人工知能]]
Administrator
ビューロクラット
、
インターフェース管理者
、
管理者
8,527
回編集
案内メニュー
個人用ツール
ログインしていません
トーク
投稿記録
アカウント作成
ログイン
名前空間
ページ
議論
変種
表示
閲覧
編集
ソースを編集
履歴表示
その他
検索
案内
メインページ
最近の更新
未作成ページ
おまかせ表示
ヘルプ
ツール
特別ページ
印刷用バージョン