「FP8」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 22行目: | 22行目: | ||
* 仮数部の幅: 3ビット | * 仮数部の幅: 3ビット | ||
[[category: 浮動小数点数]] | |||
E4M3はE5M2よりダイナミックレンジが広い。 | E4M3はE5M2よりダイナミックレンジが広い。 | ||
E4M3は「[[重みテンソル]]」および「[[活性化テンソル]]」に最適らしいぞ。 | E4M3は「[[重みテンソル]]」および「[[活性化テンソル]]」に最適らしいぞ。 | ||