「MXFP4」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) |
||
| 3行目: | 3行目: | ||
== データ構造 == | == データ構造 == | ||
MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。 | MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。 | ||
{| class="wikitable" | |||
|+ | |||
! | |||
!ビット数 | |||
!要素数 | |||
!合計ビット数 | |||
|- | |||
|エレメント | |||
|4ビット | |||
|32要素 | |||
|128ビット | |||
|- | |||
|共有スケール | |||
|8ビット | |||
|1要素 | |||
|8ビット | |||
|- | |||
|合計 | |||
| | |||
| | |||
|136ビット | |||
|} | |||
1要素あたりに換算すると 4.25ビット(136ビット ÷ 32)となり、従来の[[FP16]](16ビット)と比べ12ビット相当の品質で約4分の1のサイズにデータを圧縮することができます。 | |||
---- | |||
[[category: ブロック浮動小数点数]] | [[category: ブロック浮動小数点数]] | ||