「MXFP4」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) |
||
| 3行目: | 3行目: | ||
== データ構造 == | == データ構造 == | ||
MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。 | MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。 | ||
{| class="wikitable" | |||
|+ | |||
! | |||
!ビット数 | |||
!要素数 | |||
!合計ビット数 | |||
|- | |||
|エレメント | |||
|4ビット | |||
|32要素 | |||
|128ビット | |||
|- | |||
|共有スケール | |||
|8ビット | |||
|1要素 | |||
|8ビット | |||
|- | |||
|合計 | |||
| | |||
| | |||
|136ビット | |||
|} | |||
1要素あたりに換算すると 4.25ビット(136ビット ÷ 32)となり、従来の[[FP16]](16ビット)と比べ12ビット相当の品質で約4分の1のサイズにデータを圧縮することができます。 | |||
---- | |||
[[category: ブロック浮動小数点数]] | [[category: ブロック浮動小数点数]] | ||
2026年5月29日 (金) 04:11時点における版
MXFP4(Micro-eXponent 4-bit)とは、Open Compute Project(OCP)がAIの推論および学習の高速化・高効率化を目的に策定を進めている、4ビットのブロック浮動小数点数(Block Floating Point)形式です。
データ構造
MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。
| ビット数 | 要素数 | 合計ビット数 | |
|---|---|---|---|
| エレメント | 4ビット | 32要素 | 128ビット |
| 共有スケール | 8ビット | 1要素 | 8ビット |
| 合計 | 136ビット |
1要素あたりに換算すると 4.25ビット(136ビット ÷ 32)となり、従来のFP16(16ビット)と比べ12ビット相当の品質で約4分の1のサイズにデータを圧縮することができます。