MXFP4
MXFP4(Micro-eXponent 4-bit)とは、Open Compute Project(OCP)がAIの推論および学習の高速化・高効率化を目的に策定を進めている、4ビットのブロック浮動小数点数(Block Floating Point)形式です。
データ構造
MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。
| ビット数 | 要素数 | 合計ビット数 | |
|---|---|---|---|
| エレメント | 4ビット | 32要素 | 128ビット |
| 共有スケール | 8ビット | 1要素 | 8ビット |
| 合計 | 136ビット |
1要素あたりに換算すると 4.25ビット(136ビット ÷ 32)となり、従来のFP16(16ビット)と比べ12ビット相当の品質で約4分の1のサイズにデータを圧縮することができます。