MXFP4
MXFP4(Micro-eXponent 4-bit)とは、Open Compute Project(OCP)がAIの推論および学習の高速化・高効率化を目的に策定を進めている、4ビットのブロック浮動小数点数(Block Floating Point)形式です。
データ構造
MXFP4では、32個の数値データを1つの束(ブロック)として管理します。1ブロックあたりの構成は以下の通りです。
- 各要素(エレメント): 4ビット × 32要素 = 128ビット
- 共有スケール(ブロック指数): 8ビット × 1個 = 8ビット
- 合計サイズ: 1ブロックあたり 136ビット(17バイト