FP32
FP32とは、32ビットの浮動小数点数のことです。
プログラミング言語では「Float」「Single」「単精度浮動小数点数」などとも呼ばれます。
いわゆる「右下から銃が生えたゲーム」でもっとも使われるデータ型です。
一方で人工知能などでは「そんな精度いらない」としてFP16やDENSE INT8などが使われています。
FP32とは、32ビットの浮動小数点数のことです。
プログラミング言語では「Float」「Single」「単精度浮動小数点数」などとも呼ばれます。
いわゆる「右下から銃が生えたゲーム」でもっとも使われるデータ型です。
一方で人工知能などでは「そんな精度いらない」としてFP16やDENSE INT8などが使われています。