「FP32」の版間の差分
ナビゲーションに移動
検索に移動
Administrator (トーク | 投稿記録) (ページの作成:「'''FP32'''とは、32ビットの浮動小数点数のことです。 「Float」や「Single」などとも呼ばれます。 いわゆる「右下から銃が…」) |
(相違点なし)
|
2023年4月4日 (火) 05:02時点における最新版
FP32とは、32ビットの浮動小数点数のことです。
「Float」や「Single」などとも呼ばれます。
いわゆる「右下から銃が生えたゲーム」でもっとも使われるデータ型です。
一方で人工知能などでは「そんな精度いらない」としてFP16やDENSE INT8などが使われています。