FP32

提供: MonoBook
2023年4月4日 (火) 05:02時点におけるAdministrator (トーク | 投稿記録)による版 (ページの作成:「'''FP32'''とは、32ビットの浮動小数点数のことです。 「Float」や「Single」などとも呼ばれます。 いわゆる「右下から銃が…」)
(差分) ← 古い版 | 最新版 (差分) | 新しい版 → (差分)
ナビゲーションに移動 検索に移動

FP32とは、32ビットの浮動小数点数のことです。

「Float」や「Single」などとも呼ばれます。

いわゆる「右下から銃が生えたゲーム」でもっとも使われるデータ型です。

一方で人工知能などでは「そんな精度いらない」としてFP16DENSE INT8などが使われています。