「FP32」の版間の差分
Administrator (トーク | 投稿記録) ページの作成:「'''FP32'''とは、32ビットの浮動小数点数のことです。 「Float」や「Single」などとも呼ばれます。 いわゆる「右下から銃が…」 |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 1行目: | 1行目: | ||
'''FP32'''とは、32ビットの[[浮動小数点数]]のことです。 | '''FP32'''とは、32ビットの[[浮動小数点数]]のことです。 | ||
[[プログラミング言語]]では「Float」「Single」「単精度浮動小数点数」などとも呼ばれます。 | |||
いわゆる「[[右下から銃が生えたゲーム]]」でもっとも使われる[[データ型]]です。 | いわゆる「[[右下から銃が生えたゲーム]]」でもっとも使われる[[データ型]]です。 | ||
一方で人工知能などでは「そんな精度いらない」として[[FP16]]や[[DENSE INT8]]などが使われています。 | 一方で人工知能などでは「そんな精度いらない」として[[FP16]]や[[DENSE INT8]]などが使われています。 | ||
[[category: 浮動小数点数]] | |||
2024年8月26日 (月) 07:34時点における最新版
FP32とは、32ビットの浮動小数点数のことです。
プログラミング言語では「Float」「Single」「単精度浮動小数点数」などとも呼ばれます。
いわゆる「右下から銃が生えたゲーム」でもっとも使われるデータ型です。
一方で人工知能などでは「そんな精度いらない」としてFP16やDENSE INT8などが使われています。