差分

FP32

378 バイト追加, 2023年4月4日 (火) 05:02

ページの作成:「'''FP32'''とは、32ビットの浮動小数点数のことです。「Float」や「Single」などとも呼ばれます。いわゆる「右下から銃が…」

'''FP32'''とは、32ビットの[[浮動小数点数]]のことです。

「Float」や「Single」などとも呼ばれます。

いわゆる「[[右下から銃が生えたゲーム]]」でもっとも使われる[[データ型]]です。

一方で人工知能などでは「そんな精度いらない」として[[FP16]]や[[DENSE INT8]]などが使われています。

Administrator

ビューロクラット、インターフェース管理者、管理者

8,476

回編集