メインメニューを開く
MonoBook
検索
差分
FP32
378 バイト追加
,
2023年4月4日 (火) 05:02
ページの作成:「'''FP32'''とは、32ビットの
浮動小数点数
のことです。 「Float」や「Single」などとも呼ばれます。 いわゆる「右下から銃が…」
'''FP32'''とは、32ビットの[[浮動小数点数]]のことです。
「Float」や「Single」などとも呼ばれます。
いわゆる「[[右下から銃が生えたゲーム]]」でもっとも使われる[[データ型]]です。
一方で人工知能などでは「そんな精度いらない」として[[FP16]]や[[DENSE INT8]]などが使われています。
Administrator
ビューロクラット
、
インターフェース管理者
、
管理者
8,496
回編集