ホーム
おまかせ表示
ログイン
設定
MonoBookについて
免責事項
MonoBook
検索
「
FP16
」を編集中
警告:
ログインしていません。編集を行うと、あなたの IP アドレスが公開されます。
ログイン
または
アカウントを作成
すれば、あなたの編集はその利用者名とともに表示されるほか、その他の利点もあります。
スパム攻撃防止用のチェックです。 けっして、ここには、値の入力は
しない
でください!
'''FP16'''とは、[[IEEE 754]]に定められる「[[半精度浮動小数点数]]」の事です。 [[パソコン]]で一般的な[[IEEE 754]]の[[単精度浮動小数点数]]や[[倍精度浮動小数点]]の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。 ちなみにFP16はFP32との型変換が遅いという欠点があります。 「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。 == 関連項目 == * [[bfloat16]] * [[FP8]]([[低精度浮動小数点数]]) [[category: 人工知能]] [[category: 浮動小数点数]]
編集内容の要約:
MonoBookへの投稿はすべて、他の投稿者によって編集、変更、除去される場合があります。 自分が書いたものが他の人に容赦なく編集されるのを望まない場合は、ここに投稿しないでください。
また、投稿するのは、自分で書いたものか、パブリック ドメインまたはそれに類するフリーな資料からの複製であることを約束してください(詳細は
MonoBook:著作権
を参照)。
著作権保護されている作品は、許諾なしに投稿しないでください!
このページを編集するには、下記の確認用の質問に回答してください (
詳細
):
1たす1は?(全角で入力してください)
キャンセル
編集の仕方
(新しいウィンドウで開きます)