警告: ログインしていません。編集を行うと、あなたの IP アドレスが公開されます。ログインまたはアカウントを作成すれば、あなたの編集はその利用者名とともに表示されるほか、その他の利点もあります。
この編集を取り消せます。
下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 |
編集中の文章 |
1行目: |
1行目: |
− | '''FP16'''とは、[[IEEE 754]]に定められる「[[半精度浮動小数点数]]」の事です。 | + | '''FP16'''とは、IEEE 754に定められる「[[半精度浮動小数点数]]」の事である。 |
| | | |
− | [[パソコン]]で一般的な[[IEEE 754]]の[[単精度浮動小数点数]]や[[倍精度浮動小数点]]の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。
| + | == 関連項目 == |
− | | |
− | ちなみにFP16はFP32との型変換が遅いという欠点があります。
| |
− | 「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。
| |
| | | |
− | == 関連項目 ==
| |
| * [[bfloat16]] | | * [[bfloat16]] |
| * [[FP8]]([[低精度浮動小数点数]]) | | * [[FP8]]([[低精度浮動小数点数]]) |
− |
| |
− | [[category: 人工知能]]
| |