MonoBook

「ブロック浮動小数点数」の版間の差分

新しい編集 →
ビジュアルウィキテキスト
ページの作成:「'''ブロック浮動小数点数'''とは、一定のブロック数で指数部を共有することで必要となるビット数を節約した浮動小数点数の表現方法のひとつです。 一般的な浮動小数点数では指数部と仮数部で表現されます。人工知能向けにFP16やBF16などはビット数を削る競争をしていましたが、8ビット、さらに4ビットくらいになると削るのも難しくなりまし…」
 
編集の要約なし
1行目: 1行目:
'''ブロック浮動小数点数'''とは、一定のブロック数で指数部を共有することで必要となるビット数を節約し[[た浮動小数点数]]の表現方法のひとつです。
'''ブロック浮動小数点数'''とは、一定のブロック数で指数部を共有することで必要となるビット数を節約した[[浮動小数点数]]の表現方法のひとつです。


一般的な浮動小数点数では指数部と仮数部で表現されます。人工知能向けにFP16やBF16などはビット数を削る競争をしていましたが、8ビット、さらに4ビットくらいになると削るのも難しくなりました。
一般的な浮動小数点数では指数部と仮数部で表現されます。人工知能向けにFP16やBF16などはビット数を削る競争をしていましたが、8ビット、さらに4ビットくらいになると削るのも難しくなりました。
「https://monobook.org/wiki/ブロック浮動小数点数」から取得