差分

ナビゲーションに移動 検索に移動

計算機イプシロン

8 バイト除去, 2019年2月20日 (水) 02:12
浮動小数点の仮数指数表記では「1未満」だと指数部だけを使ってどこまでも小さくなってしまうため、何が何でも仮数部を使うために「1以上」の数字を用いる。そこから1を引けば純粋に「最小の数」になる。
== 計算 ==
* 浮動小数点変数に1を代入する* 浮動小数点変数をひたすら1/2していく* 浮動小数点変数がゼロになったら直前の値が計算機イプシロン
=== PHP ===
[[PHP]]での実装例。<syntaxhighlight lang="php">
<?php
</syntaxhighlight>
=== Python ===Pythonでの実装例。[[Python]]での実装例。
<syntaxhighlight lang="python">
a = 1.0
print("{0:09.8E}".format(b))
</syntaxhighlight>
== 関連項目 ==
* [[.NETのfloat.Epsilon定数は計算機イプシロンではない]]
匿名利用者

案内メニュー