差分

.NETのfloat.Epsilon定数は計算機イプシロンではない

427 バイト追加, 2018年2月19日 (月) 05:46

</source>

~~こういう~~計算機イプシロンの定番の[[アルゴリズム]]~~もあるらしい。~~といえば、変数をひたすら2で割り続け、ゼロになった瞬間のひとつ前を捉えるというもの。「1以上」という条件はコンピューターの指数と仮数の組み合わせで表現される浮動小数点数では、1未満だと指数部だけを使ってどこまでも小さくなってしまうためであり、なんとしても仮数部を使おうということらしい。

static double MachineEpsilon()

匿名利用者

imported>Administrator