「計算機イプシロン」を編集中
ナビゲーションに移動
検索に移動
この編集を取り消せます。 下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 | 編集中の文章 | ||
3行目: | 3行目: | ||
浮動小数点の仮数指数表記では「1未満」だと指数部だけを使ってどこまでも小さくなってしまうため、何が何でも仮数部を使うために「1以上」の数字を用いる。そこから1を引けば純粋に「最小の数」になる。 | 浮動小数点の仮数指数表記では「1未満」だと指数部だけを使ってどこまでも小さくなってしまうため、何が何でも仮数部を使うために「1以上」の数字を用いる。そこから1を引けば純粋に「最小の数」になる。 | ||
− | ==計算== | + | == 計算 == |
− | *浮動小数点変数に1を代入する | + | * 浮動小数点変数に1を代入する |
− | *浮動小数点変数をひたすら1/2していく | + | * 浮動小数点変数をひたすら1/2していく |
− | *浮動小数点変数がゼロになったら直前の値が計算機イプシロン | + | * 浮動小数点変数がゼロになったら直前の値が計算機イプシロン |
− | ===PHP=== | + | === PHP === |
[[PHP]]での実装例。<syntaxhighlight lang="php"> | [[PHP]]での実装例。<syntaxhighlight lang="php"> | ||
<?php | <?php | ||
22行目: | 22行目: | ||
</syntaxhighlight> | </syntaxhighlight> | ||
− | ===Python=== | + | === Python === |
− | + | Pythonでの実装例。 | |
<syntaxhighlight lang="python"> | <syntaxhighlight lang="python"> | ||
a = 1.0 | a = 1.0 | ||
32行目: | 32行目: | ||
print("{0:09.8E}".format(b)) | print("{0:09.8E}".format(b)) | ||
</syntaxhighlight> | </syntaxhighlight> | ||
− | ==関連項目== | + | == 関連項目 == |
− | *[[.NETのfloat.Epsilon定数は計算機イプシロンではない]] | + | * [[.NETのfloat.Epsilon定数は計算機イプシロンではない]] |