掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数の比較をするには？ (ID：38934)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
補足すると、最初のコード例の場合 r はRealと宣言しているのでDouble相当（有効桁数15前後）の精度があります。 一方、比較式の右辺の 2.1 は定数式なのでExtended型となり、有効桁数は19桁前後です。 精度が異なるため、同じ2.1という値でも内部表現が異なり、違う値となります。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.