掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID：22413)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
連投スマソ 上の件 Truncで誤差が出ているのではないようです。 d1 := 10.2; d2 := 100; D3 := D1 * d2 ; ここまでですでに誤差が発生しています。 d1...d4をextendedにすることによって精度が上がるだけです。 同様にUsD1..UsD6も extended にすると見かけ上誤差が出てきません。 （こういうときはやはりBCDの方が良いかな）
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.