掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
Doubleの計算について (ID：20288)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
var a_D: Double; ではなく var a_D: Externded; とするとa_iは2053220となるので function Trunc(X: Extended): Int64; で Extendedに変換される時に誤差が現れる様ですね。 Truncで切り捨てをするなら Trunc(a_D+0.5); の様に四捨五入しても場合によっては良いと思います
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.