掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID:22412)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
おまけ ------------------- var i64,Int64; d1, d2, D3, d4: double; begin d1 := 10.2; d2 := 100; D3 := D1 * d2 ; i64:= Trunc(D3); ShowMessage( IntToStr(i64)); ------------------- で1019になる件 Truncは function Trunc(X: Extended): Int64; と定義されています。 doubleからExtendedに変換するときに誤差が発生しています。 d1, d2, D3, d4: extended; としてみてください。1020と表示されます
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.