掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
計算結果を正しく求めるには？ (ID:5169)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
初めまして。 次のような計算を行った場合 function A(s: Extended): Variant; begin Result := s; end; var d1, d2: double; begin d1 := double( A(10.2) ); d2 := double( A(100) ); ShowMessage( IntToStr(Trunc( d1 * d2 )) ); end; 計算結果が "1020" になるところ "1019"になって返ってしまいます。 Variant変数とTruncを絡めた計算であり、ある一部の値の組み合わせで 正しい結果が得られなくなります。 なぜだか教えて頂けないでしょうか。宜しくお願い申し上げます。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.