掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID:22409)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
度々の返信ありがとうございます。 ＞私のレスは小数の切り捨て処理です。 ＞浮動小数の計算上の誤差は全く別問題です。 どうも私はここを混同しているようで、また、ここがものすご−−−く疑問なのです。 先ほどの例ではD3 := D1 * d2 / 100; と１００で割っていますが、これはD3 := D1 * d2; の間違いです。 で、この値を切り捨てると、1019となります。 これは、切捨て前の計算での誤差であるとすると、 小数点以下12位までを有効とした数値演算は どうすればいいのでしょうか．．．． 切り捨てる値が、本来の切捨てであればいいのですが、 誤差の値を切り捨ててしまうことも当然あるのではないでしょうか。 実値が1019.9999999であるものと、 誤差で1019.9999999であるものとの違いとはなんなのでしょうか。 なにかチグハグですが、よろしくお願いします。 整数部分の桁数が9桁あるためシフトで整数にすることができません．．（できるのかな？？） HOTAさん、返信ありがとうございます。 BCDのこと早速しらべてみます。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.