掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
丸め誤差２ (ID：115242)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
なんかもう何が聞きたいのか分からないんですが… >X = FIX(CCur(A / B * C))と直してよっしゃ！などとぬか喜びしていたら >あるところで >X = FIX(CCur(A * C / B))という式が出てきました >なぜこの二つの式の演算結果が異なってくるのでしょう？ …これって10進で言えば 10 / 3 * 3 と 10 * 3 / 3 の違いみたいなものじゃないですか？右から順にやれば割り算の余りを 吸収できなくなります。掛け算先にすればいいんじゃないですか？(＾＾；) 対象となる数値の桁数や使う数式、実際にその数式で出る不具合。 それをどうしたいのか？をもう少し具体的に書いて頂かないと…雲を つかむような話なんですが？小数桁も大事…みたいな話をしてて結局 使うのは整数部のみとか言われても(汗)…経理の仕事とか無縁なので 理解できません。要は誤差の範囲が有効桁数に及ばない処理ならいい のでは？と推測してるんですが… 丸めの無い(人間が手作業でやる？)正解となる計算式はあるんですか？ それを説明していただければ…もう少し何とか…なるかも？
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.