・少数の丸めは、その数値にもっとも近い整数にまとめることである。
少数部分が0.5より大きい場合は、ひとつ大きい数字に切り上げ少数部分が0.5より小さい場合は切り捨てることになる
少数部分が0.5ちょうどの場合はどうなるのか?
今僕はこのことについて、知りたいのですが・・・
実際こういう場合はどうなるのでしょうか?
回答よろしくお願いします。
良くわからない質問ですいません・・・
バージョンは、6.0です。
http://madia.world.coocan.jp/vb/vb_bbs2/200702/200702_07020018.html
>少数部分が0.5ちょうどの場合はどうなるのか?
VB6の丸め処理は「銀行型丸め処理」なので
単純な四捨五入(0.4までを切捨て、0.5(含む)以上を切り上げる)
では無く、「0.5の場合、最も近い偶数に丸める」方式です。
端数処理
http://ja.wikipedia.org/wiki/%E7%AB%AF%E6%95%B0%E5%87%A6%E7%90%86
・・・そうれは、「どうやって丸めるか」で違ってきます。
どうやって丸めようとしているんです?
例えば、単純に「整数型変数に浮動小数型の値を代入」した場合、
いわゆる「銀行型丸め」になり、KAさんが提示した「算術型丸め(四捨五入)」とは違った結果になりますけど・・・
「丸めを行うカスタム プロシージャを実装する方法」
(http://support.microsoft.com/kb/196652/ja)
http://madia.world.coocan.jp/vb/vb_bbs2/200702/200702_07020018.html
についてなのですが、
やじゅさんへ
サイト拝見させていただきました。
数式を用いて、論理的に説明するというのは、どうゆうことでしょうか・・・?
サイトみてもわからなかったのですが・・・
サイトみてもいまいち理解が・・・
もし、良かったらお手数ですが、回答お願いします。
解決しました。
回答ありがとうございます。