FORMAT関数での誤差？ (ID:111650)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 > WK_STR=Text1 > WK_STR=Text2 ……同じ変数に代入されちゃってますけれども。(^_^;) で。そもそも Format 関数 (VarFormatNumber APIも含む)は、丸めを目的とした関数ではありません。 oleaut32.DLLのバージョンによって、結果が変わる事もありますし。 http://support.microsoft.com/default.aspx?scid=kb;ja;418691 『厳密な』丸め調整が必要なのであれば、切上げ/切捨て/四捨五入などはFormat関数以外の方法で行うようにして下さい。 また、浮動小数点演算の仕様による誤差も考慮してください。 浮動小数点型による演算を行う場合、数式の最適化処理などが原因で、 コンパイルモード(P-Code/ネイティブ)によって、差が生じる事もあります。 http://homepage3.nifty.com/salv/hp-old/03pc/qvb/03vbpg005.htm