掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
FORMAT関数での誤差? (ID:111648)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
以下のロジックをVB4とVB6で実行した際に平均値WK_STR3に差異が出ます Dim WK_STR As String Dim WK_STR2 As String Dim WK_STR3 As String WK_STR=Text1 WK_STR=Text2 WK_STR3 = Format((((Val(WK_STR2) + Val(WK_STR) * 1000) / 2) / 1000), "#0.000") 具体的には、値A(Text1),B(Text2)に7.955と7.954を入力すると VB4ではWK_STR3 = 7.954 VB6ではWK_STR3 = 7.955 となります。 小数点第3位が切り捨て?されているようなのですが、 差異が出ない値もあるのです。 例えば、値A(Text1),B(Text2)に2.955と2.954を入力すると VB4、VB6ともにWK_STR3は2.955で差異は出ません。 FORMAT関数のバグなのでしょうか?? どなたか分かる方お願いします。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.