Fix、Int関数が正常に動かない?


YE  2002-12-05 01:01:59  No: 105609

VB6を使っています。
数値を小数点以下切捨てしようと思い、Fix関数を使ってみたところ、期待していた結果が返ってきませんでした。
例えば、
    Fix(100 * 0.1) ⇒ 10
    Fix(100 * 0.2) ⇒ 20
    Fix(100 * 0.3) ⇒ 29
    Fix(100 * 0.4) ⇒ 40
    Fix(100 * 0.5) ⇒ 50
    Fix(100 * 0.6) ⇒ 59
    Fix(100 * 0.7) ⇒ 69
    Fix(100 * 0.8) ⇒ 80
    Fix(100 * 0.9) ⇒ 90
    Fix(100 * 1.0) ⇒ 100
使い方が何か悪いのでしょうか?


YuO  2002-12-05 04:15:03  No: 105610

浮動小数点数を利用している以上仕方がないです。
どうしても,というのであれば通貨型などを使ってください。


通りすがり  2002-12-05 18:43:11  No: 105611

期待していた結果というのが分からないのですが?


※返信する前に利用規約をご確認ください。

※Google reCAPTCHA認証からCloudflare Turnstile認証へ変更しました。






  このエントリーをはてなブックマークに追加