掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
Int()、Fix()関数のバグ? (ID:81130)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
> curOrg = 10.6 curOrgという変数は、定義されていないようですが…。(^_^;) >なぜでしょうか? バグではありません。浮動小数点の仕様です。 SingleやDoubleといった「浮動小数点」というのは、データを2進数で扱います。 10進数の"0.5" であれば、2進数では "0.1" という割り切れる値になりますが、 10進数の"0.6" の場合は、2進数では "0.10011001100110011……"という終わりの無い小数になります。 しかし、精度桁数には限りがあるため、ある程度の近い値にまとめられ、 結果的には、10進数の 0.59999999999…… という値で格納される事になります。 こちらを参考にしてみてください。 http://www.python.jp/pub/doc_jp/tut_2.2.3/node14.html http://homepage3.nifty.com/salv/hp-old/03pc/qvb/03vbpg005.htm
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.