掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID:22415)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
だから、浮動小数を調べれば分かることです。 浮動小数を使ってる限り真の正当な値が保障されることはありません。 でも、これは10進数を使っていても同じことが言えますけど。 1/3は表現できませんよね。 http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0 だから有効桁数を決定する必要があるのです。 整数、浮動小数の特徴を知らないでこのような数値計算をすべきで無いというのが持論です。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.