掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
少数点以下の桁数を有効桁数で割る前にチェックするには (ID:59092)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
うーん iijima さんの案でいけてるはずなんですけど？ 101000 を %1000=0 ... 小数点の下に０桁ある 100100 を %1000=100 %100=0 ... 小数点の下に１桁ある 100010 を %1000=10 %100=10 %10=0 ... 小数点の下に２桁ある 100001 を %1000=1 %100=1 %10=1 ... 小数点の下に３桁(以上)ある # 最初に剰余０が出てくるところはどこ？だけで判定可能。 ってそういう話ぢゃない？ これも立派な固定小数点演算だよ。 単に浮動小数点数での除算の前に整数剰余を求めておけばいい。 整数剰余で桁数判定を行った後に浮動小数点数で除算した結果が 100.099999 みたいになるのは別の話。 こっち (桁落ち/精度落ち) の回避の話ですか？ ちなみに「小数点」であって「少数点」ではないのでよろしく。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.