掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
少数点以下の桁数を有効桁数で割る前にチェックするには (ID:59087)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
>100000の値に対し、1000で割った値100.000の少数点以下の桁数を >1000で割る前にチェックする方法 有効桁数をチェックするという事でしょうか？ IEEE754 の場合 float 型なら、小数点以下 約 7 桁が有効桁数。 double 型なら、小数点以下 約 15 桁が有効桁数。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.