掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
数の割り算で「nnn.999・・・」を「nnn」にするには？ (ID:17148)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
Currency 型を調べてみて下さい． しかし，個人的な意見としては，何故nnn.9999...となってはいけないの か，最終的な表現がどうあればいいのかを十分考え，検討することをお勧 めします． ご存知だとは思いますが，コンピュータによる実数の計算には誤差は つきものです．紙の上での数学の計算とは違います． 極端な話，コンピュータでは，無限小も無限大という数も存在しません． そして，10進数の有限小数の大部分は，2進数(コンピュータ内部表現)で は無限小数となります．これが割り切れるはずの数がnnn.9999..となった りする原因の一つです． [例] 0.1 0.0001100110011....(2進数) 0.19999999.....(16進数)
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.