Int関数の返り値について (ID:119619)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 数学の世界では (A + B) + C = A + (B + C) = (A + C) + B (A - B) + C = A + (C - B) = (A + C) - B (A * B) / C = A * (B / C) = (A / C) * B (ただし C は 0 ではない) は必ず成り立ちますが、コンピュータ内での実数演算では、丸めの関係で、これらの法則が成立しない場合があります。 数値計算の世界では丸め誤差を最小限に抑え込む計算順序を考えるのもテクニックの内です。