Double型のバグ？ (ID:85117)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 バグというより計算機の宿命ですね 0.234と0.002では指数部の値が異なっており、またそれぞれの数値が２進数で は割り切れない数字なので、２つの数字を演算する時の指数部の変換の際に どうしても誤差が出てしまいます。 ためしに下記計算ではTrueになると思いますよ a=0.234 b=0.334 - 0.1 とか a = 0.625 b = 0.5625 + 0.0625 という性質があるので小数の比較で＝演算子を使用するのはプログラム上 避けたほうがいいでしょう。