Int関数の返り値について (ID:119616)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 丸め誤差だと思うから…下のような計算をしてみた。 ＩＥＥＥの浮動小数点って、符号は１ビットでどこかに格納してたハズ。 よって、補数計算は必要ないと思われる。 (0.1)10進=(0.0[0011]...)2進 -(50)10進=-(110010)2進 -(5)10進=-(101)2進 -(50*0.1)10進=-(110010*0.0[0011]..)2進 1100100 110010 100.10110 =-(100.10110....)2進←多分 で、intは負の無限大に丸めるはずだから…どうなるんだ？ ( ゜Д゜)マンドクセ… ※計算が違うかもしれない