SingleとDoubleで結果が違うのですが、、、 (ID:83567)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 Ｓｉｎｇｌｅは ３２Ｂｉｔ Ｄｏｕｂｌｅは６４Ｂｉｔ これとデータの表現は関係ない 表現＝精度ではない Dim DDT As Double Dim SDT As Single DimStringdata As String StringData=Format(DDT,"#####.###########") StringDAta=Format(SDT,"#####.###########") こんなにすればともに同じ桁表示するが精度はもちろん Ｄｏｕｂｌｅがより真値に近い。 Single は不正確。せいせい5桁までしか信用できない。 どちらでも 小数点１０桁表示しようとすれば表示します。 表示をシステムに任せると、ちょうどきりのいいところで表示をとめる。 Ｓｉｎｇｌｅｄｅ計算すると割り切れないので長々と表示するとしても 精度は５−６桁 Ｄｏｕｂｌｅは約10桁 Ｄｏｕｂｌｅで計算して、精度上きりがよければ5桁までしか出ない場合もある。 元来、Ｄｏｕｂｌｅ ６４Ｂｉｔ 指数部 ８ Ｂｉｔ{桁Bit} 仮数部 （６４−８）ビット Ｓｉｎｇｌｅ ３２Ｂｉｔ 指数部 ８ 仮数部（３２−８）Ｂｉｔ マシンやＯＳにより ８が１２になったりするばあいもある！ この場合、Ｄｏｕｂｌｅが精度を若干犠牲にして大きな桁 １０の何桁 を表せる。