SingleとDoubleで結果が違うのですが、、、

解決

---

Dim PI1 as single
Dim PI2 as Double

と宣言し、それぞれを

r=5
PI1 = 3.14159
PI2 = 3.14159

label1.caption = PI1 * r ^ 2
label2.caption = PI2 * r ^ 2

と計算させたんですが、結果がSingleで宣言した計算だと少数点以下が多く
表示されて（78.5397529602051)、Doubleだと小数点以下が5桁しか表示
されませんでした（78.53975）。

どうしてなんでしょうか？ヘルプ見てもわかりません。どなた助けてください。

編集 削除

---

Ｓｉｎｇｌｅは  ３２Ｂｉｔ
Ｄｏｕｂｌｅは６４Ｂｉｔ

これとデータの表現は関係ない

表現＝精度ではない

Dim DDT As Double
Dim SDT As Single
DimStringdata As String
  StringData=Format(DDT,"#####.###########")
  StringDAta=Format(SDT,"#####.###########")

こんなにすればともに同じ桁表示するが精度はもちろん
Ｄｏｕｂｌｅがより真値に近い。

Single は不正確。せいせい5桁までしか信用できない。

どちらでも  小数点１０桁表示しようとすれば表示します。

表示をシステムに任せると、ちょうどきりのいいところで表示をとめる。

Ｓｉｎｇｌｅｄｅ計算すると割り切れないので長々と表示するとしても

精度は５−６桁 Ｄｏｕｂｌｅは約10桁

Ｄｏｕｂｌｅで計算して、精度上きりがよければ5桁までしか出ない場合もある。

元来、Ｄｏｕｂｌｅ  ６４Ｂｉｔ  指数部  ８  Ｂｉｔ{桁Bit}  仮数部  （６４−８）ビット

Ｓｉｎｇｌｅ      ３２Ｂｉｔ  指数部  ８  仮数部（３２−８）Ｂｉｔ

マシンやＯＳにより  ８が１２になったりするばあいもある！
この場合、Ｄｏｕｂｌｅが精度を若干犠牲にして大きな桁  １０の何桁
を表せる。

編集 削除

---

ありがとうございました。

ほんとにたすかりました。しらなかったです。
OSのバージョンや種類によっても変わるなんて、、、
知らないことっていっぱいあるんだなってきづきました。

ほんとうにありがとうございました。

編集 削除

---

すいません。解決しました。

編集 削除

---

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文

←解決時は質問者本人がここをチェックしてください。