掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下第3位までを保持する型は何ですか (ID:88464)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
> 切削データをエクセルに渡して、計算結果を得たのですが、値が小数点以下 > 長い桁です。 つまり、有効桁数が多いのか? > 最低でも小数点以下第3位までを保持したいのですが、 それとも…有効桁数少ないのか? > single doubleどちらを使ってもVBでうまく扱えません。 具体的に、どう上手く扱えないんだ? Double型の精度は…えーと、10進で15桁くらいはあったと思うんだけどなぁ… 一応Decimal型とかCurrency型とかもある。 ただし、DecimalはVariantの内部形式だったと思われる。 後は自前で装備するとか。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.