掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
回帰直線を求めるには? (ID:113820)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
VBは科学技術計算向きではありません。 ・2進数から10進数に変換される際の誤差 ・Double型変数へのSingle型変数代入時に生ずる誤差 ・情報落ち ・桁落ち 等々、多くの計算誤差要因があります。 式が複雑になればなるほど、 計算の順序が変わるだけで、 計算の結果が大きく変わってしまいます。 誤差をそれほど気にしないならば、 下記URLにサンプルをUpしておきますので、参考程度にしてみてください。 http://puti-money.hp.infoseek.co.jp/Test.txt #サンプル1の方が誤差は少ないようです(Fortranと比較して) #上記ファイルは、明日消去します。 誤差を出したくないなら、 VisualFortranでDllを作成するなんてのが一番かも知れません。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.