掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
StdDevの不正？ (ID:35414)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
TotalVarianceの時点で誤差が発生しますね。 デバッガでみると、 ２乗和 2332709.437 合計の２乗を配列の数で割った数 2332709.437 で、その差は０のはずですが、 -2.2737367544e-13 となっています。 # Delphi7で確認 Doubleで渡していて、内部でExtendedで計算しているため、微妙に誤差が出るみたいです。 一応、Delphiと同じロジックにするのであれば、 StdDev(BB) を、 Sqrt(Abs(Variance(BB))) とすれば出ます。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.