[Subject Prev][Subject Next][Thread Prev][Thread Next][Subject Index][Thread Index]

[linux-users:94070] Re: コンパイラにより解析結果が異なる


奥村@松阪大です。

kameoka> うーむ。どうもピンと来ないのですが、例えばある計算をした時に答が
kameoka> 99.999になったり100.001なったりするということなのでしょうか? そうだと
kameoka> すると100という値でカットをかけていたら結果が変わりますね。
kameoka> コンパイラの種類や最適化レベルを統一しておかないと、解析されるデータの
kameoka> 測定誤差を「コンパイラの誤差?」が上回るなんてことになったら、何をやって
kameoka> いるのかわからなくなりますね。

double は約16桁の精度がありますので,通常は大丈夫です。ただ,問題によっ
てはほんのちょっとの違いが拡大して結果が大きく異なるといったことがあり
ます。疑問に思われたときが勉強の最適な時ですので,この際ぜひ数値解析の
本を読んで勉強してください。

-- 
Haruhiko Okumura <okumura _at_ matsusaka-u.ac.jp>
Matsusaka University, 1846 Kubo-cho, Matsusaka, 515-8511 Japan
http://www.matsusaka-u.ac.jp/~okumura/

この情報があなたの探していたものかどうか選択してください。
yes/まさにこれだ!   no/違うなぁ   part/一部見つかった   try/これで試してみる

あなたが探していた情報はどのようなことか、ご自由に記入下さい。特に「まさにこれだ!」と言う場合は記入をお願いします。
例:「複数のマシンからCATV経由でipmasqueradeを利用してWebを参照したい場合の設定について」
Follow-Ups: References: