奥村@松阪大です。 kameoka> うーむ。どうもピンと来ないのですが、例えばある計算をした時に答が kameoka> 99.999になったり100.001なったりするということなのでしょうか? そうだと kameoka> すると100という値でカットをかけていたら結果が変わりますね。 kameoka> コンパイラの種類や最適化レベルを統一しておかないと、解析されるデータの kameoka> 測定誤差を「コンパイラの誤差?」が上回るなんてことになったら、何をやって kameoka> いるのかわからなくなりますね。 double は約16桁の精度がありますので,通常は大丈夫です。ただ,問題によっ てはほんのちょっとの違いが拡大して結果が大きく異なるといったことがあり ます。疑問に思われたときが勉強の最適な時ですので,この際ぜひ数値解析の 本を読んで勉強してください。 -- Haruhiko Okumura <okumura _at_ matsusaka-u.ac.jp> Matsusaka University, 1846 Kubo-cho, Matsusaka, 515-8511 Japan http://www.matsusaka-u.ac.jp/~okumura/
Follow-Ups:
- [linux-users:94176] Re: コンパイラにより解析結果が異なるKazuya Kumazawa
- [linux-users:94065] Re: コンパイラにより解析結果が異なるSatoru Kameoka
- [linux-users:94067] Re: コンパイラにより解析結果が異なるHaruhiko Okumura
- [linux-users:94069] Re: コンパイラにより解析結果が異なるSatoru Kameoka
- Prev by Subject: [linux-users:94069] Re: コンパイラにより解析結果が異なる
- Next by Subject: [linux-users:94071] Re: コンパイラにより解析結果が異なる
- Previous by thread: [linux-users:94069] Re: コンパイラにより解析結果が異なる
- Next by thread: [linux-users:94176] Re: コンパイラにより解析結果が異なる
- Indexes:[Main][Thread]