エラーは出ていないけど計算結果が少し．
誤差が思ったよりも大きい．
こういうときは，計算過程において実数形で扱うべきところを整数形を使っている可能性がある．
2008年5月29日木曜日
Fortranエラー対策：計算に誤差が生じている
登録:
コメントの投稿 (Atom)
skip to main |
skip to sidebar
情報を何でも書き留めておくサイト
0 件のコメント:
コメントを投稿