Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss

Re: 小数点形式の場合は、

1 view
Skip to first unread message

Okamoto Yuuji

unread,
Feb 21, 2006, 10:07:59 AM2/21/06
to
 岡本@松山 です.
  最初のお仕事はFORTRANでした.
----------------------------------------------------------------------
In article <dtci1l$mtb$1...@news511.nifty.com>, dora...@ka.baynet.ne.jp says...
>
>有効数字の桁数を一定として
> 扱っているため、落ちたけたの部分には 0 が埋められ、
> 実際の値(真値)との間に誤差が生じてしまいます。
>
> わずかな誤差であっても、その後別の乗算を行ったりすると
> 誤差が大きくなってしまい、正しい演算結果が得られなくなります。

 浮動小数点だと,加減算に気を使いますよね. できれば使いたくない.
  24ビットなコンピュータで12MBとかのメモリでやってた頃は,
倍精度に代入してから計算したり,絶対値の小さ#そうな#奴から処理する
とかやってました.

 今だと,IMPLICIT DOUBLE と書いてコンパイルするだけで良さそう
に見えますけど,
EQUIVALENCE(DATA(1),JATA(1))
と書いてたりしてるとダメダメです.


----------------------------------------------------------------------
ぢゃ (^^)/~~ 岡本 祐二 okam...@mx36.tiki.ne.jp -[終]-
# 次期fj-NGMC選挙,ただいま投票期間中です!!
## fj.news.policy をご覧下さい.


0 new messages