Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss

小数点形式の場合は、

0 views
Skip to first unread message

dora

unread,
Feb 20, 2006, 9:08:15 AM2/20/06
to
有効数字の桁数を一定として
　扱っているため、落ちたけたの部分には 0 が埋められ、
　実際の値（真値）との間に誤差が生じてしまいます。

　わずかな誤差であっても、その後別の乗算を行ったりすると
　誤差が大きくなってしまい、正しい演算結果が得られなくなります。
--
http://www.geocities.com/tokyufubai/

0 new messages