絶対値の小さい数値が無視されてしまうことを情報落ちという。
これは、コンピュータの扱える数値の桁数が決まっており、二つの数値は指数を
合わせてから演算されるため、このようなことが起こる。
(ア) ビットの桁数を越えて、溢れてしまうことをオーバーフローと呼び、
0 に近い小数が、精度を保てなくなることをアンダーフローと呼ぶ。
(イ) 「打切り誤差」とは、無限演算等の計算を途中で打ち切ったときに発生する
真値との誤差である。
(ウ) 「けた落ち」とは、絶対値のほぼ等しい数が加減計算によって上位の有効数
字(有効けた)を減らしてしまうことである。例えば、有効数字が5けた同士の計算
1.2354 - 1.2345 では答が 0.0009 となり、有効数字が1けたになる。
【平成14年秋 問04】
|