数多くの数値の加算を行う場合,絶対値の小さなものから順番に計算するとよい。 これは,どの誤差を抑制する方法を述べたものか。
これは、コンピュータの扱える数値の桁数が決まっており、二つの数値は指数を 合わせてから演算されるため、このようなことが起こる。
(ア) ビットの桁数を越えて、溢れてしまうことをオーバーフローと呼び、 0 に近い小数が、精度を保てなくなることをアンダーフローと呼ぶ。
(イ) 「打切り誤差」とは、無限演算等の計算を途中で打ち切ったときに発生する 真値との誤差である。
(ウ) 「けた落ち」とは、絶対値のほぼ等しい数が加減計算によって上位の有効数 字(有効けた)を減らしてしまうことである。例えば、有効数字が5けた同士の計算 1.2354 - 1.2345 では答が 0.0009 となり、有効数字が1けたになる。
【平成14年秋 問04】