平成19年 秋期 基本情報技術者 午前 問04
問04 丸め誤差の説明浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
イ 数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。 ウ 乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。 エ 絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。
解説
[←前の問題] [次の問題→] [問題一覧表] [分野別] [キーワード索引] [基本情報技術者試験TOP ]
©2004-2024 情報処理試験.jp
|
プライバシーポリシー・著作権・リンク
|
お問合わせ
| |