IT資格用語解説応用情報技術者試験・算術演算と精度
丸め
更新日:
用語解説
丸めは、計算の結果が決まった桁数に収まらないときに、決まった規則で近い値にそろえる処理です。
■ 試験で押さえるポイント
切捨て、切上げ、四捨五入などの方法があります。
IEEE 754では、最も近い偶数に丸める方法が標準です。
そろえたことで生じる誤差を丸め誤差といいます。
■ 過去問での着眼点
表現できる桁数に収めるために生じる誤差である点を押さえます。
例: 0.1を2進数で表すと無限に続くため、丸めによる誤差が生じます。