IT資格用語解説基本情報技術者試験・数値の表現
小数の表現
更新日:
用語解説
基数rの小数は、基数点の右から順に、、、…の重みをもつ各桁の和で表します。2進小数では各桁の重みが、、、…になります。
■ 試験で押さえるポイント
2進小数を10進数へ直すときは、1になっている桁の重みを加えます。逆変換では小数部を2倍し、現れた整数部を上から順に並べます。
既約分数の分母が基数の素因数だけで構成されると有限小数になります。したがって10進数のは、分母に因数5を含むため2進数では循環小数です。
有限ビットで循環小数を格納すると丸め又は切捨てが必要になり、表現誤差が生じます。等値比較や多数回の加算では誤差が表面化することがあります。
固定小数点表現では小数点位置を固定し、浮動小数点表現では仮数と指数によって小数点位置を変化させます。
■ 選択肢での判断ポイント
2進小数と10進小数の相互変換、有限小数になる条件、浮動小数点数の丸め誤差を説明させる問題が典型です。
例: です。