IT資格用語解説基本情報技術者試験・数値の表現
固定小数点数
更新日:
用語解説
固定小数点数は、ビット列のどの位置に小数点があるかをあらかじめ固定して数を表す方式です。整数は小数点を最下位桁の右に置いた固定小数点表現の一種で、小数を扱う場合は値を一定倍率で拡大した整数として保持します。
■ 試験で押さえるポイント
小数部にfビットを割り当てる2進固定小数点数の刻み幅はです。小数部を増やすと分解能は上がりますが、同じ総ビット数なら整数部の範囲は狭くなります。
浮動小数点数より表現範囲は狭い一方、小数点位置が変わらないので処理時間や誤差を予測しやすく、組込み制御などで使われます。
10進の金額を100倍して整数の最小通貨単位で持つ方法は、2進浮動小数点数で0.1を正確に表せないことによる誤差を避ける代表例です。
演算時には倍率をそろえます。乗算では倍率が二重になるため縮小し、除算では必要な精度を確保してから倍率を調整します。
表現方式 | 小数点位置 | 主な特徴 |
|---|---|---|
固定小数点 | あらかじめ固定 | 範囲は狭いが、処理時間と誤差を予測しやすい |
浮動小数点 | 指数に応じて移動 | 広い範囲を扱えるが、丸め誤差に注意 |
■ 選択肢での判断ポイント
ビット配分から最大値・最小刻みを求める問題、格納整数と実際の値の対応、浮動小数点数との特徴比較が中心です。
例: 小数部を8ビットとし、実値を256倍して格納する形式では、1.5は384として保持します。で、最小刻みはです。