固定小数点数
更新日:
用語解説
固定小数点数は、小数点の位置をあらかじめ決めておいて数を表す方式です。整数は、小数点を一番右に置いた固定小数点数といえます。
■ 試験で押さえるポイント
小数部をfビットにすると、表せる最小の刻みはです。
同じビット数なら、小数部を増やすと細かく表せますが、整数部の範囲が狭くなります。
金額を1円単位の整数で持つように、値を何倍かして整数で扱うと誤差を避けられます。
表現方式 | 小数点位置 | 主な特徴 |
|---|---|---|
固定小数点 | あらかじめ固定 | 範囲は狭いが、処理時間と誤差を予測しやすい |
浮動小数点 | 指数に応じて移動 | 広い範囲を扱えるが、丸め誤差に注意 |
■ 選択肢での判断ポイント
浮動小数点数より表せる範囲は狭いですが、処理が速く誤差を予測しやすい点が特徴です。
例: 小数部を8ビットにすると、1.5は256倍した384として格納されます。