IT資格用語解説基本情報技術者試験・数値の表現
浮動小数点数の精度(単精度・倍精度)
更新日:
用語解説
浮動小数点数(単精度・倍精度)は、浮動小数点数を表すビット数の違いで、倍精度のほうが精度と表せる範囲が大きくなります。
■ 試験で押さえるポイント
単精度は32ビット(仮数部23ビット)で、10進数でおよそ7桁の精度です。
倍精度は64ビット(仮数部52ビット)で、10進数でおよそ15~16桁の精度です。
0.1などは2進数で正確に表せないため、誤差が生じます。
単精度 | 倍精度 | |
|---|---|---|
ビット数 | 32ビット | 64ビット |
指数部/仮数部 | 8ビット/23ビット | 11ビット/52ビット |
10進の精度 | 約7桁 | 約15~16桁 |
■ 選択肢での判断ポイント
倍精度は単精度より精度と範囲が大きく、記憶量も増えます。