情報量
更新日:
用語解説
情報量は、ある出来事が起きたと知ったときに得られる情報の大きさです。確率pの出来事の情報量は、－log₂p（ビット）で表します。
■ 試験で押さえるポイント
起こりにくい出来事ほど、情報量は大きくなります。
必ず起こる出来事（確率1）の情報量は0です。
独立な出来事が同時に起きたときの情報量は、それぞれの情報量の和です。
■ 選択肢での判断ポイント
式－log₂pに確率を代入します。n通りが同じ確率なら、情報量はlog₂nビットです。
例: 8通りが同じ確率なら、確率1／8なので、情報量は3ビットです。