2進数で固定小数点を表現する

(2016/08/15)
  • 2進数で少数を表現する方法

  • 一般に2の補数を使って表現する
  • 最上位が符号、それ以下で値を表現する
  • 01010000 -> 2^(-1) + 2^(-3) = 0.625
  • 負の値の場合は符号点以下の表現する数から1を引く
  • 11010000の場合は0.625 - 1-0.375
  • 整数部も表示する場合は小数点の一から左にbitを拡張していく

  • 01011010で真ん中が小数点の場合
  • 101が小数点より左、1010が小数点以下
  • それぞれ10進数で5, 0.625なので5.625
  • 最上位ビットが0なので5.625
  • 11011010で真ん中が小数点の場合
  • 途中まで上と同じで5.625
  • ただし、最上位ビットが1なので負の値
  • 5.625から1000(2進数)、すなわち8(10進数)を引く
  • つまり-2.375
  • 応用情報技術者試験 bit演算 固定小数点 固定小数点数表現

general(396)