Title:小数点以下の数字の表現
小数点数の表現には、以下の2つの形式があります。
1)固定小数点数表現
・負の数の小数点数の表現
・2進数を10進数で表現したの値(参照:負の数の表現)
2)浮動小数点数表現
・正規化
仮数部の最上位けたが0以外になるように桁を合わせる操作を言う。
・有効桁数
n(10進の桁)=23×0.3
=6.9
10進数の6桁の数字を表せる。
3)IEEE(米国電気電子学会)が定めた短精度の浮動小数点数表現
E | M | 表現される数値 |
0<E<255 | (-1)[s]2[E-127](1.M) | |
正規化される。 | ||
隠れ”1”。 | ||
E=0=(00…0){2} | M≠0 | (-1)[s]2[-126](0.M) |
正規化しない | ||
隠れ”0”。 | ||
M=0 | 0 | |
E=255=(11…1){2} | M=0 | (-1)[s]∞(y÷0演算結果、y≠0) |
M≠0 | 非数(0÷0、0×∞、その他の無効な演算結果 |