- くだすれPython(超初心者用) その26 [転載禁止]©2ch.net
661 ：デフォルトの名無しさん[sage]：2015/08/08(土) 02:40:51.72 ID:pFFZvIq1 - 浮動小数点(IEEE754)は2進数で、正確に表現できない。
指数部は、2^n のものしか表現できない
0.5 = 2^-1
0.25 = 2^-2
0.125 = 2^-3
上記を組合せたものは、表現できる
0.25 + 0.125 = 0.375
0.1などは、どの組合せでも作れないので、
循環小数となり正確に表現できない
誤差があるから、「0.1 == 変数」のように書けないので、
範囲を持たせて、以下のようにする
0.1 - a < 変数 < 0.1 + a
a は非常に小さい値
IEEE754 を参照
|