- ★初心者以前の質問に雪崩のように答えるスレ 2★
400 ：デフォルトの名無しさん[sage]：2014/04/24(木) 17:03:19.48 ID:TkpmM8Pv - >>392
演算誤差が常にあります。
浮動小数点演算では避けられない
それは規格化されてますので文章を読んでね
それで、演算誤差が出ない方法は、
１０進演算を行うことです。
１０進型を使う。ＢＣＤ演算ですね
|
- ★初心者以前の質問に雪崩のように答えるスレ 2★
402 ：デフォルトの名無しさん[sage]：2014/04/24(木) 17:20:47.19 ID:TkpmM8Pv - 演算桁数だから、２４桁で演算を行うと ２４桁と演算精度で結果が出る。
２進演算ならば、変換誤差が出る
|
- ★初心者以前の質問に雪崩のように答えるスレ 2★
405 ：デフォルトの名無しさん[sage]：2014/04/24(木) 18:20:07.95 ID:TkpmM8Pv - 浮動少数点数の演算について、 IEEE754で規定されている。誤差を計算すればわかる。
|