- ★初心者以前の質問に雪崩のように答えるスレ 2★
396 ：デフォルトの名無しさん[sage]：2014/04/24(木) 12:05:21.25 ID:kBwfPKkD - > 表現誤差なのか判断出来ないからどこで丸めればいいかが
> 分からないですおね
いったん十進で文字列化して、正しい桁で四捨五入するだけだが？
| - ★初心者以前の質問に雪崩のように答えるスレ 2★
404 ：デフォルトの名無しさん[sage]：2014/04/24(木) 17:56:48.46 ID:kBwfPKkD - > 演算誤差が常にあります。
> 浮動小数点演算では避けられない
> それは規格化されてますので文章を読んでね
>
> それで、演算誤差が出ない方法は、
> １０進演算を行うことです。
> １０進型を使う。ＢＣＤ演算ですね
BCD信者はこれだから困る。
BCDだって誤差は出る。
2進だって正しく扱えば常に問題の起きないようにできる。
|
|