- C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
147 ：デフォルトの名無しさん[sage]：2016/08/04(木) 19:09:46.69 ID:7IFnluUJ - >>146
制御したいのは誤差じゃなくて丸めの挙動な
知識を披露したいのはわかるが、話を逸らさないように
doubleの計算で結果が中間値に極めて近い値になるときの丸めの挙動が予測困難であることについて君は何も答えられてないよね
| - C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
148 ：デフォルトの名無しさん[sage]：2016/08/04(木) 19:30:45.91 ID:7IFnluUJ - 数値計算の誤差の考え方には二種類あるんだよ
・誤差があるのは当然だから誤差は明示的に示すか不明確な桁は表示しない
・たとえ計算上の誤差が影響した桁だろうが、ある決まった桁まで数字を出さなければならない
後者は金融系が代表的だね
そして後者の場合、誤差範囲の中でなぜその数字になったか説明するための理由が必要だ
それには、丸めの挙動を制御することが非常に重要なんだよ
| - C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
152 ：デフォルトの名無しさん[sage]：2016/08/04(木) 19:58:40.44 ID:7IFnluUJ - >>151
だからそれをdecimalで解決できるケースもあると言ってるんだけど、理解できないかな?
あんたの理屈だとdouble値が10進数の中間値をとるケースなんて想定すること自体が間違っているということになるよね?
俺もそれには同意するよ
|
|