トップページ
>
プログラム
>
2016年08月04日
>
1Q45SAfi
書き込み順位＆時間帯一覧
19 位
/191 ID中
時間
0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
Total
書き込み数
0
0
0
0
0
0
0
1
0
0
0
0
0
0
0
0
0
0
0
0
0
0
1
1
3
使用した名前一覧
書き込んだスレッド一覧
デフォルトの名無しさん
C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
★★Java質問･相談スレッド178★★ [無断転載禁止]©2ch.net
書き込みレス一覧
C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
137 ：
デフォルトの名無しさん
[sage]：2016/08/04(木) 07:07:58.69 ID:1Q45SAfi
>>136
問題はRoundの結果に対する誤差の影響についての方だろ?
結果が100000.05付近になるとき、100000.1になるか100000.0になるかは
累積の丸め誤差に依存するよね
MSDNでも実際にそれが問題になっている例が示されてる
https://msdn.microsoft.com/ja-jp/library/f5898377(v=vs.110).aspx
結局>>81が示してるようなコーナーケースがあるんだよ
C#, C♯, C＃相談室 Part91 [無断転載禁止]©2ch.net
178 ：
デフォルトの名無しさん
[sage]：2016/08/04(木) 22:51:47.89 ID:1Q45SAfi
誤差が嫌なら整数型でやればいいじゃんってのを実装したのが
まさにdecimalなんだが
★★Java質問･相談スレッド178★★ [無断転載禁止]©2ch.net
381 ：
デフォルトの名無しさん
[sage]：2016/08/04(木) 23:30:39.80 ID:1Q45SAfi
スタック(生存中のローカル変数)から参照されてるんだろ
※このページは、
『２ちゃんねる』
の書き込みを基に自動生成したものです。オリジナルはリンク先の２ちゃんねるの書き込みです。
※このサイトでオリジナルの書き込みについては対応できません。
※何か問題のある場合は
メール
をしてください。対応します。