トップページ > プログラム > 2018年01月13日 > YXV8ZXe2

書き込み順位＆時間帯一覧

16 位/152 ID中時間01234567891011121314151617181920212223Total
書き込み数0000000000210000000000003



使用した名前一覧書き込んだスレッド一覧
デフォルトの名無しさん
Java入門・初心者質問スレ Part.6

書き込みレス一覧

Java入門・初心者質問スレ Part.6
391 ：デフォルトの名無しさん[sage]：2018/01/13(土) 10:41:07.76 ID:YXV8ZXe2
powの計算は近似値なので、厳密な計算は原理的にできない
doubleだからとか以前にアルゴリズム上必ず誤差が発生する
Java入門・初心者質問スレ Part.6
393 ：デフォルトの名無しさん[sage]：2018/01/13(土) 10:52:02.12 ID:YXV8ZXe2
>>392
1ulpの範囲で誤差は常にあるよ
想定する入力桁数から結果のオーダーを見積もって、適切な桁数で結果を丸めてやらないとダメ
Java入門・初心者質問スレ Part.6
396 ：デフォルトの名無しさん[sage]：2018/01/13(土) 11:16:22.52 ID:YXV8ZXe2
>>395
powの結果の話な
結果の桁数がdoubleの有効桁数と比較してそれほど大きくなければ、単に整数に丸めとけば厳密に正しい数字になるはずだけど


※このページは、『２ちゃんねる』の書き込みを基に自動生成したものです。オリジナルはリンク先の２ちゃんねるの書き込みです。
※このサイトでオリジナルの書き込みについては対応できません。
※何か問題のある場合はメールをしてください。対応します。