トップページ > プログラム > 2014年04月24日 > Td7nwNK4

書き込み順位＆時間帯一覧

62 位/191 ID中時間01234567891011121314151617181920212223Total
書き込み数0000010000000000000000001



使用した名前一覧書き込んだスレッド一覧
デフォルトの名無しさん
★初心者以前の質問に雪崩のように答えるスレ 2★

書き込みレス一覧

★初心者以前の質問に雪崩のように答えるスレ 2★
395 ：デフォルトの名無しさん[sage]：2014/04/24(木) 05:40:23.66 ID:Td7nwNK4
>>393 >>普通の電卓よりもdoubleの方が精度が高い

そう思ってた時期がわたしにもありました。。てか今までそう思ってたw

64bit double であっても、小数点以下１０桁どころか、0.1 すら近似値じゃん…
10進計算でも割り切れてないのか、表現誤差なのか判断出来ないからどこで丸めればいいかが
分からないですおね


※このページは、『２ちゃんねる』の書き込みを基に自動生成したものです。オリジナルはリンク先の２ちゃんねるの書き込みです。
※このサイトでオリジナルの書き込みについては対応できません。
※何か問題のある場合はメールをしてください。対応します。